Face à l’accroissement de la disponibilité des systèmes d’intelligence artificielle et des risques qu’ils sont susceptibles de représenter, l’UNESCO publie des recommandations pour accompagner les Etats signataires dans l’élaboration de leur réglementation. Que prévoient-elles ?
Réglementation de l’intelligence artificielle : quelles sont les recommandations de l’UNESCO ?
Face au développement de plus en plus rapide du marché de l’intelligence artificielle (IA), l’Organisation des nations unies pour l’éducation, la science et la culture (UNESCO) publie des recommandations pour permettre une utilisation éthique de cette nouvelle technologie sans freiner son évolution.
L’objectif principal est donc d’établir un cadre international pour limiter les risques et les dérives (atteintes aux droits de l’homme, accroissement des inégalités entre les pays, menace de la diversité culturelle, discriminations, etc.).
Concrètement, l’UNESCO conseille aux Etats signataires d’articuler leur règlementation en matière d’IA autour de certains principes, dont notamment :
- les principes de proportionnalité et d’innocuité pour favoriser l’élaboration de systèmes d’IA adaptés aux buts recherchés sans qu’ils n’aillent au-delà de ce qui est nécessaire. De plus, leur utilisation ne doit pas conduire à un abus des droits de l’homme ou des valeurs fondamentales. A titre d’exemple, l’utilisation d’une IA à des fins de notation sociale ou de surveillance de masse ne doit pas être possible ;
- les principes d’équité et de non-discrimination : les concepteurs doivent pouvoir éviter tous résultats discriminatoires et rendre leurs systèmes accessibles à tous, quel que soit l’âge, le genre, l’origine, le lieu d’habitation, les connaissances et compétences, la qualité de connexion, etc. ;
- les principes de droit au respect de la vie privée et de la protection des données, par la mise en place de dispositifs de protection des données efficaces et adaptés à cette nouvelle technologie, notamment en matière de collecte, d’utilisation, de divulgation, d’archivage et de suppression de ces données ;
- les principes de responsabilité et de redevabilité : les personnes physiques ou entités juridiques doivent rester responsables de leurs décisions et de leurs actions même si elles ont été prises ou réalisées grâce au recours d’une IA ;
- les principes de transparence et d’explicabilité : les concepteurs doivent comprendre le fonctionnement des systèmes qu’ils mettent en place, ainsi que les résultats qu’ils produisent (algorithmes utilisés, données exploitées, etc.) pour être en mesure de les expliquer. En outre, il est important que les utilisateurs puissent savoir lorsqu’un produit ou un service est fourni grâce à un système d’IA ;
- les principes de sensibilisation et d’éducation pour que l’ensemble des populations puisse utiliser les systèmes d’IA disponibles en connaissance de cause.
Enfin, l’UNESCO préconise également la mise en place de dispositifs de contrôle et d’évaluation par les Etats et les entreprises, permettant notamment de mesurer l’impact éthique de l’IA, et insiste sur la nécessité d’élaborer des systèmes d’IA respectueux de l’environnement et des écosystèmes.
Source : Rapport de l’UNESCO, du 22 novembre 2021
Intelligence artificielle : une utilisation éthique (im)possible ? © Copyright WebLex – 2021
