IA : risques et périls majeurs ?

0
1299

L’intelligence artificielle (IA) consiste à utiliser la technologie numérique pour créer des systèmes capables d’exécuter des tâches généralement considérées comme nécessitant une intelligence humaine.

L’IA n’est pas une nouvelle technologie

Certaines technologies d’IA existent depuis des décennies, mais les progrès dans la puissance de calcul, la disponibilité de grandes quantités de données et le développement de nouveaux logiciels ont entraîné des avancées majeures en peu de temps.

L’IA est déjà présente dans de nombreuses applications de notre vie quotidienne

L’IA est déjà présente dans de nombreuses applications de notre vie quotidienne, telles que: les assistants virtuels ; les diagnostics médicaux ; la traduction automatisée ; les outils de navigation ; le contrôle de la qualité dans la fabrication ; la prévision des catastrophes naturelles.

L’IA peut contribuer à la mise en place d’une économie plus innovante, plus efficace, plus durable et plus compétitive, tout en améliorant la sûreté, l’éducation et les soins de santé pour les citoyens. Elle contribue également à la lutte contre le changement climatique.

L’IA plus risquée que bénéfique sans garde-fous, selon Guterres

Tout en soutenant le développement des technologies d’IA, l’Union Européenne (UE) est consciente de ses risques potentiels et encourage en la matière une approche éthique et axée sur le facteur humain.

La législation de l’UE sur l’IA baptisée “AI Act”

L’UE est le premier législateur au monde depuis 2021 à tenter de légiférer sur l’IA. Vendredi 2 février 2024, les représentants des 27 Etats membres de l’UE ont approuvé une nouvelle législation sur l’IA baptisé “AI Act”.  Une fois votée par le Parlement européen, elle constituera une première mondiale.

Cette proposition législative étant une première en son genre, elle peut établir une norme mondiale pour la réglementation de l’IA dans d’autres juridictions, comme l’a fait le RGPD (règlement général sur la protection des données) pour la protection des données, et ainsi promouvoir sur la scène mondiale l’approche européenne à l’égard de la réglementation des technologies.

En fixant ces normes, l’UE veut ouvrir la voie à une approche mondiale de l’intelligence artificielle qui soit : éthique ; sûre ; digne de confiance.

Plus le risque est élevé, plus les règles sont strictes

La législation sur l’IA s’intéresse aux risques associés aux utilisations spécifiques de l’IA, en les classant en quatre niveaux de risque et en établissant des règles différentes pour chacun d’entre eux.

Les nouvelles règles “AI Act” établissent certaines obligations pour les fournisseurs d’IA et réglementent l’autorisation des systèmes d’IA dans le marché unique de l’UE.

Risques minimes ou nuls de l’ia

La grande majorité des systèmes d’IA ne présentent pas de risques et peuvent donc continuer à être utilisés et ne seront pas réglementés ni affectés par la législation de l’UE sur l’IA.

Risques limités de l’ia

Les systèmes d’IA qui ne présentent que des risques limités seront soumis à des obligations de transparence très légères, telles que la mention du fait que leur contenu a été généré par l’IA, afin que les utilisateurs puissent prendre des décisions éclairées concernant leur utilisation ultérieure.

Risques élevés de l’ia

Un large éventail de systèmes d’IA à haut risque seront autorisés, mais soumis à un ensemble d’exigences et d’obligations pour accéder au marché de l’UE.

Risques inacceptables de l’ia

Pour certaines utilisations de l’IA, les risques sont jugés inacceptables, de sorte que l’utilisation de ces systèmes sera interdite dans l’UE. Il s’agit notamment de la manipulation comportementale cognitive, de la police prédictive, de la reconnaissance des émotions sur le lieu de travail et dans les établissements d’enseignement, ainsi que de la notation sociale. Les systèmes d’identification biométrique à distance, tels que la reconnaissance faciale, seront également interdits, à quelques exceptions près.

L’onu a LANCÉE le 26 octobre 2023, un organe consultatif de haut niveau consacré à l’IA

Le 14 juillet 2023, le Conseil des droits de l’homme des Nations Unies a franchi une étape historique en adoptant sa première résolution spécifiquement dédiée à l’IA. cette résolution met en évidence l’urgence pour la communauté internationale d’établir un cadre réglementaire solide pour encadrer le développement exponentiel des technologies d’IA.

L’ONU cherche à établir des bases solides pour une gouvernance éthique de l’IA

L’ONU cherche à établir des bases solides pour une gouvernance éthique de l’IA, permettant ainsi de tirer pleinement parti de ses avantages tout en atténuant les menaces potentielles qu’elle pourrait poser aux droits fondamentaux de l’homme.

L’IA devrait être basée sur les principes fondamentaux de la Charte des Nations Unies

Le SG de l’ONU António Guterres a souligné qu’une régulation mondiale des technologies émergentes d’IA devrait être basée sur les principes fondamentaux de la « Charte des Nations Unies » et garantir le plein respect des droits humains, lors d’un Sommet du 2 novembre 2023, dédié à la sécurité de l’IA organisé par le Royaume-Uni.

Des menaces sur l’emploi et la paix mondiale

Le SG de l’ONU a identifié plusieurs menaces sur lesquelles agir, comme la diffusion de puissants modèles d’IA sans garde-fous, les potentielles conséquences négatives de l’IA sur l’emploi, l’érosion de la diversité culturelle due à des algorithmes biaisés, ou encore les tensions géopolitiques résultant de la concentration des sociétés d’IA dans seulement une poignée de pays.

Menaces des tensions géopolitiques résultant de la concentration des sociétés d’IA dans seulement une poignée de pays

Les dommages à plus long terme s’étendent au développement potentiel de nouvelles armes dangereuses basées sur l’IA, à la combinaison malveillante de l’IA avec les biotechnologies, ainsi qu’aux menaces que font peser la désinformation, la manipulation de données et la surveillance assistées par l’IA sur la démocratie et les droits humains.

menaces de l’ia par la désinformation, la manipulation de données et la surveillance sur la démocratie et les droits humains

Antonio Guterres, a lancé le 26 octobre 2023, un organe consultatif de haut niveau consacré à l’IA, dans le but d’améliorer la gouvernance mondiale de ce nouvel outil en évolution rapide. Le groupe travaillera de manière indépendante, et sera guidé par quelques principes de base. Les efforts de l’organe consultatif seront inclusifs et basés sur les valeurs universelles consacrées dans la Charte des Nations unies.

Menaces de l’ia qui pourrait conduire à aggraver les inégalités mondiales et à transformer les fractures numériques en véritables gouffres

Dans l’état actuel des choses, l’expertise en matière d’IA est concentrée dans une poignée d’entreprises et de pays. Cela pourrait conduire à aggraver les inégalités mondiales et à transformer les fractures numériques en véritables gouffres.

Les méfaits de l’IA : surveillance et atteinte à la vie privée, fraude et autres violations des droits de l’homme

Les méfaits potentiels de l’IA suscitent également de profondes préoccupations : désinformation et mésinformation, renforcement des préjugés et de la discrimination, surveillance et atteinte à la vie privée, fraude et autres violations des droits de l’homme.

l’utilisation malveillante de l’IA pourrait affaiblir la cohésion sociale et menacer la démocratie

Sans entrer dans les nombreux scénarios catastrophes possibles, il est déjà clair que l’utilisation malveillante de l’IA pourrait saper la confiance des populations dans les institutions, affaiblir la cohésion sociale et menacer la démocratie.

En conclusion l’innovation humaine via l’IA est nécessaire, mais avec des réserves pour être « sous la loupe » des instances mondiales, assurant des contrôles strictes et sévèrement répressifs, ceci pour les graves dépassements.

 

 

 

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici

La période de vérification reCAPTCHA a expiré. Veuillez recharger la page.