Citant un rapport du Centre for AI Safety, le New York Times a rapporté qu'un groupe de plus de 350 leaders de l'industrie IA a averti que l'intelligence artificielle crée un danger nouveau et croissant pour l'humanité qui devrait être considérée comme un « risque social au même titre que les pandémies et les guerres nucléaires ».

Dans une déclaration publiée sur leur site web, les fondateurs de l'OPENAI, Greg Brockman et Ilya Sutskever, ainsi que le directeur général, Sam Altman, affirment que pour réglementer les risques liés aux systèmes d'IA, il faudrait « un organisme de surveillance international, semblable à l'Agence internationale de l'énergie atomique (une agence de l’ONU basée à Vienne) qui promeut les utilisations pacifiques de l'énergie nucléaire ».

« Étant donné la possibilité d'un risque existentiel, nous ne pouvons pas nous contenter d'être réactifs », ont-ils averti dans une déclaration commune il y a quelques semaines.

L'Organisation des Nations unies pour l'éducation, la science et la culture (UNESCO), qui a accueilli plus de 40 ministres lors d'une réunion en ligne inédite le 26 mai, a indiqué que moins de 10 % des écoles et des universités suivent des directives officielles sur l'utilisation d'outils d'intelligence artificielle (IA) extrêmement populaires, tels que le logiciel de chat bot, ChatGPT.

Interrogé sur le rôle des Nations unies vis-à-vis de l'IA, l'ambassadeur Anwarul Chowdhury, ancien secrétaire général adjoint et haut représentant de l’ONU, a déclaré que le secrétaire général des Nations unies, Antonio Guterres, dans son rapport intitulé Notre agenda commun (OCA en anglais) publié en septembre 2021, promettait de « travailler avec les États membres pour établir une plateforme d'urgence afin de répondre aux crises mondiales complexes ». « Cette plateforme ne serait pas un nouvel organe ou une nouvelle institution permanente. Elle serait déclenchée automatiquement en cas de crise d'une échelle et d'une ampleur suffisantes, quel que soit le type ou la nature de la crise en question ».

L'IA est sans aucun doute l'une de ces « crises mondiales complexes » et il est grand temps que le secrétaire général partage officiellement sa réflexion sur la manière dont il envisage de relever le défi, a déclaré l'ambassadeur Chowdhury, fondateur du Mouvement mondial pour la culture de la paix.

Il a souligné qu’on ne peut pas attendre que le Sommet du futur, convoqué par le Secrétaire général pour septembre 2024, discute d'un régime réglementaire mondial pour l'IA sous l'autorité de l'ONU. Selon lui, à cette date, la technologie de l'IA se sera développée d'une manière telle qu'aucune gouvernance mondiale ne sera en mesure de la contrôler.

Robert Whitfield, président de One World Trust et du groupe de travail transitoire sur l'IA, a déclaré que la question de l'ONU vis-à-vis de l'IA est que l'IA a désespérément besoin d'une gouvernance mondiale et que l'ONU est le siège naturel d'une telle gouvernance.

Actuellement, a-t-il souligné, l'ONU prépare un Pacte mondial pour le numérique qui sera approuvé en septembre 2024 et qui devrait inclure l'intelligence artificielle. « Mais en réalité, l'ONU est à peine au point de départ en ce qui concerne la gouvernance de l'IA, alors que le Conseil de l'Europe, où je me trouve en ce moment, est en pleine négociation d'une convention-cadre sur l'intelligence artificielle ».

Les travaux du Conseil de l'Europe se limitent, toutefois, à l'impact sur les droits de l'homme, la démocratie et la primauté du droit, alors qu'il s'agit d’un problème très vaste. Et, bien que la participation aux traités du Conseil de l'Europe soit beaucoup plus large que celle de l'Union européenne, d'autres pays étant accueillis en tant que signataires, a-t-il déclaré, il n'a pas une portée véritablement mondiale, tandis que tout accord de l'ONU a une portée plus large.

« Le principal avantage de l’ONU est qu'elle chercherait à inclure tous les pays, y compris la Russie et la Chine, sans doute le pays dont le secteur de l'intelligence artificielle est le plus avancé du monde », a déclaré M. Whitfield. On peut donc envisager un processus en deux étapes :

- Un accord international initial au sein du Conseil de l'Europe, qui verrait le jour après la finalisation de la loi européenne sur l'IA.

- Une convention-cadre des Nations unies sur l'intelligence artificielle qui serait élaborée ultérieurement, peut-être après la création d'un forum multipartite sur la gouvernance de l'IA. Une telle convention pourrait bien inclure la création d'une agence équivalente à l'Agence internationale de l'énergie atomique, comme l'ont demandé récemment les Sages.

Andreas Bummel, directeur exécutif de Démocratie sans frontières, a déclaré : « La gouvernance de l'IA par l'ONU devrait aller au-delà des mécanismes intergouvernementaux habituels et donner aux représentants élus par les citoyens un rôle clé par l'intermédiaire d'un organe parlementaire mondial ».

Le champ d'action d'une telle assemblée parlementaire pourrait être étendu à d'autres questions et non pas seulement au domaine de l'IA, et renforcer le caractère inclusif et représentatif de l'ONU, a-t-il ajouté.

Alors que l'IA générative redéfinit le débat mondial sur l'impact de l'intelligence artificielle, l'Union internationale des télécommunications (UIT), l'agence spécialisée des Nations unies pour les technologies de l'information et de la communication, accueillera le « Sommet mondial de l'IA pour le bien » de 2023 les 6 et 7 juillet à Genève. Cet événement de deux jours présentera la technologie de l'intelligence artificielle et des robots dans le cadre d'un dialogue mondial sur la manière dont l'intelligence artificielle et la robotique peuvent servir de forces pour le bien et soutenir les objectifs de développement durable de l’ONU.

L'événement accueillera la première conférence de presse des robots tenue par l’ONU, avec une séance de questions-réponses avec les journalistes inscrits. Au total, plus de 40 robots spécialisés dans les tâches humanitaires et de développement seront exposés, et des rencontres seront organisées avec des cadres de l'industrie, des responsables gouvernementaux et des leaders d'opinion sur l'IA et la technologie.

Parallèlement, un groupe d'experts en droits de l'homme nommés par l’ONU a mis en garde contre l'augmentation des logiciels espions et de la désinformation alimentés par l'IA, et a souligné l'urgence de réglementer cet espace.

Dans une déclaration du 2 juin, les experts ont indiqué que les technologies émergentes, y compris les systèmes de surveillance biométrique basés sur l'intelligence artificielle, sont de plus en plus utilisées « dans des contextes sensibles », à l'insu des individus et sans leur consentement.

« Des lignes rouges réglementaires urgentes et strictes sont nécessaires pour les technologies qui prétendent reconnaître les émotions ou le sexe », ont déclaré les experts, dont Fionnuala Ní Aoláin, rapporteuse spéciale sur « la promotion et la protection des droits de l'homme dans la lutte antiterroriste ».

Les experts, nommés par le Conseil des droits de l'homme de l’ONU, ont déjà condamné l'utilisation et l'impact alarmants des logiciels espions et des technologies de surveillance sur le travail des défenseurs des droits de l'homme et des journalistes, « souvent sous le couvert de mesures de sécurité nationale et de lutte contre le terrorisme ».

Ils ont également appelé à une réglementation pour faire face au développement fulgurant de l'IA générative qui permet la production massive de faux contenus, de la désinformation et des discours de haine qui sont diffusés en ligne.

Voir, Does Artificial Intelligence Need a Regulatory UN Watchdog? Voir aussi  Intelligence artificielle: premier feu vert des eurodéputés sur un projet de règlement