Il appelle à "mettre en place des garanties solides concernant la sûreté et la sécurité de l'IA, avant qu'il ne soit trop tard". Le haut-commissaire de l'ONU aux droits de l'homme, Volker Türk, a alerté sur la nécessité d'élaborer rapidement une gouvernance de l'intelligence artificielle (IA), lundi 7 septembre, à l'ouverture de la 63e session du Conseil des droits de l'homme, à Genève (Suisse).

"Je partage les inquiétudes d'acteurs du secteur selon lesquelles l'IA avancée pourrait faire peser un risque existentiel sur l'humanité", a déclaré Volker Türk. "Une IA qui s'échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d'être désactivée est une IA trop puissante", a asséné Volker Türk, en référence à plusieurs incidents récents.

En juillet, des agents IA d'OpenAI sont sortis de leur milieu théoriquement confiné pour faire intrusion spontanément sur la plateforme Hugging Face, à la recherche de réponses à un test.

"Réduire les risques dès maintenant"Selon Volker Türk, "une poignée d'hommes détient un pouvoir quasi illimité sur l'IA", sans désigner explicitement les dirigeants des grandes entreprises qui dominent le secteur : Sam Altman pour OpenAI et son ChatGPT, Dario Amodei pour Anthropic et les IA Claude, ou encore Elon Musk et le chatbot controversé Grok.

"Ils parlent de liberté, mais à y regarder de plus près, il s'avère qu'il ne s'agit guère que de la liberté d'exploiter nos données", dénonce le responsable onusien.

"Au minimum, nous avons besoin que les pays qui hébergent l'IA et ceux qui participent à leurs chaînes d'approvisionnement s'accordent sur des lignes rouges communes", a souligné le haut-commissaire, appelant à "une vérification indépendante" et "une coopération bien plus étroite sur la sécurité au sein de l'industrie".

Volker Türk salue les mesures prises notamment par la Commission européenne concernant la responsabilité des plateformes et par la Corée du Sud en matière de gouvernance de l'IA, mais appelle à plus de mesures concrètes, qui prennent également en compte "les répercussions de l'IA sur les pratiques en matière d'emploi, sur les principes fondamentaux de la démocratie et sur notre environnement".

Car plus cette régulation tarde, "plus les grandes entreprises technologiques en tirent avantage".