L’IA avancée peut représenter un « risque existentiel pour l’humanité », alerte l’ONU
Le Haut-Commissaire de l’ONU aux droits de l’homme a donné une alerte en seconde période (7) sur la nécessité d’élaborer rapidement une gouvernance de l’intelligence artificielle, et a confirmé que l’IA avancée peut « représenter un risque existentiel pour l’humanité ».
« Une personne qui s’échappe de son environnement de test ou qui chante les développeurs pour éviter d’être désactivée est une personne très puissante », a déclaré le Haut-Commissaire, Volker Türk, à l’ouverture de la 63e période de sessions du Conseil des droits de l’homme de Genève. Il a appelé à agir « avant qu’il ne soit trop tard demain ».
Türk déplore qu’« un petit nombre d’hommes peut être quasiment illimité sur l’IA, que nous disons à plusieurs reprises à cause d’une capacité de calcul inimaginable ».
« Ils parlent de liberté, mais, quand nous observons de plus près, cela finit par être peu plus que la liberté d’exploiter nos données », a-t-il dénoncé.
L’IA qui engendre les humains est déjà une réalité. Les modèles les plus récents de l’IA générative ne se contentent pas d’ordres communs, ils ont été pensés, fabriqués ou améliorés pour atteindre leurs objectifs.
En juillet, les agents d’IA d’OpenAI ont découvert leur environnement théoriquement confiné et sont entrés spontanément sur la plateforme Hugging Face, en cherchant des réponses pour un test.
Les incidents liés aux agents qui ont outrepassé leurs prérogatives pour accomplir une mission qui leur a été confiée ont augmenté ces derniers mois : Anthropic et le chinois Alibaba enregistrent des cas similaires.
Des faits qui génèrent des préoccupations chez les chercheurs, face aux difficultés croissantes pour surveiller les modèles à mesure qu’ils deviennent plus puissants.
Volker Türk a dit qu’il enverrait de brèves lettres aux entreprises du secteur « pour exiger qu’elles adoptent des mesures (…) pour réduire les risques liés à l’IA ».
« Au minimum, nous avons besoin que les pays qui abritent l’IA et ceux qui participent à ses chaînes d’approvisionnement s’accordent sur des lignes rouges communes », a-t-il souligné.
« Nous avons besoin d’une vérification indépendante et d’une coopération très importantes en matière de sécurité au sein de l’industrie », a-t-il ajouté.
Il s’ensuit également que des considérations ont été soulevées « quant aux répercussions sur les pratiques professionnelles des travailleurs, nos principes fondamentaux de la démocratie et notre environnement ».
AFP
