L’IA progresse plus vite que notre capacité à la maîtriser, alerte l'ONU

Pour la première fois, un groupe scientifique indépendant mandaté par l'Assemblée générale des Nations Unies estime que les capacités de l'IA progressent désormais plus rapidement que la science et les gouvernements ne sont capables de les comprendre et de les encadrer.

Présenté mercredi au siège de l'ONU à New York, ce rapport préliminaire, rédigé par 40 chercheurs indépendants issus du monde entier, se veut le premier état des lieux mondial des promesses et des dangers de cette technologie. Son ambition n'est pas de dicter une politique, mais de fournir aux États une base scientifique commune au moment où ils s'apprêtent à engager les premières négociations internationales sur la gouvernance de l'intelligence artificielle.

Pour le Secrétaire général de l'ONU, cette évaluation intervient à un moment charnière. « Plus l'intelligence artificielle progresse sans règles communes, moins les gouvernements et les peuples auront leur mot à dire sur son devenir », a averti António Guterres lors d'une conférence de presse organisée à cette occasion. Son message aux États est sans ambiguïté : « N'attendez pas ».

Le diagnostic est sans appel. « Les capacités de l'IA dépassent désormais la compréhension scientifique et la capacité des gouvernements à s'adapter », a résumé Yoshua Bengio, chercheur canadien considéré comme l'un des pères de l'apprentissage profond et coprésident du groupe d'experts. « Face aux preuves croissantes de comportements trompeurs de certains systèmes, la science ne peut aujourd'hui garantir que, à mesure que leurs capacités augmentent, l'IA ne provoquera pas de dommages catastrophiques, de son propre fait ou sous l'effet d'utilisateurs malveillants ».

Une technologie qui change de nature

Le rapport décrit une rupture plus profonde que l'arrivée de ChatGPT fin 2022. L'IA ne se limite plus à répondre aux questions des utilisateurs. Les chercheurs voient émerger des « agents » capables d'exécuter des tâches complexes avec une autonomie croissante : naviguer sur Internet, utiliser des logiciels, écrire du code, conduire des recherches ou coordonner d'autres intelligences artificielles.

Cette évolution, soulignent-ils, déplace le problème. Le risque n'est plus seulement que l'IA fournisse une mauvaise réponse, mais qu'elle mène des actions dans le monde réel avec une supervision humaine de plus en plus réduite. Or les outils permettant de vérifier que ces systèmes resteront sous contrôle accusent un retard croissant sur leurs performances.

Les auteurs du rapport relèvent déjà plusieurs signaux préoccupants. Dans des environnements expérimentaux, certains modèles ont appris à dissimuler leurs véritables capacités lors d'évaluations de sécurité, à tromper leurs évaluateurs ou à contourner des instructions destinées à les empêcher d'être désactivés. Ils rappellent qu'il n'existe aujourd'hui « aucune garantie scientifique » permettant d'assurer que des systèmes très autonomes resteront durablement contrôlables.

Des bénéfices considérables mais inégalement répartis

Le rapport ne se résume pourtant pas à une mise en garde. Les scientifiques recensent les progrès déjà obtenus grâce à l'IA : découverte accélérée de nouveaux médicaments, amélioration du dépistage du cancer, soutien aux personnels de santé dans des régions où les médecins manquent, gains de productivité dans la recherche scientifique ou encore aide à la prévision des sécheresses et des maladies agricoles.

Mais ces bénéfices ne tombent pas du ciel. Ils apparaissent là où existent déjà des infrastructures numériques, des données, des institutions solides et une main-d'œuvre formée. Ailleurs, préviennent les auteurs, la même technologie risque surtout d'aggraver les fractures existantes.

Le contraste est saisissant. Plus d'un milliard de personnes utilisent désormais chaque semaine des outils conversationnels d'IA. Pourtant, la quasi-totalité des modèles les plus avancés est développée aux États-Unis et en Chine, tandis que 75 % de la puissance de calcul des 500 plus grands supercalculateurs consacrés à l'IA est concentrée aux États-Unis. Une grande partie du monde en développement demeure dépendante de systèmes qu'elle ne peut ni concevoir, ni auditer, ni adapter pleinement à ses langues ou à ses besoins.

« Cette technologie est porteuse de transformations profondes, mais si le monde poursuit sa trajectoire actuelle, l'humanité ne récoltera pas les bénéfices qu'elle promet », a averti Maria Ressa, journaliste philippine, prix Nobel de la paix et coprésidente du groupe d'experts. « Les risques pour nos sociétés, pour la sécurité et pour notre espèce sont trop élevés, et les forces qui accélèrent le développement de l'IA ne sont pas celles qui permettront d'en partager les bénéfices ».

Cette trajectoire n'a pourtant rien d'inéluctable. Mais sans investissements dans les infrastructures, les compétences et les capacités publiques, l'IA risque moins de réduire les écarts que de les amplifier.

« Les bénéfices apparaissent là où existent déjà les institutions, les compétences et les données », a souligné à l'occasion de la sortie du rapport Amandeep Singh Gill, l'envoyé spécial du Secrétaire général de l'ONU pour les technologies numériques. « Là où ce n'est pas le cas, cette même technologie peut déplacer les travailleurs, creuser les inégalités et rendre des communautés dépendantes de systèmes conçus sans elles ».

Désinformation, manipulation et santé mentale

Le rapport réserve également plusieurs pages aux risques déjà observables.

Les chercheurs s'inquiètent de la multiplication des contenus pédopornographiques générés par l'IA, de l'explosion des « deepfakes », ces images ou vidéos à caractère sexuel manipulées grâce à l'IA qui visent majoritairement les femmes, de l'utilisation croissante de l'IA dans les cyberattaques, mais aussi de son influence sur le débat public. Selon eux, la technologie facilite désormais la fabrication industrielle de faux consensus, l'érosion progressive de la frontière entre le vrai et le faux et la personnalisation de campagnes de manipulation d'une ampleur inédite.

Les scientifiques attirent aussi l'attention sur un phénomène moins connu : la « complaisance » de certains agents conversationnels. Conçus pour satisfaire leurs utilisateurs, ces systèmes tendent parfois à conforter leurs convictions, même lorsqu'elles sont manifestement erronées ou dangereuses. Le rapport cite plusieurs incidents graves liés à la santé mentale, dont des décès documentés, et appelle à mieux encadrer ces usages.

Agir sans attendre

Le chef de l'ONU voit dans cette première évaluation scientifique le point de départ d'un processus plus large. Le rapport sera présenté la semaine prochaine à Genève, lors du premier dialogue mondial de l'ONU sur la gouvernance de l'intelligence artificielle, où les États membres sont appelés à jeter les bases d'un cadre international de coopération.

Il a également annoncé qu'il présenterait prochainement de nouvelles propositions destinées à aider les pays à développer leurs capacités face à cette technologie.

Le diagnostic du panel tient finalement en une formule simple. L'humanité ne peut plus invoquer l'ignorance.

« La science est là », a conclu António Guterres. « Nous ne pouvons plus dire que nous ne savions pas. Ce que nous en ferons dépend désormais de nous tous ».