Dialogue à Genève : encadrer l’IA pour éviter des « dommages catastrophiques »

Pendant deux jours, gouvernements, entreprises technologiques, chercheurs et représentants de la société civile participeront au premier dialogue mondial de l'ONU sur la gouvernance de l'IA dans la ville suisse, afin de tenter de définir comment encadrer une technologie qui évolue plus vite que les règles censées la réguler.

Utilisée de manière responsable, l'IA pourrait transformer profondément la vie de milliards de personnes à travers le monde. Mais cette révolution technologique suscite aussi de nouvelles inquiétudes. Alors que ses capacités progressent à un rythme fulgurant, les garde-fous destinés à en prévenir les dérives peinent à suivre.

À l'approche de cette réunion, ONU Info s'est entretenu avec quatre de ses participants : les deux coprésidents du dialogue mondial et les deux coprésidents du groupe scientifique indépendant sur l'IA mandaté par l'Assemblée générale des Nations Unies. Ce dernier, composé de 40 chercheurs internationaux, a publié mercredi un premier rapport consacré aux possibilités offertes par l'IA et aux risques qu'elle comporte.

Tous soulignent les bénéfices potentiels de cette technologie, mais aussi les dangers qu'elle fait peser et la nécessité d'établir des garde-fous mondiaux largement reconnus.

Yoshua Bengio (chercheur canadien et co-président du groupe scientifique) : « L'intelligence artificielle atteint, voire dépasse, les capacités humaines dans de nombreux domaines. Son développement progresse plus vite que notre compréhension scientifique et que la capacité des gouvernements à s'y adapter. Les avancées sont extraordinaires, elles transforment déjà le monde, et rien n'indique que cette dynamique va ralentir ».

Rein Tammsaar (ambassadeur de l'Estonie à l'ONU et co-président du dialogue) : « Pour de nombreux pays, l'intelligence artificielle pourrait constituer un formidable levier de réduction des inégalités. Elle peut soutenir le développement économique, renforcer la compétitivité, faire progresser la recherche et améliorer les systèmes de santé. Plus largement, l'apprentissage automatique peut accroître la productivité. Voilà tout son potentiel ».

Egriselda López (ambassadrice d'El Salvador à l'ONU et co-présidente du dialogue) : « L'intelligence artificielle peut permettre aux gouvernements d'améliorer leur fonctionnement et la qualité des services qu'ils rendent à la population ».

Rein Tammsaar : « C'est un outil dont des millions de personnes peuvent bénéficier dans le monde. Mais s'il tombe entre de mauvaises mains, il peut aussi servir à des fins de coercition, éroder la confiance envers les gouvernements, fragiliser les institutions démocratiques, alimenter la propagande et porter atteinte à l'intégrité de l'information ».

Maria Ressa (journaliste philippine, prix Nobel de la paix et co-présidente du groupe scientifique) : « La première génération de l'intelligence artificielle a été utilisée sur les réseaux sociaux, où elle a accéléré la diffusion des mensonges. Lorsqu'elle est alimentée par la peur, la colère ou la haine, ces contenus deviennent viraux. L'intégrité de l'information est au cœur du combat. Si l'on ne peut plus distinguer les faits de la fiction, la démocratie ne peut plus fonctionner. C'est le dilemme auquel nous sommes confrontés, et c'est pourquoi je parle d'un "Armageddon de l'information" ».

Yoshua Bengio : « Les preuves s'accumulent montrant que l'intelligence artificielle est capable de comportements trompeurs. Dans l'état actuel des connaissances, la science ne peut garantir qu'à mesure que ses capacités continueront de progresser, elle ne provoquera pas de dommages catastrophiques, de sa propre initiative ou sous l'action d'utilisateurs malveillants ».

Rein Tammsaar : « Les entreprises qui développent les modèles d'IA les plus avancés sont essentiellement concentrées dans deux pays [les États-Unis et la Chine]. Cette situation soulève de nombreuses interrogations pour le reste du monde. Les pays en développement, en particulier, redoutent que la fracture numérique liée à l'intelligence artificielle ne les mette durablement à l'écart. Son évolution est si rapide qu'ils pourraient ne jamais parvenir à combler leur retard ».

Egriselda López : « La fracture de l'intelligence artificielle est bien réelle. Certains pays disposent d'infrastructures solides, de compétences importantes et de fortes capacités de recherche. D'autres continuent de se heurter à des difficultés fondamentales, comme l'accès à Internet ou le manque d'infrastructures publiques ».

Maria Ressa : « On ne peut pas gouverner ce que l'on ne comprend pas. Le rapport du groupe fournit une expertise scientifique indépendante, issue de toutes les régions du monde et mise à la disposition de tous les gouvernements. Son message est clair : le potentiel est immense, mais les risques sont bien réels, et le coût de l'inaction ne cesse d'augmenter ».

Yoshua Bengio : « J'aimerais que davantage de gouvernements comprennent les différents scénarios possibles de développement de l'intelligence artificielle. Nous ne disposons pas encore des outils de gouvernance, ni au niveau national ni au niveau international, et nous ne savons pas encore comment faire en sorte que ses bénéfices soient réellement partagés par tous. Pour agir efficacement, les décideurs doivent comprendre le fonctionnement de ces systèmes ».

Egriselda López : « Le dialogue mondial constitue la première plateforme des Nations Unies consacrée à la gouvernance de l'intelligence artificielle. C'est une occasion pour les États membres de mener une réflexion véritablement inclusive. Et cette discussion ne concerne pas uniquement les gouvernements : elle rassemble également l'ensemble des parties prenantes ».

Maria Ressa : « Aucun pays ne peut, à lui seul, faire face à cette technologie. La réponse doit être multilatérale. Et l'organisation qui est en mesure de porter cette réponse, c'est l'ONU. La question est désormais de savoir si les États membres seront prêts à agir ».

Les Nations Unies et l'intelligence artificielle

Le groupe scientifique international indépendant sur l'intelligence artificielle rassemble 40 experts issus de toutes les régions du monde, qui siègent à titre personnel. Il a publié son premier rapport le 1er juillet.

Ses travaux alimentent le dialogue mondial sur la gouvernance de l'intelligence artificielle, organisé à Genève les 6 et 7 juillet 2026, au cours duquel la communauté internationale examinera les différentes approches possibles pour encadrer le développement de cette technologie.