Intervención del presidente del Gobierno en la inauguración de la primera reunión del Panel de Expertos en IA de Naciones Unidas

Congreso de los Diputados, Madrid

INTERVENCIÓN DEL PRESIDENTE DEL GOBIERNO, PEDRO SÁNCHEZ

Lo primero es dar las gracias a la presidenta del Congreso por haber acogido esta importante reunión multilateral del Panel Científico Independiente, que nos va a ayudar a todos y a todas, al conjunto de la sociedad, también a los gobiernos, a poder entender, comprender y encauzar este desafío que es el de la revolución tecnológica. Así que muchísimas gracias, presidenta, por acogernos además en esta sala, que es la Sala Constitucional, una de las salas más importantes del Congreso de los Diputados en España.

Yo tengo que decirles que estoy muy feliz, muy feliz, muy agradecido por el esfuerzo que han hecho de poder venir a Madrid para tener su primera reunión presencial en esta ciudad. En todo caso, venir a Madrid siempre merece la pena. Y estoy muy feliz porque, primero, creo que estamos haciendo un acto de refuerzo del sistema multilateral que está siendo atacado, y lo estamos haciendo además en un ámbito -el de la Inteligencia Artificial-, donde claramente necesitamos una respuesta multilateral global, donde todas las naciones se sienten en pie de igualdad. Y, además, donde exista una alianza entre empresas, academia, mundo científico, poder Legislativo y poder Ejecutivo. Por eso pensamos desde Madrid que era muy acertado el poder celebrar esta reunión en la sede de la soberanía nacional de nuestro país.

Aquí se ha dicho por parte de los expertos y expertas, de manera mucho más elocuente que lo que yo voy a decir; también la presidenta del Congreso- algunas reflexiones, algunas ideas que me gustaría lanzar. Me da pena que, probablemente, esta reunión no vaya a abrir telediarios, no vaya a abrir las noticias ni en el día de hoy, ni en el día de mañana; pero sin duda alguna es un hito trascendental en el compromiso que tiene España, y que tiene también en el multilateralismo, en dar respuesta a desafíos de primer orden como es el desarrollo de la Inteligencia Artificial.

Como decía, aquí se ha dicho (que) la Inteligencia Artificial plantea muchas preguntas porque puede utilizarse esa misma tecnología para distinto propósito. Podemos hacerlo para salvar vidas o para acabar con ellas, como por desgracia ya está sucediendo en hospitales, pero también en escenarios de guerra no muy lejanos de aquí. Por tanto, con tanto en juego es lícito preguntarse quién decide el rumbo de la Inteligencia Artificial, quién guía la dirección que debe tomar la tecnología más transformadora de nuestro tiempo. Y creo que todos podemos convenir en que la respuesta es clara y a la vez incómoda: Desde luego, no lo deciden las sociedades; no lo decide tampoco el poder Legislativo de las naciones; no lo deciden los gobiernos elegidos democráticamente; ni siquiera lo decide el mercado, sino un pequeño reducido grupo de empresas. Baste decir que solo cinco de ellas concentran casi el 60% del mercado mundial de la inteligencia artificial generativa -el 60% solo cinco empresas-, las cinco del mismo país que concentra el 74% de la capacidad mundial de cómputo de la Inteligencia Artificial, cuando la Unión Europea, ni siquiera -antes lo comentaba el representante de la Universidad de Santiago de Compostela-, - representa solamente el 5%.

Por tanto, efectivamente, ese colonialismo silencioso se está produciendo en todos los lugares del mundo y también en Europa. Por tanto, no estamos hablando de concentrar capacidades, estamos hablando de concentración de poder, porque la tecnología es poder y, por tanto, no es mercado lo que estamos viendo. Lo que estamos viendo es la construcción de una oligarquía que responde a sus únicos y exclusivos intereses y que, además, en el año 2025 el sector privado de este país invirtió -para que nos hagamos una idea- 286.000 millones de dólares en Inteligencia Artificial; en 2025, 286.000 millones de dólares se invirtieron en Estados Unidos en Inteligencia Artificial, el equivalente al 17% del Producto Interior Bruto español, 14 veces más que Europa, 23 veces más que China.

Me gustaría también preguntar: de toda esa inversión ¿cuánto se destinó a la seguridad frente al desarrollo de la Inteligencia Artificial? Porque estoy convencido de que la cifra es, o será, ínfima. Por tanto, yo creo que hay muchísimo trabajo por hacer. La pregunta que debemos plantearnos es quién y cómo se va a beneficiar de esta tecnología. Por eso me parece que es muy relevante el que todas las naciones estén en pie de igualdad, que sea Naciones Unidas quien albergue y concentre y vincule este este debate.

Muchos creen que la tecnología por sí sola genera progreso social. Bueno, es una verdad a medias. Son las personas quienes construyen ese progreso social. Son, por tanto, las sociedades, los gobiernos que legítima y democráticamente representamos a esas sociedades -junto con el poder legislativo-, quienes garantizamos que el progreso tecnológico no implique retrocesos en otros ámbitos, y la historia ofrece múltiples ejemplos; antes, la presidenta del Congreso del Congreso ha hecho referencia a ellos. La máquina de vapor evidentemente impulsó la revolución industrial, pero también trabajos de explotación laboral, jornadas inhumanas y también trabajo infantil. La energía nuclear abrió una nueva era científica, sin duda alguna, pero también causó la devastación de Hiroshima y Nagasaki. Las redes sociales prometían una sociedad más abierta, conectada, democrática, y como bien ha dicho antes María, hoy es un 'Estado fallido', cada vez con más recursos, más capacidades económicas para dañar y socavar la convivencia y nuestros sistemas democráticos.

Y fue precisamente la sociedad en su conjunto: la ciencia, la academia, los sindicatos, las empresas, la clase media y también conjuntamente el poder Legislativo y Ejecutivo, quienes se convirtieron la revolución industrial en bienestar. Fueron los gobiernos y la ciencia los que limitaron el uso de la energía nuclear. Desgraciadamente, hoy se ha superado ese tratado de no proliferación de armamento nuclear y desde España estamos abogando por que esas potencias nucleares vuelvan a sentarse para acordar un nuevo tratado de no proliferación de armamento nuclear. Y deben, por tanto, también ser los poderes públicos conjuntamente con la empresa, con la academia, la ciencia y los representantes sociales los que convirtamos este espacio digital en aquello que nos prometieron.

Porque evidentemente ninguna tecnología es neutral. Depende de quién la controla, de cómo se regula y para qué se utiliza. Creo que con la inteligencia artificial estamos en ese punto de inflexión histórico, un momento clave para el que nos, sin duda alguna, nos van a juzgar las generaciones futuras a las cuales antes se hacía referencia. No se trata de una tecnología más. Es una tecnología con efectos profundos y difíciles de anticipar, capaz de generar beneficios increíbles, pero también de amplificar riesgos, amenazas inéditas para la humanidad.

Por tanto, es verdad que hemos progresado, y mucho desde el punto de vista tecnológico; lo que no sé es si hemos progresado también a la par desde los aspectos más morales de cómo gobernar y canalizar esta inteligencia artificial. Creo que ahora que se habla mucho de rearme, lo que tenemos que hacer es rearmarnos moralmente también para hacer frente a los desafíos tecnológicos logrados gracias a la pericia humana y a la innovación y al aporte de la ciencia.

Creo que tiene que ser, en todo caso, gobernada por reglas comunes para todos y para todas, con principios compartidos, con responsabilidad ética y democrática y también con un multilateralismo eficaz. Esa es la visión que, creo, tiene la Unión Europea. Desde luego es la que tratamos de aportar humildemente desde España. Europa ha sido la primera en darse un marco común bajo la presidencia española de la Unión Europea sobre inteligencia artificial, no para frenar la innovación -eso es imposible, no se pueden poner puertas al campo-, pero sí al menos para canalizarla en unos parámetros y en un marco con una mirada humanista y moral sobre cuáles son los desafíos que debemos afrontar conjuntamente con la inteligencia artificial. Para que la tecnología más transformadora de nuestro tiempo avance en la misma dirección que nuestras sociedades y que nuestras democracias, con derechos protegidos, con seguridad jurídica y con confianza.

Por tanto, seamos claros, ni siquiera los propios creadores de los modelos más potentes creen que el mercado pueda gobernar esto solo. Por tanto, tenemos entre todos que aportar, para que este desafío, en las próximas generaciones vean que respondimos y estuvimos a la altura de lo que representa. Y debemos hacerlo con valentía, con decisión, sin temor.

Yo creo que, en 2024, cuando el secretario General de Naciones Unidas, António Guterres, estableció el diagnóstico, con ese informe sobre la gobernanza de la inteligencia artificial, se dio un paso muy importante. Y ese mismo año, como bien antes comentabais, 193 estados adoptamos el Pacto Digital Global como marco de acción y la Asamblea General creó este panel científico y de diálogo global, es decir, la arquitectura más ambiciosa que existe hasta el momento; la más ambiciosa, por eso estoy tan orgulloso de que España y en estas Cortes Generales se albergue el primer paso de esta andadura que vais a empezar esta arquitectura más ambiciosa que existe hoy para gobernar la inteligencia artificial, insisto, de forma multilateral, colectiva.

Y España, quiero que sepáis, comparte esta visión como muchos otros gobiernos, como muchas otras naciones, porque es de sentido común. Por eso es un honor que nuestro país albergue esta primera reunión del Panel Científico, singularmente en el Congreso de los Diputados. Creemos en el rigor, en el valor de la experiencia multidisciplinar. Defendemos que la gobernanza de la inteligencia artificial debe estar en manos de los pueblos y no en un reducido grupo de personas. No queremos, por tanto, ser observadores -las sociedades, me refiero; tampoco los gobiernos- de esta tecnología. Queremos también compartir el diseño de su arquitectura.

Por eso hemos puesto en marcha junto con las Naciones Unidas el AI Governance for Humanity Lab, un foro en el que gobiernos empresas definen juntos los estándares de una IA ética y confiable. Yo soy de los que cree, como entiendo que muchos de los que estáis aquí presentes, de que por supuesto es importante la regulación que podamos hacer a nivel nacional, sin duda alguna a nivel europeo; ojalá lo logremos a nivel multilateral. Pero sin el acuerdo de las empresas, sin la participación de la ciencia, de la academia y también de todos los ámbitos sociales va a ser muy difícil que con la regulación sola podamos lograr vincular y canalizar a la inteligencia artificial hacia los fines que nos planteamos y que deseamos.

Por eso creo que es muy importante el trabajo que se puede hacer desde este panel, en ese ámbito, en el de llegar a donde no puede llegar la regulación para tener la mejor de las IAs posibles. Estamos desplegando, como antes se ha visto en el en el vídeo, programas concretos para que la inteligencia artificial mejore la vida de las personas en distintos ámbitos.

En definitiva, esa es la vocación que tenemos en España, no la de participar en la carrera de la inteligencia artificial, sino humildemente contribuir a una inteligencia artificial responsable, humanista, que sirva al bienestar de todos, sin dejar a nadie atrás.

Concluyo y lo hago con una reflexión que me parece oportuna. Investigadores del Apollo Research y OpenAI publicaron recientemente un estudio sobre cómo razonan los sistemas más avanzados de inteligencia artificial y encontraron algo inquietante. En su razonamiento interno, esta inteligencia, estos modelos, emplean una palabra para los humanos que lo supervisan. La palabra es watchers, vigilantes, los que observan. Y lo más revelador no es solamente su nombre, sino que estos modelos actúan de forma diferente cuando son conscientes de que son observados.

Este panel, esta sala, es nuestra respuesta a esa forma de proceder. No vamos a ser watchers. No vamos a limitarnos a observar cómo la inteligencia artificial más poderosa de la historia decide por sí misma cuándo cumplir las reglas y cuándo ignorarlas. Debemos ser leading actors desde la cooperación, aprovechando las herramientas multilaterales que tenemos para defender el bien común y todas las virtudes de una tecnología que sin duda alguna va a cambiar el destino del mundo.

Por tanto, de nosotros depende que ese cambio sea para bien y por el bien de la humanidad. Así que ánimo con el inmenso trabajo y responsabilidad que tenéis por delante, porque el futuro de nuestra especie nos va en ello. No pressure. Muchas gracias.

(Transcripción editada por la Secretaría de Estado de Comunicación)