Intervención del presidente del Gobierno, Pedro Sánchez, en el John F. Kenned y Jr. Forum de la Universidad de Harvard

INTERVENCIÓN DEL PRESIDENTE DEL GOBIERNO, PEDRO SÁNCHEZ

Muchas gracias por tus palabras,

Buenas tardes.

Estimados profesores, estudiantes, y amigos,

Es un gran honor estar aquí.

Pocos lugares han marcado el destino de la humanidad como Harvard. Una universidad donde se hacen descubrimientos, se debaten ideas y nace el futuro.

Hoy, sin embargo, quiero empezar echando la vista atrás, con la historia de un joven estudiante que llegó aquí hace más de un siglo.

Era de Kentucky, de una familia de industriales de origen europeo.

Y lo que encontró en Cambridge fue un lugar de asombrosas transformaciones tecnológicas.

Durante los cuatro años que pasó aquí como universitario, fue testigo de la invención de la iluminación eléctrica, el lanzamiento de la primera máquina de escribir y la primera llamada telefónica del mundo, realizada por Graham Bell en marzo de 1876, a solo unas manzanas de aquí.

Pero aquellos años de innovación fueron también una época de grave crisis. La denominada «Gran Depresión» destruyó miles de empresas y provocó un desempleo masivo. Los salarios nominales cayeron una cuarta parte. La desigualdad se agravó. Y Estados Unidos vivió su primera huelga a escala nacional, con disturbios en las calles, tropas federales cargando contra la multitud y decenas de muertos.

Nuestro estudiante vivió esta crisis en primera persona. Tras graduarse en la Facultad de Derecho en 1877, regresó a Louisville y se encontró con una ciudad sacudida por las quiebras y las penurias. Su propio padre, que en su día había sido propietario de una fábrica, un molino y un barco de vapor, lo había perdido todo y ahora trabajaba como cobrador.

La situación era difícil. Pero nuestro estudiante, nuestro estudiante no se dejó llevar por la desesperación. En cambio, fundó un bufete de abogados -aquí, en Boston- y comenzó a defender casos de trabajadores contra grandes corporaciones, además de implicarse en varias causas políticas.

Ese hombre era -por supuesto- Louis Brandeis. El abogado del pueblo. Recordado hoy como uno de los artífices de lo que realmente hizo grande a Estados Unidos.

Y no fue el odio. Ni el poderío militar. Ni las lámparas de araña de oro.

Fue la doctrina moderna de la libertad de expresión.

Fue el derecho a la privacidad.

Fue la posibilidad de tener un trabajo digno, un seguro digno y la oportunidad de superar las circunstancias en las que uno había nacido.

Brandeis creía que la prosperidad debía compartirse. Que el crecimiento debía ampliar las oportunidades y la libertad, no reducirlas.

Y sabía que la única forma de hacerlo posible era impedir las grandes concentraciones de poder económico.

Porque una economía dirigida por un puñado de hombres no solo genera precios injustos y desincentiva la innovación. Genera ciudadanos sin libertad y democracias débiles.

Genera un sistema en el que todas las decisiones importantes se toman en las salas de juntas, donde la gente no tiene ni voz ni voto.

Por eso Brandeis luchó con tanta fuerza para limitar el dominio de los monopolios que controlaban la tierra, el sistema de transporte y las finanzas del país. Y después de él, muchos otros hombres y mujeres hicieron lo mismo.

La historia de la democracia estadounidense, en mi opinión, es en sí misma una historia de la lucha contra ese tipo de concentración económica.

Os cuento todo esto -queridos colegas, queridos amigos, queridos estudiantes- porque esa lucha no ha terminado. De hecho, se encuentra en una encrucijada crítica, ya que ha alcanzado una escala planetaria y una dimensión existencial que Brandeis nunca habría imaginado.

Hoy nos enfrentamos a nuevas oligarquías.

Nuevos multimillonarios que no controlan ferrocarriles ni oleoductos, sino algo mucho más grande.

Son dueños de las redes sociales y las plataformas de streaming donde desarrollamos nuestro debate público.

De los sistemas que gestionan nuestras economías, nuestros servicios públicos y nuestra vida cotidiana.

Los espacios digitales que dan forma a nuestros miedos y nuestras esperanzas.

Las inteligencias artificiales que responden a todas nuestras preguntas.

Y el problema es que muchos de los algoritmos que hay detrás de estas tecnologías no están diseñados para servirnos. Están diseñados para esclavizarnos.

Para debilitar nuestro pensamiento crítico. Para distorsionar nuestro debate público. Para convertir nuestra atención en beneficios. Para destruir nuestros derechos e instituciones. Para promover una agenda política que solo sirve a unos pocos.

Sabemos lo eficaces que pueden ser. Los estudios muestran que el 45% de los jóvenes se informa ahora a través de estas plataformas, el 45%, y que alrededor del 70% utiliza chatbots para hacer los deberes y resolver sus dudas.

Estas tecnologías se están convirtiendo en nuestros oráculos. En nuestros padres. En nuestros profesores y en nuestros médicos.

Y todas y cada una de ellas son propiedad y están bajo el control de unos pocos hombres, y lo repito, hombres, que desprecian públicamente las instituciones democráticas, las leyes y los valores liberales que han guiado a nuestras sociedades desde el final de la Segunda Guerra Mundial.

Pensad en las implicaciones que eso tiene.

Es como entrar en una nueva carrera nuclear; solo que, esta vez, las capacidades más poderosas no las desarrollan los Estados, sino las empresas. Sin transparencia. Sin rendición de cuentas. Sin control.

Este es el punto en el que nos encontramos.

Y la pregunta es cómo seguimos adelante. Tal y como yo lo veo, hay dos opciones: luchar o huir.

Muchos políticos y expertos eligen lo segundo. Reconocen el daño, por supuesto, y las amenazas estructurales que plantean estas tecnologías sin control, y luego nos dicen que la regulación es imposible. Que estas tecnologías son demasiado poderosas, demasiado complejas y evolucionan demasiado rápido como para poder dominarlas.

Yo no estoy de acuerdo.

Soy muy consciente de las dificultades. Pero estoy convencido de que las democracias y los Estados son todavía, repito todavía, más poderosos que los tecno-oligarcas.

Todavía. Pero no por mucho tiempo.

Por eso tenemos que actuar. Ahora.

Con rapidez y determinación.

Tenemos que olvidarnos, de una vez por todas, de la utopía digital que nos prometieron en los años noventa del siglo XX.

Tenemos que ignorar a quienes afirman que la desregulación nos hará más competitivos, porque la rapidez no sirve de nada si vamos en la dirección equivocada.

Y, por supuesto, tenemos que abandonar ese cuento de la autorregulación.

Hace unos días, oí al CEO de OpenAI, Sam Altman, decir que el mundo tiene razón al tener miedo, pero que «deberíamos confiar en ellos».

Permíteme responder a eso con tres palabras: ni de coña

Ni hablar.

No mientras nosotros estemos aquí.

La era de los dioses y los señores feudales hace tiempo que terminó. No vamos a poner el futuro de la humanidad en manos de unos pocos multimillonarios. Lo vamos a poner donde debe estar: en nuestras manos. En nuestras instituciones democráticas.

Y, por favor, no me malinterpretéis. No soy un ludita. No estoy proponiendo que destrocemos los servidores de Meta ni que quememos la sede de X.

En los últimos ocho años, desde que ocupo el cargo, mi Gobierno ha invertido más de 40.000 millones de dólares en el desarrollo y la adopción de estas tecnologías punteras, desde la inteligencia artificial hasta la informática cuántica.

Y lo hemos hecho porque sabemos que podrían ayudarnos a superar muchos de los retos a los que se enfrentan nuestras sociedades y, por lo tanto, mi país: el cambio climático, el declive demográfico, la desigualdad, el escaso crecimiento económico o la soledad no deseada.

No estoy sugiriendo que nos deshagamos de estas tecnologías. Lo que digo es que deberíamos controlarlas y supervisarlas. Lo que digo es que deberíamos limitar su capacidad de auto-mejora.

Deberíamos establecer una supervisión estricta por parte de terceros.

Y exigir que se informe exhaustivamente de cualquier incidente que se produzca.

También deberíamos ralentizar su desarrollo hasta que encontremos una forma de garantizar que esta tecnología sea segura y canalizar su potencial hacia los objetivos que realmente tenemos como sociedad.

Tenemos que entender cómo dar prioridad a la automatización que mejora y protege los puestos de trabajo, y desincentivar aquella que los destruye.

Cómo apoyar las aplicaciones que aportan claridad a la verdad y prohibir las que la distorsionan. Cómo fomentar los algoritmos que nos proporcionan mayor seguridad y hacer frente a los que nos ponen en peligro.

En resumen, tenemos que encontrar la manera de que estas tecnologías nos beneficien a nosotros -a la gente- y no a un puñado de tecno-oligarcas.

Y para ello, necesitaremos leyes, controles y sanciones eficaces.

En otras palabras, tendremos que regular este sector, igual que hemos regulado los alimentos, los coches, las armas, los medicamentos y todos los demás mercados importantes de la historia.

Tenemos que regular las tecnologías digitales, y tenemos que hacerlo ahora mismo.

Aunque se trate de un terreno desconocido que cambia día a día.

Porque la complejidad no puede convertirse en una excusa para la inacción. En todo caso, debe ser un motivo para experimentar.

Brandeis escribió en una ocasión que «un solo Estado valiente puede servir de laboratorio».

En España, estamos intentando ser ese laboratorio.

Mi Gobierno ha decidido aplicar una variante del mismo principio que estas empresas tecnológicas llevan años siguiendo: regulemos rápido, antes de que rompan más cosas.

Por eso, estamos actuando ahora mismo en todos los frentes posibles.

Estamos aprobando leyes para tipificar como delito la manipulación algorítmica y para impedir el acceso de los menores de dieciséis años a las redes sociales.

Hemos creado herramientas públicas para rastrear, medir y perseguir el discurso de odio.

Hemos regulado la publicidad de los influencers.

Y hemos presentado una propuesta de ley para que los directivos sean legalmente responsables de las infracciones cometidas en sus plataformas. Porque quienes generan el riesgo y se benefician de él también deben asumir la responsabilidad.

Además, hemos sido el primer país occidental en adoptar una Carta de Derechos Digitales.

Hemos creado la primera Agencia de Supervisión de la Inteligencia Artificial de Europa, así como el primer entorno de pruebas para evaluar esta tecnología en los ámbitos de la sanidad y la educación.

Bajo nuestra presidencia, la UE aprobó la primera Ley de IA. Y ahora hemos presentado en Bruselas la primera propuesta para prohibir y perseguir penalmente la creación de deepfakes a nivel europeo.

Por supuesto, sabemos que nada de esto es suficiente. Todavía queda mucho trabajo por hacer.

Tenemos que proponer soluciones, aunque sean imperfectas.

Tenemos que probarlas, evaluarlas y mejorarlas.

Y tenemos que hacerlo juntos. Esa es la razón por la que estoy aquí. Tenemos que hacerlo juntos. Porque el espacio digital es como la atmósfera: solo hay uno. Si queremos salvarlo, todos nuestros países tienen que actuar al mismo tiempo.

El político belga Paul-Henri Spaak solía decir que hay dos tipos de países en Europa: los pequeños y los que aún no se han dado cuenta de que son pequeños.

A la hora de plantar cara a los tecno-oligarcas, eso es cierto para todos los países del mundo.

Ningún Parlamento puede supervisar, por sí solo, una tecnología que no conoce fronteras. Ningún organismo regulador puede auditar, por sí solo, una empresa más grande que la mayoría de las economías.

Los países pueden verse tentados a ver esto como una carrera tecnológica más. A creer que lo que importa es llegar los primeros.

Lo hemos oído durante esta semana. Pero con la IA, ser el primero no te garantiza la seguridad. De hecho, te expone a enormes peligros. Porque al final de esta carrera puede que no haya una línea de meta que cruzar, sino un abismo al que caer.

Por eso necesitamos normas que ningún país, ninguna empresa ni ningún multimillonario pueda eludir.

Necesitamos normas comunes. Una supervisión independiente. Obligaciones compartidas. Y el valor y los medios necesarios para sancionar a quienes no cumplan.

Y para hacer realidad todo esto, quienes gobernamos, y por eso estoy hoy aquí, necesitaremos vuestra ayuda. Necesitamos vuestra ayuda.

Porque el mundo académico desempeña un papel fundamental en este sentido.

Aquí mismo, en Cambridge, en los laboratorios y aulas que rodean esta sala, se están utilizando y desarrollando algunas de las tecnologías que he estado describiendo.

Algunos de vosotros -estudiantes de Harvard- perfeccionaréis sus algoritmos. Muchos de vosotros trabajaréis para los multimillonarios del sector tecnológico que son sus propietarios. O formaréis parte de los Gobiernos cuya función es controlarlos.

Sois actores fundamentales en esta lucha.

Así que, por favor, no dejéis que estas grandes empresas os cieguen con su dinero, sus falsas promesas de prosperidad universal o su catastrofismo.

No les creáis cuando dicen que esta tecnología es demasiado compleja, demasiado rápida, demasiado global o demasiado valiosa como para controlarla.

Todas las generaciones de grandes magnates han esgrimido ese mismo argumento.

Y, al final, la misma fuerza derrotó a todas esas generaciones: la fuerza de la voluntad popular. La voluntad del pueblo.

Sé que ser optimista es difícil en estos tiempos.

El camino que tenemos por delante es accidentado y está plagado de enemigos poderosos.

Pero la lucha de Brandeis por una América más justa y democrática tampoco fue un camino de rosas.

Se necesitaban trabajadores dispuestos a organizarse. Funcionarios públicos dispuestos a innovar. Instituciones dispuestas a adaptarse. Líderes dispuestos a liderar.

Podéis ser esas personas.

Personas que marcan la diferencia.

Así que os lo ruego: no os conforméis. No tengáis miedo. Aceptad esta lucha. Hacedla vuestra.

Transformad vuestra inquietud en determinación.

Porque el futuro no se escribirá en código.

Se escribirá con actos. Vuestros actos.

Gracias.

Mathias Risse.- Gracias, señor presidente.

Antes de preguntarle sobre los temas más serios que teníamos que tratar,

la verdad es que me estoy distrayendo con sus calcetines.

Ya me pasó durante la comida, así que solo quiero reconocer lo genial que es estar aquí sentado con alguien que lleva calcetines de ciclista.

Solo quería decirlo.

Presidente.- Me encanta montar en bicicleta.

Mathias Risse.- Solo quiero darle las gracias por su increíble contribución a nuestra cultura visual. Bien.

Pero ahora que ya hemos dejado de lado esa distracción, pasemos a temas más serios.

Así pues, me gustaría empezar hablando un poco sobre las capacidades del Estado en relación con la tecnología, concretamente en España y Europa, y a partir de ahí pasar a hablar de los tecno-oligarcas con los que nos encontramos sobre todo por aquí.

Así pues, un reto de larga data a la hora de que los gobiernos logren algo -una regulación eficaz- es el ritmo del cambio; como ha insinuado un poco antes, el ritmo del cambio es vertiginoso.

La tecnología se desarrolla, pero eso también tiene una dimensión a nivel del personal, por lo que resulta muy difícil conseguir que personas con conocimientos avanzados en tecnología trabajen para el gobierno.

Y, como sabe, ganan mucho más dinero en el sector privado, pero además sus competencias están más reconocidas en el sector privado. Trabajar para el Gobierno a menudo no mola, así que es una especie de conjunto de problemas bien conocido.

Y ese es un problema muy, en cierto modo, muy trivial, pero muy real para un primer ministro.

¿Cómo se consigue que la gente se dedique a este tipo de trabajo regulador en el Gobierno?

Presidente.- Bueno, como ha dicho, es bastante difícil porque, claro, hay una asimetría cuando hablamos de remuneración, de salarios.

Pero diría que una cosa que hemos puesto en marcha en España es una empresa pública digital. Y también hemos creado el primer grupo de funcionarios especializados en TI.

Así que tenemos abogados. Tenemos economistas. Tenemos principalmente abogados y economistas, tengo que decirlo. Pero no contamos con expertos en informática. Así que creo que, hasta ahora, la respuesta ha sido muy, muy positiva.

Así pues, diría que, desde este punto de vista, las cosas quizá no avanzan tan rápido como me gustaría, pero van por buen camino.

Luego, por supuesto, hay diferentes niveles. El primer nivel es el nacional. El segundo nivel, en nuestro caso, como país europeo, es la normativa de la Unión Europea. Y, por último, el nivel multilateral.

Tengo que decir que, aunque el año pasado quizá no ocupara las portadas de los periódicos, la Asamblea General de la ONU aprobó, por primera vez en la historia, la creación de un grupo de expertos de la ONU sobre IA. Acogimos la primera reunión en España. Queríamos celebrarla en el Parlamento nacional, porque queremos transmitir el mensaje de que la política, la ciencia y el mundo académico deben estar unidos y trabajar juntos para dar una respuesta eficaz y equitativa a esta tecnología.

Y ha funcionado de manera muy positiva durante estos últimos 12 meses. Fue muy inspirador ver a todos los países representados por la ciencia en pie de igualdad, en condiciones equitativas. Y creo que esto también es muy importante cuando hablamos del ámbito multilateral.

Y, como he dicho antes en mi intervención, la Unión Europea, gracias a nuestro liderazgo durante nuestra Presidencia del Consejo Europeo, aprobó la primera ley sobre IA a nivel mundial. Y, como sabéis, fue criticada por muchos de estos tecno-oligarcas, que afirmaban que esto reduciría la innovación y que supondría más obstáculos para el crecimiento económico de Europa.

De acuerdo, estamos dispuestos a modificarla. Pero creo que, como he dicho antes, tenemos que ponerla a prueba, tenemos que ver los resultados. Y tenemos que mejorar esta normativa. Pero tenemos que regular.

Mathias Risse.- La regulación, por supuesto, es algo en lo que la Unión Europea destaca. Y, ya sabéis, ya sabéis, esto es la Kennedy School of Government; lo digo como un cumplido, no es algo que se pueda menospreciar.

Pero si pensamos en el papel de Europa en el ámbito tecnológico hoy en día… En cuanto a la regulación, la Unión Europea sabe lo que hay que hacer.

Pero uno de los retos, por supuesto, es si nos fijamos en la capacidad computacional y en cómo se distribuye por todo el mundo. Entre el 75 % y el 80 % de la capacidad computacional se encuentra en Estados Unidos, y alrededor del 15 % en China. El resto del mundo se reparte lo que queda. Y la UE se sitúa en algún lugar con una cifra de un solo dígito en cuanto a capacidad computacional.

Así pues, te enfrentas a un reto. Por un lado, necesitas desarrollar capacidades en Europa. Y, como sabe, cada vez es más frecuente en Europa un discurso en el que se expresa la percepción de que Europa se está viendo bastante acorralada entre el modelo estadounidense y el chino.

Así que hay que desarrollar capacidades. Y eso es lo que estáis haciendo en España. ¿Estáis invirtiendo en IA? Incorporáis más IA a la economía. Invertís en centros de datos. Invertís en otras tecnologías de vanguardia, como la neurotecnología. Hacéis bastante en ese sentido, pero tenéis que recuperar mucho terreno y tenéis que hacerlo al mismo tiempo que queréis hacer frente a los grandes actores estadounidenses, los tecno-oligarcas, como los llamamos aquí.

Así pues, hay que encontrar un equilibrio y abrirse camino entre todo este desarrollo, al tiempo que, en cierto modo, hay que elegir y buscar los «problemas positivos», como dirían, ya sabes, los defensores de los derechos civiles estadounidenses. ¿Cómo se puede hacer eso?

Presidente.- Pero permítame antes reflexionar sobre esta cuestión de la desregulación. Porque es cierto que, tal y como se observa no solo en la Administración de EE. UU., sino también en muchos gobiernos europeos, necesitamos desregular.

Y quizá no sea la expresión correcta. Yo diría «simplificación» o «buena regulación». Pero para mí, la desregulación significa y se asemeja a lo que ocurrió durante la crisis financiera.

Y esto es algo que estamos presenciando en el mundo de las criptomonedas, en las finanzas, de nuevo, tras lo ocurrido durante la crisis financiera.

Así pues, este discurso, esta forma de pensar, es algo contra lo que también tenemos que luchar. Al menos, eso es lo que intento hacer en el Consejo Europeo. Hablemos de simplificación. Hablemos de buena regulación, pero nunca hablemos de desregulación. Y creo que esto es un matiz. Pero para mí es muy importante.

Y, en segundo lugar, respondiendo a su pregunta. Si simplificamos, necesitamos, por supuesto, datos. Necesitamos talento. Y, por supuesto, necesitamos potencia de cálculo, como ha dicho. En cuanto al talento, creo que Europa tiene mucho talento. En cuanto a los datos, creo que hemos aprobado leyes a escala europea para proteger los datos de nuestros ciudadanos, teniendo en cuenta, ya sabe, lo que ocurre en EE.UU.

Y, por último, la Comisión puso en marcha, hace unos dos o tres meses, un proyecto de gigafábricas para construir cinco o seis gigafábricas en toda la Unión Europea. Y España estaría orgullosa de acoger una de ellas.

En definitiva, lo que intento decir es que esta idea de la autonomía estratégica abierta significa, por ejemplo, intentar potenciar nuestra autonomía en materia de tecnología y la capacidad para desarrollar la inteligencia artificial.

Mathias Risse.- Ahora bien, en cuanto a la magnitud del problema al que nos enfrentamos, me ha gustado mucho que haya hecho hincapié en que tenemos que actuar todos a la vez, ¿verdad? Así que realmente necesitamos que algo suceda a escala global. Y hubo una oportunidad para ello, ¿no?

En marzo de 2023 fue cuando todo el mundo se asustó porque ChatGPT lanzó sus modelos más potentes y todos se dieron cuenta de a qué nos enfrentábamos.

Y así se produjo toda una serie de cumbres y otras actividades internacionales. Usted ya ocupaba el cargo. Probablemente se encargó de gran parte de ello usted mismo.

Incluso China estaba muy interesada en aquel momento en regular el tema. Y creo que había un gran impulso para reconocer que la llegada de la IA supone un reto a nivel de la humanidad y debe abordarse a ese nivel.

Luego tuvimos elecciones en Estados Unidos en noviembre de 2024, y Estados Unidos, básicamente, se retiró por completo.

Y mi visión general de la situación actual es, básicamente que, de hecho, son los Estados Unidos, más concretamente, se podría decir que es un solo hombre quien nos está frenando a la hora de alcanzar un acuerdo global sobre el rumbo que debe tomar la inteligencia artificial.

¿Cómo ve las perspectivas de que actuemos de forma conjunta en esta fase?

Presidente.- Pues veo que hay algunos Estados que están regulando la IA. En Europa hay muchos países y gobiernos que están regulando la IA. Nosotros también lo hemos hecho a escala europea.

Cuando se habla con otros países y otras regiones, se observa que son muy conscientes de la amenaza y los riesgos de la IA y están haciendo lo mismo.

Por ejemplo, como ya sabe, por razones culturales e históricas, tenemos una relación muy estrecha con América Latina, con Iberoamérica, y el próximo mes, en noviembre, celebraremos en Madrid una cumbre de la comunidad iberoamericana.

Y uno de los temas a tratar será un acuerdo sobre cómo colaborar para regular la IA y establecer un marco para su desarrollo responsable.

Así que esto es algo que está ocurriendo. También estamos creando una coalición de los «Voluntarios Digitales» dentro de la Unión Europea. Empezamos con cuatro o cinco países. Y hoy en día somos más de 20 países de los 27, con participación bipartidista. Hay gobiernos de centroizquierda y de centroderecha conscientes de la amenaza y de la necesidad de trabajar juntos.

Y también a nivel multilateral, hace tres días, en la Asamblea General, pusimos en marcha la coalición de los «Voluntarios Digitales» junto con el Gobierno australiano, el Gobierno francés, el Gobierno keniano y el Gobierno español.

Y hubo una participación enorme y masiva de diferentes países y gobiernos.

Así que, en definitiva, lo que intento decir es que hay un impulso, hay un impulso.

Y quizá, en lo que respecta a China, por supuesto, ya han declarado públicamente -al menos así lo entiendo yo- que están dispuestos a negociar una normativa común a través del sistema de la ONU. Y quizá esta sea la ocasión en la que veamos esta noche que el presidente Xi y el presidente Trump se reúnen en la Casa Blanca. Pueden ponerse de acuerdo en que, vale, trabajemos juntos a través de la ONU para lograr una normativa común.

Mathias Risse.- ¿Cree que es probable?

Presidente.- Bueno. Esperemos que sí.

Mathias Risse.- Y solo quiero volver un poco más sobre el papel de EE.UU. porque, como ya he mencionado antes, Estados Unidos representa entre el 75 % y el 80 % de la capacidad computacional. Así que, en cierto modo, casi todo el mundo actúa al mismo tiempo. Si ese gigante no echa una mano, la causa no nos llevará muy lejos, ¿verdad?

Presidente.- Por supuesto. Quiero decir, es tal y como ha dicho. He observado que aquí, en Estados Unidos, este tema de los centros de datos es un tema importante, un tema candente.

Esta mañana estaba leyendo unas encuestas de la CNN en las que el 70 % de los ciudadanos estadounidenses afirmaba estar preocupado por la IA, y más del 70 % de los ciudadanos estadounidenses también afirmaba que su Gobierno no está haciendo lo suficiente para regular la IA de forma responsable.

Así que creo que quizá el Gobierno no se muestre tan comprensivo con esta situación, pero cada vez hay más gente en Estados Unidos que es muy consciente de las implicaciones de la IA.

Y, al fin y al cabo, un Gobierno democrático debe dar una respuesta política a la preocupación social. Así que esto va a suceder. No sé cuándo, pero sucederá.

Mathias Risse.- Ya que ha mencionado los centros de datos.

Esa es también una forma de dar protagonismo a los tecno-oligarcas, a esas figuras de los magnates. Y, como sabe, lo que ellos quieren está aquí, en el punto de mira.

Así pues, una de las ambiciones que estamos viendo es la de construir centros de datos en el espacio. Eso es lo que sale en las noticias. Se trata de colocarlos en el cielo.

Y eso tiene algo en común con las criptomonedas que también ha mencionado, concretamente el intento por parte de los tecno-oligarcas de, básicamente, eludir los sistemas establecidos.

Las criptomonedas consisten precisamente en eludir un sector bancario internacional estrictamente regulado y situar los centros de datos en el espacio, en el cielo. Ya sabe, «algún lugar allá arriba» significa eludir, simplemente ignorar el poder del Estado para situarse fuera de su jurisdicción.

Y eso, creo, nos enseña algo sobre las ambiciones que tienen algunas de las figuras más destacadas del sector tecnológico.

Y hay otros indicios de lo que está pasando ahí. Esa expresión, P(doom). Sé que la conoce, pero la explico brevemente. P(doom) es la probabilidad de la catástrofe, ¿verdad? Es decir, la probabilidad de que lo que estamos haciendo conduzca a la extinción. Y en el ámbito tecnológico, la gente se pregunta eso entre sí: «¿Cuál es tu P(doom)?».

Y, según tengo entendido, esto se da sobre todo entre las principales figuras del sector tecnológico. La probabilidad P(catástrofe) se sitúa en el 30 % o más.

Así pues, eso significa que nuestro futuro lo crean personas que piensan que la probabilidad de que nos lleven a la extinción es, como mínimo, de un tercio.

Y, por lo tanto, si unimos todas estas piezas, lo que tenemos aquí es un grupo de personas que no solo buscan la riqueza, sino que persiguen una visión de futuro, una visión transhumanista del futuro, una visión a largo plazo del futuro.

Presidente.- Y el papa se pronunció al respecto. Quiero decir, creo que son muy sofisticados, porque cuando hablas con ellos, te dicen -volviendo de nuevo a la regulación- que, bueno, hay como dos caminos. Existe un debate dentro de estas empresas tecnológicas. Hay quienes dicen que no se puede regular. Que hay que regular el producto, pero no la tecnología, porque la tecnología es neutra.

Pues bien, la historia demuestra que la tecnología nunca es neutral. La tecnología es poder. Y ellos lo entienden muy bien y la utilizan.

Y el otro enfoque dentro de las empresas tecnológicas es: bueno, vayamos con calma.

Pero a veces estas personas dicen que hay que ir más despacio porque en la carrera van por detrás de los demás, no porque tengan una visión altruista o la voluntad de reducir el ritmo y controlar la tecnología.

Así que, en definitiva, lo que intento decir es que, como he dicho antes, no podemos confiar en ellos. Tenemos que recuperar el control de esta tecnología a través de la democracia.

Mathias Risse.- Y lo que estoy intentando expresar aquí es, en cierto modo, reforzar esa idea.

Porque, básicamente, nos enfrentamos a un grupo de personas muy ricas y muy poderosas que están totalmente dispuestas a aceptar la posibilidad de una gran catástrofe si eso es lo que hace falta para que la humanidad dé el salto a la siguiente etapa.

Bueno, y creo que esto es algo característico del panorama tecnológico estadounidense que en Europa resulta un poco ajeno. Pero creo que eso es precisamente a lo que nos enfrentamos aquí.

Presidente.- Mire, el otro debate es el de la alineación de la IA.

Tenemos que alinear la IA con los valores humanos y todo eso, lo cual está bien, ya sabe, hay muchos filósofos, muchos psicólogos y muchos expertos en ciencias sociales trabajando para estas empresas tecnológicas.

Pero, al fin y al cabo, lo que tenemos que hacer es cuidar de la humanidad y de nuestros ciudadanos y no olvidarnos de la empatía, ya sabe, los valores básicos que realmente definen a la humanidad y la hacen avanzar.

Así que, de alguna manera, estamos perdiendo esa perspectiva y nos estamos centrando en intentar humanizar la IA y deshumanizar a la humanidad. Y ahí está la paradoja.

Y, como ha dicho, estoy totalmente de acuerdo. Esta es otra paradoja. Vemos a estos oligarcas tecnológicos invirtiendo masivamente en una tecnología que podría acabar con la humanidad, pero, al mismo tiempo, también están invirtiendo masivamente para alcanzar la inmortalidad.

Mathias Risse.- Así que en un momento le daré la palabra al público. Tengo una pregunta más para usted. Hay cuatro micrófonos repartidos por la sala. Por favor, poneos en fila allí. Las normas generales del foro son siempre las mismas: por favor, presentaos, sed breves y formulad una pregunta concreta.

Esta noche haremos algo un poco diferente. Para la primera pregunta, daré la palabra a Shoshana Zuboff, que se encuentra aquí, en las primeras filas. Shoshana es, en realidad, el alma de este evento. Y será ella quien formule la primera pregunta.

Pero quiero preguntarle una cosa más, señor presidente, sobre un tema un poco diferente.

Ha pasado unos días en Nueva York, y a quienes hemos seguido las noticias de allí -ni siquiera hacía falta estar allí para que nos diera vueltas en la cabeza lo ocurrido en Nueva York- y, en particular, el discurso de Donald Trump en la ONU me causó una profunda conmoción, debo decir.

Ya estoy acostumbrado a muchas cosas de este presidente, pero tenemos a un presidente de los Estados Unidos que ya en abril amenazó a Irán con la aniquilación genocida. Pero, de alguna manera, si uno quisiera ser realmente benévolo en su interpretación, podría pensar para sí mismo: «Vale, se trataba de un tuit en las redes sociales».

Ahora va a Nueva York. Se presenta en el salón de la ONU, una institución creada en gran medida por Estados Unidos para promover el progreso mundial en lo económico y lo político, y para hacer que ciertas declaraciones sean inaceptables, ¿verdad? Es decir, para que las amenazas de aniquilación sean inaceptables por parte de los principales políticos.

El presidente de Estados Unidos está allí y, básicamente, deja claro que ahora esas amenazas se han convertido en una política. Esta es ahora la política de Estados Unidos, expresada en un discurso muy oficial.

Usted estaba allí. Así que tengo curiosidad por saber qué pasa por la cabeza del presidente del Gobierno de España cuando el presidente de Estados Unidos pronuncia un discurso así.

Presidente.- Creo que lo que se espera de un político que pronuncia un discurso ante cualquier foro, pero especialmente cuando se trata de la Asamblea General de la ONU, es que elabore un discurso basado en hechos.

Y, bueno, ya sabe, por supuesto, cada uno tiene su ideología, y eso es algo que debemos respetar. Tu visión de cómo debe comportarse o avanzar la sociedad. Eso está bien, no hay problema.

Pero cuando se habla ante otros gobiernos, hay que basarse en hechos.

Y, como sabe, el año pasado, por ejemplo, habló sobre el cambio climático y dijo que el cambio climático es una invención de la élite, de los globalistas, digamos, que es falso. Y que eso no está ocurriendo. Y se pronunció en contra de las energías renovables y de la transición ecológica.

Ya sabe, la experiencia en España es que, desde que estoy en el cargo, hemos aumentado la producción de energías renovables hasta el 60 % del total de la electricidad.

Eso significa que hemos conseguido reducir drásticamente los precios de la electricidad para los hogares, las industrias y las empresas.

Lo que significa que, hoy en día, en España pagamos una tarifa eléctrica más baja que, por ejemplo, en Alemania, Francia, Italia o que la media europea. Y eso significa que estamos atrayendo inversión extranjera. Estamos industrializando nuestra economía.

Así que, en definitiva, lo que intento decir es que hay que basar un discurso en hechos. Se puede estar de acuerdo o en desacuerdo. Pero lo que no se puede hacer es limitarse a dar un discurso ideológico sin hechos.

Mathias Risse.- De acuerdo. Gracias.

P.- [Shoshana Zuboff] Gracias. Gracias por esta charla tan conmovedora, emotiva y hermosa que nos has ofrecido esta noche. Ha sido muy impactante y me deja con tantas preguntas que hacerte, pero voy a centrarme en una línea de pensamiento concreta. Quiero hablar contigo sobre el futuro.

Creo que todos sabemos que el declive de la democracia ya está aquí. El desmoronamiento de nuestras democracias se ha agudizado en las últimas dos décadas, que son precisamente las dos décadas en las que se ha producido el crecimiento explosivo de estos oligarcas -o como queramos llamarlos-. Su poder global. Su poder planetario, como dice. Así que esto no es una coincidencia. No se trata de una mera correlación. Es una relación de causa y efecto.

Ahora bien, lo que esto sugiere es que hay algo en nuestras instituciones que ha resultado vulnerable a esas metodologías y procesos tóxicos que el capitalismo de vigilancia -esas corporaciones que ahora son increíblemente ricas- ha introducido en nuestras vidas, en nuestro día a día, y que han sido capaces de desgarrar nuestras sociedades y de paralizar nuestras democracias.

Eso me hace pensar en el futuro, porque nuestro trabajo ahora… cada día me pregunto: ¿qué nos pide el futuro en este momento? No es una pregunta fácil de responder.

Se necesita algo más que apretarnos el cinturón, poner las cosas en orden y, en cierto modo restablecer y reforzar las instituciones que hemos tenido.

Había algo que no era suficiente. Y tenemos que hacer más. Tenemos que hacer las cosas de otra manera. Tenemos que hacerlo mejor. Necesitamos nuevas formas institucionales. Necesitamos nuevas formas de pensar y actuar dentro de esas instituciones.

Habla de una coalición de dispuestos a actual en el ámbito digital. Se ha referido a ella esta noche y en otros discursos suyos, que, como le he dicho, he visto muchas veces, y me parece una imagen muy conmovedora y emocionante.

Me gustaría pedirle que nos hablara más sobre su visión de lo que esta coalición podría significar, en qué podría consistir, cómo podría ser una nueva contribución al futuro en lugar de limitarnos a hacer mejor lo que hemos hecho en el pasado.

Presidente.- Estoy totalmente de acuerdo. Creo que el riesgo aquí es que socavemos el sistema de las Naciones Unidas. Por eso necesitamos una coalición de «dispuestos a actuar en el ámbito digital» a escala mundial. Pero tiene que colaborar con el sistema de las Naciones Unidas y coordinarse con el mundo académico y con la ciencia.

Como ya he dicho antes, soy presidente de España desde 2018 y he presidido mi Gobierno en un momento muy difícil, como ha sido la pandemia de la COVID-19. Si hay algo que he aprendido de esa experiencia y que me gustaría compartir con los estudiantes y, por supuesto, con ustedes, es la clara necesidad de que los responsables políticos trabajen más estrechamente con la ciencia y el mundo académico, porque no disponemos de los medios, ni de los conocimientos, ni de las especialidades que ustedes tienen. Y por eso es tan importante contar con este tipo de cooperación y colaboración.

Así pues, para responder a su pregunta, cuando hablamos de la estructura, por supuesto que me implico y pongo en marcha junto con otros países esta coalición de países comprometidos con la digitalización, pero es importante que funcione en paralelo con el sistema de las Naciones Unidas, porque si no lo hacemos -o a nivel europeo-, si no lo hacemos, no contaremos con la estructura institucional necesaria para llevar a cabo y materializar esas ideas en acciones específicas y concretas. Y esto es algo que, afortunadamente, estamos haciendo a nivel europeo.

Y resulta muy interesante porque es un proceso muy democrático. En primer lugar, porque en esa coalición de países dispuestos a actuar a escala europea hay países pequeños y países grandes -me refiero a la dimensión europea-, e introdujimos el debate. Empezamos con las redes sociales y la juventud, pero de repente nos dimos cuenta de que el debate y el alcance eran mucho más amplios. Y empezamos a hablar y a reflexionar sobre otras cuestiones.

Y, afortunadamente, en su último discurso ante el Parlamento Europeo, durante el discurso sobre el Estado de la Unión Europea, la señora presidenta Von der Leyen anunció que iba a adoptar algunas de estas políticas y propuestas que hemos puesto en marcha y aplicarlas a escala europea. Y eso marcaría la diferencia, tendría un impacto.

Por supuesto, en mi opinión, quizá nos estamos retrasando. Deberíamos actuar con mayor rapidez. Pero, una vez más, la democracia tiene sus procedimientos, y debemos defenderlos para legitimar las decisiones que tomamos.

Y yo añadiría que os necesitamos. Quiero decir, no es una mera formalidad ni una declaración políticamente correcta decir que necesitamos al mundo académico, que necesitamos a la ciencia, que os necesitamos para que ayudéis también a los responsables políticos.

Ser responsable político hoy en día, en el siglo XXI, significa pasar de una crisis a otra. Así que lo interesante, la experiencia que puedo compartir con los estudiantes aquí, es que debéis responder a la urgencia sin perder de vista la importancia de las transformaciones que tenéis que llevar a cabo en vuestro país.

Por eso, por ejemplo, hoy en día España está bien preparada, o al menos más preparada que otros países, porque hemos logrado impulsar esta transición verde que nos ha hecho más resilientes ante estas crisis energéticas que estamos sufriendo, primero por la guerra de Ucrania y, más recientemente, por la guerra con Irán.

P.- Gracias. Bienvenido, señor presidente. Me llamo Miguel. Soy estudiante de posgrado en el MIT, donde estudio informática, y mi pregunta para usted hoy es: ¿de qué capacidades reales dispone actualmente un gobierno como el suyo para impedir una posible manipulación de la información? ¿Y cuál es su propuesta para seguir desarrollándolas?

Presidente.- Contamos con un marco jurídico a nivel europeo que fue aprobado por una mayoría bipartidista en Estrasburgo. Lo denominamos «Escudo Democrático» para luchar contra la desinformación y contra las noticias falsas.

El problema es que, cuando se traslada ese debate europeo -en el que todo el mundo está de acuerdo- a… ya sabes, porque estamos obligados a, digamos, incorporar a nuestra legislación nacional esas leyes que, por supuesto, aprobamos en el Parlamento Europeo, las cosas cambian y acaba convirtiéndose en una lucha contra un partido, otro y otro más, porque se está intentando controlar la libertad de expresión o los medios de comunicación, etcétera, etcétera.

Pero ya contamos con el marco jurídico y estamos aprobando diferentes [grabación cortada], aunque todavía queda mucho trabajo por hacer en este sentido.

P.- Hola. Es un placer conocerte. Me llamo Peter, soy estudiante de tercer curso en la universidad e investigador en seguridad de la IA. Estoy de acuerdo con muchos de los puntos que ha planteado sobre la inteligencia artificial y sobre cómo el dinero suele ejercer una influencia corruptora en la política. Y, en ese contexto, tengo mucha curiosidad por preguntarle sobre el hecho de que su esposa, su hermano, su exfiscal general, su exjefe de gabinete y la asistente personal de su esposa se encuentren entre las nueve investigaciones diferentes por corrupción que se están llevando a cabo actualmente contra su Gobierno.

Algunas personas están en la cárcel en relación con este asunto. Otras están siendo juzgadas y otras están imputadas. Por eso tengo curiosidad: cuando hablamos de cómo restaurar la confianza en el Gobierno y de cómo acabar con la percepción de que el Gobierno está influenciado por el dinero oscuro, ¿cómo se ve usted a sí mismo y a su Gobierno en un momento en el que, según las encuestas de opinión de la Comisión Europea, muchos españoles piensan que usted es una de las razones que explican la corrupción en España? Gracias.

Presidente.- Bueno, gracias por esta pregunta. Diría que, por supuesto, sufrimos algunos casos de corrupción. Y creo que, cuando eso ocurre, da igual de qué países se trate, lo que deben pedirle a su Gobierno es que responda de forma eficaz. Y eso es lo que hice con los casos de corrupción que sí son ciertos y que, por desgracia, afectaron a mi Gobierno y a mi partido.

Pero esto es una cara de la moneda y hay otra. Lo que me lleva a mi familia, a mi mujer y a mi hermano. Y lamento decir que esos no son casos de corrupción ni escándalos. Son otra cosa.

Y, en mi opinión, creo que la oposición y algunas asociaciones de extrema derecha han traspasado algunas líneas rojas que me llevan a una reflexión que me gustaría compartir con ustedes como político.

Ser presidente del Gobierno o político es gratificante porque puedes hacer muchas cosas por tu país. Y me enorgullece decir que hice muchas cosas por mi país. Y ahí están los resultados, las pruebas y los hechos. Pero sufrir este ataque personal es muy difícil de asumir, y lo es aún más porque un joven estudiante como tú ya los condena y dice que mi hermano y mi mujer son culpables, y eso no es justo, porque no lo son. Es un asunto que me lleva a la política sucia, pero no a la corrupción.

P.- Hola. Buenas noches. Me llamo Nicholas. Soy estudiante de posgrado aquí en Harvard. Señor presidente, usted nos ha advertido sobre los crecientes peligros que entraña el avance tecnológico descontrolado impulsado por actores no estatales. Lamentablemente, tal y como admitió su Gobierno hace un par de años, estos peligros ya le han afectado a usted. Más concretamente, su teléfono y los de otros tres miembros de su gabinete fueron pirateados por el virus Pegasus. Meses después de este ataque, usted dio marcha atrás en 40 años de neutralidad española en el Sáhara Occidental y, más recientemente, defendió a Marruecos tras la invasión de Ceuta, incluso después de haberla denunciado inicialmente como una violación de la integridad territorial de España.

Si la tecnología puede marcar el rumbo e incluso amenazar la propia existencia de las democracias, ¿qué nos garantiza que el impacto de esta tecnología -que este ataque pueda o no haber tenido en usted y que está teniendo en sus políticas en este momento- no esté condicionando sus acciones cotidianas al frente de la democracia española? Gracias.

Presidente.- Hay muchas preguntas dentro de su pregunta, pero voy a responder a cada una de ellas.

En primer lugar, es cierto que fuimos víctimas de un ataque informático con el programa Pegasus. No sabemos quién lo hizo, pero se estaba investigando y denunciamos este caso ante la Audiencia Nacional. Así que es cierto que fuimos víctimas de un ataque informático, pero no sabemos quién fue el autor o los autores que piratearon nuestros dispositivos móviles.

Quizás se me puede criticar por muchas cosas como primer ministro, pero no creo que en mis decisiones políticas demuestre ser dependiente ni que no defienda lo que considero que vale la pena en interés de mi pueblo y de mi país.

Y eso me lleva a la segunda pregunta: el Sáhara Occidental. Llevamos más de 50 años estancados en esta situación y esta crisis. Marruecos, Estados Unidos y muchos otros países. En Europa solo hay un país que no apoya una resolución de la ONU relativa a esta opción de contar con una región autónoma dentro de Marruecos para el Sáhara Occidental. Solo uno. El resto de los países europeos, incluida España, apoyan esta resolución de la ONU y trabajan para encontrar una solución diplomática en el marco de dicha resolución para el Sáhara Occidental.

Pero, mientras tanto, solo quiero compartir con vosotros que el primer país más comprometido con la financiación de la ayuda humanitaria al pueblo del Sáhara Occidental es España, bajo este gobierno progresista.

La tercera pregunta que me has planteado… Entiendo que no confíen en lo que digo, pero fíjense en lo difícil que resulta para mí, o para cualquier otra persona, la siguiente reflexión: ¿por qué tengo que defenderme de una noticia falsa o de desinformación como este asunto de Pegasus? Lo denuncié ante los tribunales. Y si hay alguien que tenga otras perspectivas e información, que, por favor, la haga pública, porque yo no puedo defenderme. Esto es lo que me gustaría compartir con ustedes.

P.- Buenas noches, presidente. Me llamo Daniel Santos Ramírez. Soy estudiante de máster aquí, en la Kennedy School. Quería dedicar un momento a elogiar su defensa de la agenda democrática en este foro su advertencia sobre los tecno-oligarcas.

Quiero preguntarle por una élite algo más pequeña, pero no menos oligárquica ni menos autoritaria. El régimen de Maduro en Venezuela, ahora liderado por Delcy Rodríguez, sigue negándose a convocar elecciones libres en el país. Incluso tras los acontecimientos del 3 de enero, con la captura de Nicolás Maduro, seguimos sin tener una fecha para las elecciones presidenciales, y creo que todos estamos de acuerdo en que es más que necesario si queremos tener una verdadera democracia

En medio de todo esto, hay miembros incluso de su propio partido político, como el expresidente Zapatero, que mantienen estrechos vínculos políticos con el régimen de Maduro y presuntos vínculos financieros con él.

Creo que esto no concuerda con la agenda que usted defiende aquí. Por eso quiero preguntarle en este espacio si podría dedicar un momento a pedir elecciones presidenciales libres en Venezuela y a distanciarse de figuras como el expresidente Zapatero. Gracias.

Mathias Risse.- Solo una señal de que esta tenía que ser la última pregunta. Esto también es una invitación para que diga otras dos cosas a la audiencia.

Presidente.- En primer lugar. Ya sabéis que hemos aprobado esta ley, la regularización para las personas migrantes, a principios de este… hasta junio. Se ha reconocido a más de 1,2 millones de migrantes, normalizando su situación gracias a esta decisión política que tomamos. Lo cual, por cierto, resulta bastante extraño, por desgracia, hoy en día en Europa y en todo el mundo.

La primera nacionalidad en solicitar esa amnistía fue la colombiana. La tercera y la cuarta fueron Venezuela, Ecuador y muchos otros países de América Latina. Argentina, muchos otros…

Desde que estoy en el cargo, hemos concedido, por motivos humanitarios, permisos de residencia a más de 200 000 venezolanos en España.

Y se me critica porque no defiendo la causa de una Venezuela democrática. No, no reconocí los resultados electorales de Maduro. Siempre abogo por unas elecciones libres en Venezuela. Pero, al mismo tiempo, afirmo que el futuro de Venezuela debe decidirlo el pueblo venezolano.

Mathias Risse.- Por las manos levantadas que aún se ven ahí, me doy cuenta de que podríamos estar aquí mucho tiempo. Nos han indicado que tenemos que dar por terminada la sesión. Pero permítame decir tres cosas como forma de agradecimiento, señor presidente.

En primer lugar, una vez más, gracias por su extraordinario liderazgo en el ámbito tecnológico. El futuro de la humanidad está en juego. Es un momento verdaderamente dramático. Le necesitamos. Necesitamos a más personas como usted. Y estoy profundamente agradecido de que esté realizando esta labor.

La segunda cosa por la que estoy muy agradecido es que su presencia aquí también es una forma de honrar la importante relación entre los gobiernos y las universidades, que ha ayudado enormemente a ambas partes, también en Estados Unidos en la posguerra, pero, como usted sabe, ya no es algo que podamos dar por sentado el que sea algo que ambas partes valoren. Su presencia aquí se agradece mucho también en ese sentido.

Y, en tercer lugar, también quiero daros las gracias de verdad por haber venido sabiendo de antemano que le podrían preguntar cualquier cosa. Y es increíble que un líder de su talla haga esto, que lo acepte sin problemas y que se siente aquí a responder preguntas, sabiendo que podrían preguntarle cualquier cosa. Tampoco es algo que se pueda dar por sentado hoy en día.

Muchas gracias.

Presidente.- Gracias.

(Transcripción editada por la Secretaría de Estado de Comunicación)
(Intervención original en inglés)