“La pregunta no es qué hacer con la IA, sino cómo seguir siendo humanos en una era de algoritmos”

En el marco de la encíclica de León XIV sobre inteligencia artificial, el especialista en innovación y cultura digital Joan Zweig analizó en Radio UNNElos desafíos políticos, sociales y democráticos que plantea el avance de estas tecnologías. La formación de la opinión pública, la soberanía de los Estados y la regulación emergen como principales preocupaciones en un escenario donde los algoritmos adquieren una influencia creciente sobre las decisiones humanas.

El pasado 15 de mayo, el Papa León XIV firmó su primera encíclica, Magnifica Humanitas. Se trata de un documento de 54 páginas, que en el contexto actual tuvo como centro de análisis a la Inteligencia Artificial. Al respecto, Radio UNNE dialogó con Joan Zweig, especialista en innovación y tecnologías emergentes, quien abrió la entrevista diciéndo que uno de los aspectos más significativos del documento no radica únicamente en su contenido, sino en el momento histórico que ha elegido el Papa para publicarlo.

La irrupción de la inteligencia artificial (IA) como una de las tecnologías más disruptivas de nuestro tiempo ya está reconfigurando múltiples dimensiones de la vida cotidiana. Su impacto atraviesa la economía, la política, la educación, el mundo del trabajo y la cultura contemporánea, generando transformaciones que muchos especialistas equiparan con una nueva revolución industrial. En este marco, la Iglesia Católica advirtió sobre los desafíos que plantea esta tecnología en un escenario marcado por la creciente concentración de poder en pocas corporaciones. Asimismo, su posición desató amplia repercusión y distintas opiniones, dado que la presentación del documento se realizó en el Vaticano junto a Christopher Olah, cofundador de Anthropic, una de las empresas líderes en el desarrollo de IA.

Al comenzar la entrevista, Joan Zweig, especialista en innovación y cultura digital, comentó que, "Lo más interesante de esta encíclica no es lo que dice sobre la inteligencia artificial, sino cuándo decidió publicarlo", remarcó. En esta instancia también recordó que la encíclica toma como referencia histórica a Rerum Novarum, publicada en 1891, en un contexto marcado por las profundas transformaciones sociales y laborales de la Segunda Revolución Industrial (1870-1914), cuando la Iglesia comenzaba a pronunciarse sobre los derechos de los trabajadores frente a los cambios impulsados por la industrialización.

"Lo más interesante de esta encíclica no es lo que dice sobre la inteligencia artificial, sino cuándo decidió publicarlo".

Una revolución tecnológica con gran incidencia en transformación social

La encíclica plantea que la inteligencia artificial no debe ser entendida únicamente como una herramienta tecnológica, sino como una fuerza capaz de modificar estructuras sociales, económicas y culturales. En este sentido el documento cuestiona la idea de que los sistemas algorítmicos sean neutrales. Para Zweig, uno de los principales desafíos frente al avance de la IA consiste en comprender que detrás de cada modelo hay un proceso de intereses, diseño y modelo de entrenamiento de bots que crean ciertos criterios sobre la opinión de un tema.

"Los algoritmos devuelven respuestas con apariencia de objetividad, pero conllevan detrás una serie de valores, prejuicios e intereses de quienes los entrenan", enfatizó y agregó que no hay que alejar el foco de quien diseña, controla y supervisa estas tecnologías, que diariamente de manera neutral y "casi como una moda que ya se impone", influye en la toma de decisiones de una mayoría.

Asimismo, el especialista identificó cuatro ejes centrales presentes en la encíclica. En primer lugar destacó el planteo de que la inteligencia artificial no puede considerarse moralmente neutral, dado que los sistemas son desarrollados y entrenados a partir de decisiones humanas. En segundo término, señaló la preocupación por la concentración del desarrollo y control de estas tecnologías en un número reducido de actores, una cuestión que -según su análisis- generó debates adicionales a partir de la participación de representantes de empresas del sector en la presentación del documento.

Como tercer eje, mencionó los desafíos vinculados con la verdad y la desinformación. Si bien aclaró que este fenómeno antecede a la inteligencia artificial, sostuvo que las nuevas herramientas pueden amplificar la velocidad y el alcance de la circulación de contenidos falsos o engañosos. Finalmente, destacó las referencias de la encíclica a los conflictos armados y al desarrollo de sistemas autónomos aplicados al ámbito militar.

"Con la inteligencia artificial se están planteando nuevas formas de entender la gramática de los conflictos. El riesgo, si la tecnología se separa de la ética, es que decisiones de enorme trascendencia puedan volverse cada vez más rápidas e impersonales. Por eso el Papa pide desarmar la inteligencia artificial en ese sentido", remarcó el especialista.

«El riesgo, si la tecnología se separa de la ética, es que decisiones de enorme trascendencia puedan volverse cada vez más rápidas e impersonales. Por eso el Papa pide desarmar la inteligencia artificial en ese sentido".

Co-gobernanza tecnológica y moldeamiento de la opinión pública

Otro de los ejes centrales del debate se centró en los modelos de gobernanza de la inteligencia artificial y el creciente protagonismo de las grandes empresas tecnológicas. La presencia de referentes de la industria durante la presentación de una encíclica crítica respecto de la concentración del poder tecnológico fue interpretada por algunos sectores como una contradicción. En este aspecto, Zweig, analiza que el mensaje del documento no está dirigido principalmente a las corporaciones, sino a la ciudadanía.

Desde su mirada como divulgador y analista de la cultura digital, la encíclica invita a reflexionar sobre una pregunta que considera fundamental para esta época y que nos obliga a replantearnos: "¿Qué significa seguir siendo humanos en un tiempo cada vez más fascinado por los algoritmos?". A su entender, el debate trasciende el plano tecnológico y se adentra en dimensiones éticas, culturales y políticas que atraviesan a toda la sociedad.

Por otra parte, también advirtió sobre el avance de las nuevas tecnologías y la tardía adaptación de los marcos regulatorios y legislativos. "Cuando no hay regulación la discusión ya no es tecnológica, es política. Y cuando hay vacío en lo normativo, los espacios lo ocupan quienes tienen más capacidad de cómputo, más datos y más recursos. Y allí está el peligro", sostuvo.

"Cuando no hay regulación la discusión ya no es tecnológica, es política. Y cuando hay vacío en lo normativo, los espacios lo ocupan quienes tienen más capacidad de cómputo, más datos y más recursos. Y allí está el peligro".

Bajo esta lógica, la formación de la opinión pública, la soberanía de los Estados frente a plataformas transnacionales y las dificultades para exigir responsabilidades sobre decisiones automatizadas aparecen entre los principales desafíos que plantea el avance de la inteligencia artificial. "La decisión sobre qué se optimiza, qué se muestra, que se silencia, deja de pasar por instituciones representativas y el sector privado pasa a ocupar ese espacio. Esto demuestra exactamente el desplazamiento que León XIV advierte", señaló.

Mientras la Unión Europea impulsa marcos regulatorios específicos y algunos países avanzan en normativas que exigen supervisión humana sobre determinados sistemas de IA, el escenario global continúa mostrando enfoques divergentes entre quienes priorizan la regulación, quienes promueven una mayor libertad para la innovación tecnológica y aquellos que optan por un control más centralizado desde el Estado.

"Creo que la encíclica misma sintetiza diciendo que quien controle la inteligencia artificial va a imponer su visión moral. Y la discusión no es tecnológica, sino política. Entonces, ahí está el riesgo democrático concreto", señaló y agregó que "cuando no hay regulación, el vacío lo ocupa quien tiene más capacidad de cómputo, quien tiene más datos y dinero. Y aquí tenemos un problema para la democracia".

En este marco, se golpea fuertemente no sólo a los sistemas políticos democrático, sino a la formación de la opinión pública, porque "si tenemos sistemas que moldean comportamientos y valores sin deliberación, nos enfrentamos a una masa sesgada. Y en segundo lugar, se pone en jaque la soberanía cognitiva, que es la capacidad de algunos Estados de perder la fijación de reglas frente a infraestructuras que son transnacionales. Por último, y no menos importante, la rendición de cuentas, porque no hay a quién votar para cambiar un algoritmo", aseveró.

"Creo que la encíclica misma sintetiza diciendo que quien controle la inteligencia artificial va a imponer su visión moral. Y la discusión no es tecnológica, sino política. Entonces, ahí está el riesgo democrático concreto".

El especialista marco estos tres eslabones como choques contra la democracia, aunque haya iniciativas por parte de algunos Estados. "España acaba de aprobar una ley que exige la supervisión humana obligatoria de los modelos de Inteligencia Artificial, Estados Unidos desregula para competir, Europa regula y China controla desde el Estado".

Trabajo, educación y transformación de paradigmas

El impacto de la inteligencia artificial sobre el empleo constituye otra de las preocupaciones abordadas por la encíclica. Lejos de proponer un rechazo a la tecnología, el documento plantea la necesidad de preservar la centralidad de la persona en los procesos productivos y evitar que la automatización se convierta en un factor de exclusión.

"No es que la Iglesia sea anti-tecnológica, porque reconoce su valor. Lo que está rechazando es la lógica del dominio y la falsa neutralidad que tiene. Y me parece bueno entender por qué un Papa habla inteligencia artificial, porque la define como la cuestión social más grande de nuestra época. No existe nada similar desde lo que fue la industrialización de fines del siglo, forma parte del presente y modifica cotidianamente las formas de aprender, trabajar, producir conocimiento y acceder a la información", dijo.

Sin embargo, remarca el especialista que "el Papa no está diciendo que apaguen la IA o las XIX. Y me parece interesante decir que no le habla solamente a los católicos, sino que convoca a todos ante una encrucijada histórica", expresó.

En paralelo, el avance de estas herramientas genera nuevos interrogantes sobre los sistemas educativos, las habilidades requeridas para el futuro y la formación de las próximas generaciones. La discusión ya no se ubica en un escenario hipotético. En la inteligencia artificial de las máquinas, sino en advertir el consumo masivo que hay detrás, las capas de chatbot, la fabricación de chips, Prompt, los distintos modelos de IA como Gemini. Está señalando una tecnología que va muy por detrás, que en definitiva se trata de la arquitectura tecnológica que está en el ojo de la tormenta y ojalá esta encíclica sirva para acelerar los debates regulatorios, corporativos y sociales que necesitamos dar".

Un futuro utópico y debate que nos debemos

La encíclica también advierte sobre la utilización de la inteligencia artificial en el desarrollo de sistemas autónomos capaces de intervenir en decisiones vinculadas a la vida y la muerte. Para Zweig, el riesgo principal aparece cuando la innovación tecnológica se desvincula de los marcos éticos y de los mecanismos de responsabilidad humana.

"El peligro está en que la tecnología haga que las decisiones sobre la vida y la muerte sean cada vez más rápidas y más impersonales", señaló.

Consultado sobre la viabilidad de algunas de las propuestas planteadas por la encíclica, Zweig reconoció que ciertas aspiraciones pueden resultar difíciles de concretar en un escenario marcado por la competencia geopolítica y económica. Sin embargo, destacó que el principal aporte del documento podría residir en otro aspecto: "La intervención de la Iglesia en la discusión tecnológica resulta significativa porque introduce una mirada centrada en la dignidad humana, un concepto que atraviesa más de dos mil años de tradición institucional y que hoy busca dialogar con una tecnología cuya expansión global se produjo en apenas unos pocos años".

"La intervención de la Iglesia en la discusión tecnológica resulta significativa porque introduce una mirada centrada en la dignidad humana».

Sin embargo, no es ingenua su mirada al señalar que de igual manera, "hay Estados que compiten por atraer inversión y legisladores que dependen del lobby tecnológico. Las empresas no van a autolimitar sus ventajas. Entonces, la Iglesia tiene una posición que no compite por capacidad de cómputo, no le rinde la cuenta a ningún inversor ni accionista. Tiene una autoridad moral que otros actores perdieron, pero justamente ellos son los que tienen menor poder de ejecución. Es decir, pueden señalar el problema con autoridad, pero tiene cero capacidad de aplicación".

A este aspecto se suma que es difícil quedarse al margen del "tren tecnológico", dado que ningún país quiere desarmarse unilateralmente de una carrera geopolítica ni tampoco ninguna empresa desea ceder ventaja.

Más allá de las diferencias de enfoque sobre su alcance o efectividad, la encíclica instala una pregunta que comienza a atravesar gobiernos, empresas, universidades y organizaciones sociales: ¿cómo garantizar que el desarrollo de la inteligencia artificial responda al bienestar colectivo y no exclusivamente a intereses económicos o estratégicos?

En un contexto de aceleración tecnológica sin precedentes, el documento propone una reflexión de fondo sobre el futuro de la humanidad y sobre el papel que las personas deberán ocupar en una era cada vez más mediada por algoritmos y datos.

«La Iglesia tiene una posición que no compite por capacidad de cómputo, no le rinde la cuenta a ningún inversor ni accionista. Tiene una autoridad moral que otros actores perdieron, pero justamente ellos son los que tienen menor poder de ejecución».