La transparencia, la ética, la responsabilidad o la seguridad deberán regir el uso de la inteligencia artificial en la UPNA

Además de los principios rectores descritos, el documento recoge distintos aspectos de la actividad universitaria donde se hace necesario regular el uso de la IA: docencia (alumnado, profesorado, estrategias docentes y estrategias de evaluación); investigación (donde se incluyen principios y pautas de uso, por un lado, e integridad científica y protección de datos, por otro); y, por último, gestión y administración (principios y pautas de uso, por un lado, y protección de datos y seguridad, por otro). En cada uno de esos apartados se incluyen los usos adecuados e inadecuados de la IA en cada caso. En definitiva, como se recoge en el documento, se trata de aprovechar el potencial de esta herramienta sin comprometer los valores fundamentales de la educación universitaria: pensamiento crítico, integridad académica, creatividad, rigor científico y desarrollo de competencias que solo pueden adquirirse "a través de la interacción humana y la experiencia presencial", según se indica.

Por último, se incluye un capítulo destinado al plan de formación, que será liderado por el Centro Superior de Innovación Educativa (CSIE) y que ya está llevando a cabo algunas acciones, con el fin de que la comunidad universitaria adquiera las competencias necesarias para un uso "adecuado, crítico y ético de la IA". El último apartado del documento constituye un marco para la provisión y gestión de infraestructura y recursos tecnológicos relacionados con la IA en la UPNA (herramientas institucionales, herramientas específicas, soporte técnico, etc.).

Algunos aspectos de los principios rectores sobre el uso de la IA

En cuanto a los principios rectores de la IA ya mencionados anteriormente, se recoge, en cuanto a la transparencia, que todo uso debe ser declarado y documentado. En lo referente a la ética, se especifica que las herramientas no deben emplearse para cometer plagio ni fraude académico, respetando la propiedad intelectual y prestando atención a los sesgos. En cuanto al pensamiento crítico, se concreta que todo contenido generado por IA tiene que ser revisado, verificado y contrastado con fuentes fiables. En el apartado de responsabilidad, se especifica que se debe respetar la normativa aplicable en materia de protección de datos y que se debe ser consciente del impacto ambiental del uso de la IA. En cuanto a la equidad, se subraya el hecho de que el acceso desigual a tecnologías de pago puede generar brechas digitales, que el uso de IA debe tener en cuenta a todos los colectivos y evitar sesgos y, en lo relativo a seguridad, que es necesario cumplir con los estándares adecuados y evitar compartir credenciales, contraseñas o información sensible.

Descendiendo al detalle de los usos en campos concretos (docencia, investigación y gestión administrativa), en el ámbito de la docencia se distingue entre el uso por parte del estudiantado y del profesorado. Para el primer colectivo, se circunscribe el uso de la IA al de herramienta de apoyo al estudio y trabajo autónomo, y no en las sesiones presenciales, y siempre ligada al principio de honestidad académica y al desarrollo de competencias. En cuanto al profesorado, este debe establecer de manera clara en qué actividades y condiciones está permitido el uso de esta herramienta, siempre con el fin de potenciar la calidad docente y el aprendizaje. Asimismo, se contempla el diseño de trabajos que, por su naturaleza, no puedan ser resueltos de manera automática por IA y que requieran de un razonamiento propio o procesamiento profundo.

En cuanto a la investigación, se contempla, entre otras cuestiones, el uso de la IA como herramienta de apoyo, sin comprometer en ningún caso la integridad científica ni sustituir el criterio experto del personal investigador. Por supuesto, las IA no pueden figurar como autoras de publicaciones científicas, que siempre conllevan una responsabilidad intelectual, no obstante, su uso debe siempre declararse.

En lo referente a la gestión administrativa se indica, de manera sucinta, que el uso de la IA debe estar siempre guiado por principios de protección de datos, transparencia, eficiencia y accesibilidad. Asimismo, se debe garantizar que el tratamiento de datos personales, laborales o financieros, así como de expedientes académicos, se realice siguiendo el reglamento de protección de datos de la UPNA y cualquier automatización debe mantener la supervisión humana en decisiones críticas.

Formación en IA

En el documento se recoge que la UPNA garantizará que "toda la comunidad universitaria adquiera las competencias necesarias para un uso adecuado, crítico y ético de la IA. Se entiende esta formación como un proceso progresivo e integral que debe capacitar a toda la comunidad universitaria para enseñar, aprender y trabajar en este nuevo contexto. Para ello, se contempla un modelo de aprendizaje escalonado adaptado a los distintos perfiles y necesidades de cada colectivo".

La formación especializada en IA, como se ha indicado, será competencia del Centro Superior de Innovación Educativa (CSIE). Se ofertarán cursos y talleres sobre el uso técnico de las herramientas, la protección de datos, la integridad académica y el fomento del pensamiento crítico. Por su parte, la formación curricular contempla la incorporación progresiva de la IA como competencia en las guías docentes de aquellas asignaturas donde aporte valor añadido, priorizando su introducción en materias no básicas, una vez que el estudiantado haya consolidado los conocimientos y competencias fundamentales. Asimismo, se promoverá que cada centro (escuelas y facultades) identifique las competencias de IA más relevantes para el perfil de egreso de sus titulaciones, ajustando los programas formativos a las demandas específicas de cada campo profesional.

Para garantizar una implementación efectiva y un seguimiento riguroso de estas directrices, el documento propone la creación de un Comité de Seguimiento integrado por una persona en representación de distintos órganos de la Universidad (vicerrectorado de Desarrollo Digital, recursos humanos, escuelas y facultades, investigación, servicio informático y CSIE).