La Gobernadora Hochul Declara que Nueva York Liderará la Nación en Ciencia y Seguridad de la IA; Lanza Nuevo Instituto de Investigación

La gobernadora Kathy Hochul lanzó hoy una iniciativa estatal pionera para impulsar la ciencia y la seguridad de la inteligencia artificial: el Centro de Nueva York para la Responsabilidad e Investigación en IA, con sede en la Universidad Estatal de Nueva York (SUNY) en Binghamton. El Centro reunirá una experiencia académica sin precedentes para impulsar la investigación sobre la seguridad de la IA, acelerar el descubrimiento científico y probar de forma independiente sistemas avanzados de IA en materia de seguridad.

"Mientras el gobierno federal permanece inactivo, Nueva York lidera la lucha contra la inacción en materia de seguridad de la IA y exige responsabilidades a las grandes empresas tecnológicas", dijo la gobernadora Hochul. "Hay demasiado en juego como para simplemente confiar en la palabra de las empresas de IA. Por eso, estamos reuniendo a nuestros investigadores de talla mundial y la capacidad de computación de Empire AI para probar de forma independiente sistemas de IA potentes, comprender sus riesgos y aplicar ese conocimiento para proteger a los neoyorquinos".

El presidente del Consejo de Empire AI, Tom Secunda, dijo: "Nueva York se encuentra en una posición privilegiada para responder a uno de los desafíos más importantes de nuestro tiempo: garantizar que los sistemas de IA más potentes del mundo sean seguros, fiables y se basen en una ciencia rigurosa. Estamos aprovechando el potencial de Empire AI y la sólida colaboración de nuestras instituciones académicas para impulsar la investigación en IA y abrir nuevos caminos hacia el descubrimiento científico. Las pruebas independientes ayudarán a los investigadores a comprender las capacidades de sistemas cada vez más potentes y cómo utilizarlos de forma segura".

Greg Morrisett, de Cornell Tech, y Jeannette Wing, de la Universidad de Columbia, dos líderes reconocidos internacionalmente en informática y ciberseguridad, dirigirán el Centro como codirectores interinos. Siguiendo las instrucciones de la Gobernadora, reunirán a más de 80 científicos destacados de universidades e instituciones de investigación de todo el estado de Nueva York, expertos en seguridad de la IA, protección de datos e informática. El Centro, con sede en la Universidad de Binghamton, congregará a investigadores para abordar los problemas de seguridad de la IA y garantizar que Nueva York impulse no solo la innovación en IA, sino también la seguridad. El Centro cuenta con el respaldo de la avanzada capacidad de computación de Empire AI, la iniciativa público-privada de 500 millones de dólares de la Gobernadora Hochul para impulsar la investigación en IA en beneficio de la sociedad.

El Centro de Nueva York para la Responsabilidad e Investigación en IA (NYCAIRR) abordará el desafío fundamental y creciente de evaluar la seguridad y el funcionamiento de los sistemas de IA cada vez más potentes. Esta misión se llevará a cabo mediante pruebas independientes de sistemas de IA de vanguardia, investigación científica fundamental y la formación de una nueva generación de expertos en seguridad de la IA. El Centro se propone evaluar la seguridad de los sistemas de IA actuales y desarrollar las herramientas científicas, las mediciones y los estándares necesarios para evaluar sistemas cada vez más potentes a medida que la tecnología evoluciona. Su labor contribuirá a promover el uso responsable de la IA en campos que abarcan desde la medicina y el descubrimiento científico hasta la infraestructura crítica, al tiempo que proporcionará a los funcionarios públicos evidencia objetiva para fundamentar las decisiones políticas sobre la seguridad y la rendición de cuentas en materia de IA.

La misión fundacional del Centro es impulsar la ciencia de la IA y utilizarla para acelerar los descubrimientos en diversos campos científicos. La iniciativa estatal anunciada hoy se basa en este principio, apoyando la investigación del Centro para evaluar de forma independiente los sistemas avanzados de IA. Su investigación se centrará en comprender cómo funcionan estos sistemas cada vez más potentes, desarrollar métodos para probar su seguridad, garantizar que se comporten según lo previsto y explorar cómo se puede utilizar la IA de forma responsable para impulsar el descubrimiento científico. Uno de los primeros objetivos del Centro es una campaña nacional de reclutamiento de expertos especializados en límites fundamentales y teoría matemática, métodos formales y verificación, sistemas complejos y con agentes, seguridad y privacidad del hardware, interpretabilidad y alineación, e IA científica y bioseguridad.

La gobernadora Hochul anunció por primera vez el Centro de Nueva York para la Responsabilidad y la Investigación en IA en enero con una histórica donación filantrópica de 30 millones de dólares de un grupo de donantes liderado por Tom Secunda, exalumno de Binghamton y cofundador de Bloomberg LP, junto con una inversión inicial de 25 millones de dólares en investigación por parte de SUNY y capital operativo del Estado de Nueva York.

Morrisett, decano y vicerrector de Cornell Tech, y Wing, vicepresidenta ejecutiva de Investigación de la Universidad de Columbia, han dedicado sus carreras a estudiar el funcionamiento de sistemas informáticos complejos, sus posibles puntos de fallo y cómo hacerlos más seguros. En su calidad de codirectores interinos, orientarán la agenda científica del Centro, supervisarán sus labores de evaluación independiente y contribuirán a crear una red estatal de investigadores que seguirán desarrollando su labor en sus respectivas instituciones de origen.

Asimismo, la nueva Oficina de Innovación, Gobernanza, Integridad y Confianza Digital (DIGIT, por sus siglas en inglés) ha puesto en marcha un portal en línea para que los desarrolladores de sistemas de IA de vanguardia a gran escala se registren ante el estado de Nueva York antes del 1 de enero de 2027. Conforme a la Ley RAISE, todos los desarrolladores de IA de vanguardia que operen en Nueva York están sujetos a requisitos de seguridad y transparencia, con obligaciones adicionales para aquellos que operan a gran escala. Estos últimos deberán registrarse a través del recién estrenado portal RAISE antes del 1 de enero de 2027. A partir de enero, los desarrolladores de IA de vanguardia a gran escala también deberán publicar marcos de seguridad en sus sitios web; además, todos los desarrolladores de IA de vanguardia estarán obligados a notificar incidentes de seguridad críticos y a publicar informes sobre la transparencia de sus modelos. Por otra parte, DIGIT ha habilitado un sitio web que detalla los requisitos aplicables a los desarrolladores de IA de vanguardia que operan en el estado.

Este anuncio se enmarca en la agenda sobre seguridad en IA de la gobernadora Hochul -pionera a nivel nacional-, la cual contempla la implementación de la Ley RAISE de Nueva York. En virtud de esta nueva normativa, los desarrolladores de IA de vanguardia a gran escala deberán registrarse ante el estado y cumplir con estrictos requisitos de seguridad, transparencia y presentación de informes; entre ellos, una exigencia -la más rigurosa de todo el país- de notificar cualquier incidente de seguridad crítico en un plazo máximo de 72 horas. La gobernadora también ha creado la oficina DIGIT -la primera de su clase en Estados Unidos-, encargada de aplicar la Ley RAISE y supervisar a los desarrolladores de IA de vanguardia a gran escala.

Kaitlin Asrow, superintendente interina del Departamento de Servicios Financieros (DFS) del estado de Nueva York, dijo: "El Centro de Nueva York para la Responsabilidad e Investigación en IA (New York Center for AI Responsibility and Research) constituye un paso más en el avance de la seguridad en el ámbito de la IA. El DFS se enorgullece de liderar la implementación de la Ley RAISE a través de la nueva oficina DIGIT. Esperamos colaborar estrechamente con el Centro bajo el liderazgo de la gobernadora Hochul".

A petición del Estado, el NYCAIRR podrá aportar conocimientos especializados, evaluaciones y pruebas que sirvan de base para la formulación de políticas estatales y la supervisión de los desarrolladores de IA de vanguardia. Por ejemplo, el NYCAIRR colaborará con DIGIT para comenzar a revisar los marcos de seguridad publicados por los desarrolladores de IA y ofrecer recomendaciones sobre cómo reforzar los requisitos.

El rector de SUNY, John B. King Jr., dijo: "SUNY se sitúa a la vanguardia del desarrollo de la IA en beneficio del interés público. Gracias al firme liderazgo de la gobernadora Hochul y al Centro de Responsabilidad e Investigación en IA (Center for AI Responsibility and Research) de la Universidad Estatal de Nueva York en Binghamton, SUNY contribuirá a garantizar que el estado de Nueva York sea un referente nacional y mundial en el avance de la seguridad y la protección en el ámbito de la IA".

La Junta Directiva de SUNY dijo: "A medida que la IA adquiere una presencia cada vez mayor en la vida cotidiana de los neoyorquinos, tenemos la responsabilidad de garantizar que esta tecnología se evalúe de forma continua y se utilice de manera segura. SUNY encabeza la excelencia en la investigación y, gracias al decidido apoyo de la gobernadora Hochul y a instituciones como el Centro de Responsabilidad e Investigación en IA de la Universidad Estatal de Nueva York en Binghamton, estaremos mejor preparados para asegurar que, a medida que la IA avance, lo haga de forma segura y transparente, en beneficio de los neoyorquinos".

La rectora de la Universidad Estatal de Nueva York en Binghamton, Anne D'Alleva, dijo: "El Centro de Responsabilidad e Investigación en IA de la Universidad Estatal de Nueva York en Binghamton ayudará al estado de Nueva York a liderar la nación en materia de transparencia y seguridad en la IA. Gracias al liderazgo de la gobernadora Hochul y con gratitud hacia nuestro exalumno Tom Secunda, la Universidad de Binghamton se enorgullece de albergar este centro transformador y de dar la bienvenida a investigadores de talla mundial que nos ayudarán a seguir siendo líderes globales en el fomento del bien público".

En los próximos meses, la gobernadora seguirá explorando vías para ampliar la Ley RAISE (RAISE Act), como parte de los esfuerzos continuos por reforzar aún más las leyes y normativas sobre seguridad en la IA del estado de Nueva York, las cuales son pioneras a nivel nacional.