Las tecnológicas de IA aceptan evaluaciones independientes de sus modelos más potentes

Emmanuel Macron reunió este lunes en París a cerca de medio centenar de personas de gobiernos, empresas de inteligencia artificial (IA) e investigadores para reforzar la seguridad de los modelos más avanzados. Según un comunicado del Elíseo, acudieron jefes de Estado y de Gobierno de ocho países, entre ellos Reino Unido, Japón, Canadá y Noruega. También asistió el secretario del Tesoro de Estados Unidos, además de representantes de Naciones Unidas y de la OCDE.

Por parte privada estuvieron directivos de siete empresas, como Sam Altman (OpenAI), Dario Amodei (Anthropic) y Arthur Mensch (Mistral AI). Participaron también el investigador Yoshua Bengio y representantes de la sociedad civil. Unos asistieron en persona y otros por videoconferencia. La cita da continuidad a los contactos iniciados en la cumbre del G7 de Évian, el pasado 17 de junio.

El encuentro terminó con el Llamamiento de París por la seguridad de la inteligencia artificial. Según la Presidencia francesa, es la primera vez que empresas del sector firman compromisos de este tipo para dar una respuesta internacional coordinada. Las firmantes se comprometen a someter sus modelos más avanzados a evaluaciones independientes, con atención a la ciberseguridad y a los riesgos nucleares, radiológicos, biológicos y químicos. Los resultados no sensibles se publicarán en un repositorio de acceso público.

Los gobiernos, por su parte, prevén reforzar las alertas tempranas ante incidentes graves y habilitar canales seguros para que los denunciantes comuniquen riesgos sin temor a represalias. Las empresas deberán informar públicamente de las capacidades y limitaciones de sus sistemas, y establecer mecanismos para interrumpir su funcionamiento. Los responsables políticos aclararán quién responde por daños a gran escala que crucen fronteras.