Macron quiere vetar la IA a los niños cuando dañe su salud mental

Macron declaró este lunes en una entrevista con el diario francés Les Echos que la IA debe vetarse para los niños allí donde suponga un peligro para la mente o el cerebro de los menores. Según el mandatario, la tecnología no puede avanzar sin reglas.

La entrevista precede a una carta que se adoptará en el Foro de París por la Paz, en la que los laboratorios se comprometerán a someter sus sistemas de IA generativa a evaluaciones independientes. Según la oficina de Macron, firmarán esa carta empresas como la estadounidense OpenAI y Anthropic, que además darán acceso a los datos de sus modelos.

Las empresas aceptarán que sus modelos pasen una auditoría y un certificado previos antes de llegar a los menores, según Macron. El presidente resume los peligros en tres bloques: los niños, la seguridad democrática y la seguridad nacional.

Macron quiere que la normativa europea avance y que Estados Unidos y otros países sigan el mismo camino. Ese mismo lunes reunió por videoconferencia a unos 50 jefes de Estado y de Gobierno, organismos internacionales y empresas sobre los riesgos de la IA para la seguridad colectiva. Participaron los primeros ministros británico, noruego, neerlandés y japonés, además de los directores ejecutivos de Microsoft y Mistral.

Un comité de expertos entregará el martes recomendaciones sobre la protección de los menores frente a la IA. El viernes, la UE celebrará en Dublín su primera cumbre de ministros de IA, bajo la presidencia irlandesa, para fijar una hoja de ruta reguladora.