El nuevo frente de la IA

España presentó en Ginebra una coalición internacional para defender los derechos de niñas, niños y adolescentes en la era de la inteligencia artificial. La iniciativa fue lanzada en el marco del diálogo de Naciones Unidas sobre Gobernanza de la IA.

El grupo busca coordinar acciones entre gobiernos, organismos internacionales, empresas tecnológicas y organizaciones civiles para que el desarrollo de la IA respete la seguridad, la salud y los derechos de los menores.

La propuesta fue impulsada por España con el apoyo de Francia, Kenia y la Unión Europea. También se sumaron países como Austria, Brasil, Canadá, Corea del Sur, Italia, Japón, Marruecos y Países Bajos, entre otros. Además, cuenta con el respaldo de Unicef, Unesco y organismos de Naciones Unidas vinculados a derechos humanos y tecnologías digitales.

Sin embargo, la coalición no incluye a Estados Unidos ni a China, los dos países donde se concentran las principales empresas y desarrollos de inteligencia artificial.

El documento advierte que la IA está transformando los espacios digitales donde los menores aprenden, se comunican e interactúan. Aunque abre nuevas oportunidades, también puede aumentar riesgos como la manipulación, los contenidos dañinos, los deepfakes, la generación de material sexual abusivo y la segmentación algorítmica de niños y adolescentes.

Durante la presentación, el ministro español de Transformación Digital, Óscar López, sostuvo que los derechos de los menores no pueden quedar fuera del mundo digital y reclamó mayor responsabilidad a las empresas que utilizan datos de niños y adolescentes.

La iniciativa se suma al debate global sobre la protección de menores en internet. En los últimos años, varios países avanzaron con restricciones o controles sobre el acceso de niños a redes sociales, pero ahora la preocupación empieza a trasladarse también al impacto de la inteligencia artificial.

Especialistas advierten que los llamados “amigos digitales” y personajes creados con IA podrían repetir, o incluso profundizar, los problemas ya vistos en las redes sociales, como la adicción, la manipulación emocional y la exposición a contenidos nocivos.