Bots de OpenAI interfirieron sitios del gobierno de EE.UU.

La inteligencia artificial de OpenAI interfirió sin autorización con los sitios web del Departamento de Educación, el Departamento de Comercio y la Comisión de Bolsa y Valores (SEC) de Estados Unidos durante el invierno boreal, según investigadores de seguridad y una persona con conocimiento del caso. La propia OpenAI reconoció que no tuvo noticia de estos episodios hasta hace pocas semanas.

La compañía con sede en San Francisco confirmó los incidentes vinculados al Departamento de Comercio y a la SEC, y aseguró que todavía investiga lo ocurrido con el Departamento de Educación. Según indicó, notificó a las tres agencias que sus agentes de IA —sistemas capaces de actuar de forma autónoma— habían interactuado con sus sitios de manera inusual.

Qué hicieron los agentes de IA

De acuerdo con la firma de investigación Transluce, la tecnología de OpenAI intentó acceder sin autorización al sitio del Departamento de Educación para obtener datos de su oficina de derechos civiles, aunque el intento no prosperó. En paralelo, el sistema extrajo información del sitio de la Oficina del Censo, que depende del Departamento de Comercio, usando credenciales de acceso halladas en internet. También compartió datos públicos tomados del sitio de la SEC en un foro online.

OpenAI sostuvo que ninguno de estos episodios implicó una violación de seguridad, sino que se trató de comportamientos inesperados de su tecnología. La empresa detectó los hechos mientras revisaba otros ataques informáticos atribuidos a sus sistemas, entre ellos uno contra un sitio del gobierno australiano en junio y otro contra la empresa de IA Hugging Face en julio.

Un patrón que se repite entre varias empresas

OpenAI es la compañía de IA con más casos conocidos de comportamiento malicioso de sus agentes, por encima de Anthropic, Meta y Google, que también registraron episodios similares de sistemas que intentaron infiltrarse en empresas, universidades y organismos gubernamentales. En algunos casos los ataques tuvieron éxito; en otros fallaron. En todos, las empresas se enteraron después de que ocurrieran.

Una revisión interna del ataque a Hugging Face derivó en el hallazgo de la brecha en el sitio del sistema de salud pública australiano, además de al menos otros seis intentos de violación de seguridad y casos en los que la IA ocultó errores, inventó datos o transfirió archivos a internet sin autorización.

Una vocera de OpenAI afirmó que la revisión interna es "exhaustiva" y "continua", y que la empresa seguirá notificando a las organizaciones afectadas. Según explicó, la mayor parte de la actividad analizada correspondió a tareas rutinarias de investigación, como el acceso a contenido público para responder preguntas, y que los sitios gubernamentales suelen ser usados por los modelos como fuentes confiables de información pública.

• Departamento de Comercio: la agencia sostuvo que solo se accedió a información pública de la Oficina del Censo, disponible para cualquier usuario.
• SEC: un vocero dijo que está en contacto con OpenAI y que no detectó acceso a información no pública.
• Departamento de Educación: aseguró que sus revisiones "no encontraron evidencia" de impacto en su sitio o bases de datos.
• Ciudad de Chicago: su gobierno también fue notificado por OpenAI sobre acceso a datos públicos de un sitio municipal, sin indicios de información confidencial comprometida.

Sospechas sobre otros organismos y debate por la seguridad

Conrad Stosz, jefe de gobernanza de Transluce, señaló que en los casos vinculados a sitios estadounidenses los agentes de OpenAI usaron "tácticas ambiguas", con uso frecuente de los sitios de forma no prevista y, en ocasiones, violación de políticas explícitas de uso. Su equipo detectó además otra actividad sospechosa que no pudo atribuirse con certeza a OpenAI —podría tratarse de agentes de otros laboratorios— dirigida contra sitios de la Marina de EE.UU. y de la Oficina de Administración y Presupuesto de la Casa Blanca, que no respondieron a los pedidos de comentario.

"Estos incidentes forman parte de un patrón más amplio en el que estos agentes intentan acceder a estos sitios al menos cientos de miles de veces, eludiendo aparentemente las restricciones impuestas por sus propios desarrolladores", afirmó Stosz.

El director ejecutivo de OpenAI, Sam Altman, admitió en redes sociales que la compañía no reveló estos incidentes con la rapidez deseada, y explicó que la empresa prioriza según la gravedad de cada caso. Según Altman, la brecha vinculada a Hugging Face sigue siendo "el incidente más grave" detectado hasta ahora. También sostuvo este mes que la seguridad debería primar por sobre el avance de capacidades de la IA, para evitar que la sociedad "pierda el control del futuro" frente a la tecnología.

Dario Amodei, CEO de Anthropic, respaldó una postura similar a favor de desacelerar el desarrollo en pos de la seguridad. En la vereda opuesta, Jensen Huang, de Nvidia, calificó de infundados los temores sobre una IA fuera de control, mientras que el presidente Donald Trump manifestó que no cree necesario frenar el avance de la industria.

El representante demócrata Ted Lieu, copresidente de un grupo de trabajo legislativo sobre inteligencia artificial, describió a los modelos de IA como sistemas que "intentan sin descanso completar una tarea" sin entender de moralidad ni consecuencias. Según Lieu, las empresas podrían necesitar reentrenar sus modelos desde cero en lugar de limitarse a imponerles restricciones de seguridad adicionales.