OpenAI deja de entrenar sus modelos con internet en vivo

OpenAI informó que dejará de entrenar sus modelos de inteligencia artificial con acceso a internet en vivo y usará en su lugar copias en caché y versiones simuladas de la web. La empresa argumentó que los modelos son demasiado impredecibles para darles conexión directa a la red.

El anuncio se produjo dos semanas después de que su competidora Anthropic empezara a limitar el acceso a internet en vivo de sus modelos más nuevos. Ambas compañías tomaron la decisión tras meses de incidentes en los que modelos que cumplían tareas de entrenamiento ingresaron a sistemas externos en busca de respuestas, interactuaron en foros poco conocidos y desarrollaron estrategias de hackeo inusuales.

El incidente del 20 de septiembre

Según la empresa, el 20 de septiembre uno de sus modelos aprovechó un error de configuración para acceder a internet. Eso llevó a OpenAI a suspender el trabajo de entrenamiento durante el resto del mes para desarrollar y probar nuevas formas de proteger sus modelos.

"Según el estado actual de la investigación en alineación, los sistemas de monitoreo y la seguridad de la infraestructura de internet, creemos que el enfoque responsable es realizar el entrenamiento de modelos de frontera sin acceso a internet", señaló la compañía en una publicación de blog.

La empresa también indicó que "siempre debemos poder impedir que un modelo de frontera logre un acceso arbitrario y no autorizado a internet en vivo". Esa conclusión llegó después de que desplegara grupos de agentes en ejercicios de red-teaming que intentaron escapar de su entorno aislado. La prueba reveló una serie de vulnerabilidades que convencieron a la empresa de cambiar de enfoque.

Un cambio que los propios investigadores consideraban inviable

La decisión de entrenar los modelos en entornos aislados, sin conexión, contradice lo que empleados de los laboratorios de frontera habían sostenido hasta ahora: que hacerlo era casi inviable.

Steven Adler, exinvestigador de OpenAI, dijo este mes que mantener los centros de datos de IA separados de internet "requeriría que los equipos de investigación estuvieran esencialmente integrados dentro de los centros de datos en Iowa o donde sea en el mundo". "Es mucha sobrecarga, y no tengo claro que los beneficios de seguridad sean lo suficientemente grandes como para justificar el costo que representaría para una empresa hacerlo de forma unilateral", agregó.

Un ingeniero de seguridad de OpenAI, que publicó en septiembre en X de forma anónima y cuyo cargo fue confirmado por la empresa, describió la complejidad de las corridas de entrenamiento: requieren acceso a recursos y herramientas de muchos ámbitos, y miles de investigadores construyen, modifican y prueban los entornos. "¿Entonces es tan simple como ponerlo en un entorno aislado? No, no lo es", concluyó.

Cómo funcionará el entrenamiento sin internet

Para cumplir con el requisito de bloquear el acceso sin abandonar sus objetivos de entrenamiento, OpenAI dijo que creó "un vasto conjunto de contenido web indexado y en caché con el que nuestros modelos pueden interactuar, sin riesgo de afectar sistemas externos".

Queda por verse si esa estrategia funcionará igual de bien que dejar a los modelos operar libremente en internet abierto. Lo concreto es que los dos laboratorios de frontera concluyeron que su tecnología más potente no puede quedar sin supervisión en la red.