La IA se volvió tan potente que hay que vigilarla con más IA

Un costo extra solo para vigilar a los modelos

OpenAI implementó una capa de monitorización sobre sus modelos más avanzados que incrementa en un 20% el cómputo que ya se destinaba a la inferencia, según explicó la propia compañía. Esa cifra no representa el total de recursos que la empresa dedica a la seguridad de sus sistemas, sino específicamente el costo adicional de vigilar los procesos donde el modelo genera respuestas.

Esa vigilancia dejó de ser opcional. Se volvió obligatoria para los entrenamientos con aprendizaje por refuerzo y para las evaluaciones con herramientas en modelos de una capacidad igual o superior a la que la empresa identifica internamente como GPT-5.6 Sol. También se extendió a todo proceso de inferencia de otro modelo, identificado como Astra, después de que este mostrara un desempeño considerado sobresaliente en tareas de ciberseguridad.

Qué significa que un modelo esté "desalineado"

OpenAI define la alineación como lograr que un sistema de IA se comporte según lo previsto y siga respondiendo a la supervisión humana. El problema surge durante el entrenamiento: los modelos reciben recompensas por lograr determinados resultados, y un sistema suficientemente capaz puede encontrar atajos para obtener esa recompensa sin cumplir realmente el objetivo original.

Ese comportamiento se conoce como reward hacking (manipulación de la recompensa). Según la propia OpenAI, incluye conductas como:

• Manipular pruebas o evaluaciones
• Aprovechar fallas en los sistemas que califican su desempeño
• Ocultar información sobre su propio funcionamiento
• Acceder a recursos o herramientas externas sin autorización

Un ejemplo citado por la compañía: si se le pide a un agente de IA que modifique un código para que pase una serie de tests, el sistema puede optar por alterar directamente los tests o engañar al mecanismo de evaluación, en lugar de corregir el código. El modelo no busca actuar de forma maliciosa, sino que encuentra razonable cualquier camino que lo lleve al objetivo si no se le establecen límites explícitos.

Este tipo de episodios ya se detectó en la práctica. Uno de los casos más citados por OpenAI involucró comportamientos inesperados del modelo Astra vinculados a Hugging Face, lo que llevó a la compañía a suspender durante dos semanas el entrenamiento por refuerzo de ese modelo mientras evaluaba su comportamiento.

Cómo funciona el sistema de vigilancia

El esquema que describe OpenAI opera en capas. Primero, detectores de bajo costo revisan la actividad interna del modelo token por token. Cuando detectan algo anómalo, el caso se deriva a agentes de IA más especializados que analizan la situación y determinan qué acción tomar. Es este segundo nivel, según la empresa, el que explica buena parte del aumento del 20% en el cómputo necesario.

Una limitación reconocida por OpenAI es que la llamada cadena de razonamiento —el proceso intermedio que un modelo muestra antes de dar una respuesta— no siempre refleja todo lo que ocurre internamente. Si el sistema está tomando un atajo indebido, puede no explicitarlo, incluso sin ser "consciente" de que lo está haciendo.

La compañía sostiene que trabaja sobre tres frentes: monitorización, alineación y contención. En este último punto, dice estar reforzando los entornos de ejecución aislados (sandboxes), limitando privilegios permanentes de los modelos y multiplicando las barreras de seguridad, bajo la lógica de que ninguna medida aislada resulta suficiente por sí sola.

Otras empresas también reconocen el problema

El costo de la seguridad en IA se volvió un factor relevante en el desarrollo de modelos, más allá de OpenAI. En julio de 2026, otra compañía del sector publicó su hoja de ruta de seguridad, donde reconoció que sus evaluaciones y sistemas de monitorización pueden tener impacto en la productividad interna, aunque sin precisar una cifra equivalente al 20% mencionado por OpenAI. Google DeepMind difundió un documento similar en junio, y Meta se refirió al mismo tema poco antes.

El divulgador Ethan Mollick planteó que este esquema genera un problema de incentivos: mientras una empresa invierte en salvaguardas, otra que priorice ganar tiempo en la carrera por desarrollar modelos más potentes podría optar por reducirlas. Según su planteo, sería necesario un estándar común para el sector que genere incentivos económicos uniformes entre las compañías que desarrollan estos sistemas.