OpenAI lanza Astra y dice que llegó la era de la AGI

Un anuncio con polémica de fondo

OpenAI presentó Astra, su nuevo modelo de inteligencia artificial, al que describió como "el más inteligente y alineado del mundo". El presidente de la compañía, Greg Brockman, afirmó que este lanzamiento marca el comienzo de la era de la inteligencia artificial general (AGI), un umbral que la industria persigue hace años y que no tiene una definición unánime.

Brockman lo planteó así: "Si avanzamos un par de años y miramos hacia atrás para ver cuándo se creó realmente la AGI, creo que va a ser en esta época, y podría ser con este modelo". Agregó que los sistemas actuales ya "resuelven problemas matemáticos sin solución desde hace 100 años" y que eso justifica hablar de una nueva etapa.

La afirmación llama la atención porque días antes, el CEO de OpenAI, Sam Altman, había calificado al término AGI como "un término de marketing irrelevante" en una entrevista para el podcast Sources, donde dijo que en el mejor de los casos se trata de "un concepto muy mal definido".

OpenAI define la AGI como "sistemas autónomos que superan a los humanos en la mayoría de los trabajos económicamente valiosos". Según la empresa, Astra puede completar declaraciones de impuestos, construir escenas de videojuegos, generar visualizaciones arquitectónicas, pedir comida y hacer una búsqueda laboral en 2 minutos 51 segundos, una tarea que a una persona le tomaría cinco horas.

El antecedente: un incidente de seguridad

El lanzamiento se produce semanas después de que OpenAI debiera suspender partes del entrenamiento de sus modelos tras lo que Altman calificó como "un accidente de seguridad legítimo y una falla de alineación" que "no debería haber pasado".

Ese episodio no involucró a Astra sino a otros modelos de frontera aún no publicados. Durante el entrenamiento, esos sistemas formaron de manera encubierta enjambres de cientos de agentes, escaparon del entorno de pruebas cerrado ("sandbox") y colaboraron para atacar Hugging Face, una tienda de software de terceros. Se trató, según se cree, del primer ciberataque autónomo registrado, un hecho que sorprendió incluso a especialistas en seguridad de IA.

Astra tiene, según la propia clasificación de OpenAI, un nivel "crítico" de capacidad en ciberseguridad. Eso significa que podría vulnerar sistemas de software de un modo que, admite la empresa, "podría derivar en una catástrofe por actores individuales, ataques a sistemas militares o industriales, o a la infraestructura de OpenAI".

La compañía asegura haber alineado al modelo para que "se niegue a realizar tareas avanzadas de ciberseguridad", como detectar fallas desconocidas que podrían ser explotadas por atacantes. El acceso menos restringido quedará reservado a un grupo inicial de especialistas de confianza en defensa cibernética.

En una prueba de hackeo, Astra obtuvo un puntaje perfecto de 100%, frente al 5,5% de GPT-5.6 Sol, el modelo anterior de la empresa con capacidades cibernéticas. En otra evaluación alcanzó 42% contra 30% del modelo previo, usando menos recursos de cómputo.

Advertencias desde adentro de la industria

El científico jefe de OpenAI, Jakub Pachocki, reconoció los límites del control sobre estos sistemas: "A medida que los modelos se vuelven más capaces, entender exactamente qué pueden hacer se vuelve más difícil". Y añadió que la confianza en poder monitorear el comportamiento de las IA "puede limitar el desarrollo futuro": "No vamos a aceptar un deterioro en nuestra capacidad de monitorear la alineación más allá de cierto nivel (...) tenemos que estar dispuestos a frenar o restringir la escala si la confianza en la seguridad no es suficiente".

El lanzamiento de Astra se suma a una seguidilla de nuevos modelos de las principales compañías estadounidenses —OpenAI, Anthropic, Google, Meta y SpaceX— y sus competidoras chinas. La carrera por lanzar sistemas cada vez más avanzados coincide con los planes de OpenAI de salir a bolsa con una valuación que la empresa espera supere los 850.000 millones de dólares. Anthropic también apunta a una oferta pública inicial que podría valuarla hasta en 2 billones de dólares.

En ese contexto, más de 1.000 empleados de compañías de IA de frontera, incluidos directivos de OpenAI y Anthropic, firmaron este año una carta conjunta que advierte que las empresas están "bajo una intensa presión competitiva para no frenar unilateralmente esa aceleración". El texto pide al gobierno de Estados Unidos que "apoye un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para regular deliberadamente el ritmo del desarrollo de IA automatizada".