OpenAI y Meta se disputan quién protege mejor los datos

Una carrera de promesas cruzadas

En el evento DevDay de este año, el CEO de OpenAI, Sam Altman, presentó Dots, el nuevo agente de inteligencia artificial de la compañía, y afirmó que la empresa busca "fijar un nuevo estándar de privacidad en la IA de punta". Durante la jornada, directivos de OpenAI lanzaron críticas veladas contra Muse, el agente de Meta, por supuestamente no resguardar bien los datos de los usuarios.

La ironía es que Muse había sido presentada meses antes con el mismo argumento: el CEO de Meta, Mark Zuckerberg, aseguró entonces que el producto estaba "construido desde cero para la privacidad y la seguridad", posicionándolo como una alternativa más segura frente a su predecesor, OpenClaw.

En un contexto donde las empresas acumulan datos personales y los ciberataques son moneda corriente, los laboratorios de inteligencia artificial compiten por convencer a los usuarios de compartir todavía más información con sus agentes. La estrategia es similar en todos los casos: prometer que, a diferencia del rival, ellos sí van a cuidar esos datos.

Las fallas de seguridad de Muse

Nat Friedman, jefe de producto de Meta Superintelligence Labs, escribió en la red social X que el objetivo con Muse era construir algo como OpenClaw pero "seguro, fácil de usar y escalable a miles de millones de personas". Según la compañía, los datos de cada usuario se almacenan en una máquina virtual aislada, descrita por Zuckerberg como "una computadora Linux aislada, con navegador, CPU, memoria y almacenamiento propios".

Sin embargo, pese a que Muse lideró las descargas en la App Store y sumó 600.000 usuarios activos diarios en Estados Unidos en pocas semanas (según datos de Apptopia), las promesas de Meta mostraron grietas:

• Un investigador de seguridad detectó una vulnerabilidad de día cero que permitía tomar el control de Muse, aunque ya fue corregida.
• Según reportó el medio 404 Media, hubo problemas de seguridad detectados a último momento antes del lanzamiento, uno de los cuales habría permitido acceder a bases de datos internas de Meta.
• Aunque los datos están aislados entre usuarios, Meta todavía puede acceder a esa información, algo que la empresa planea limitar con una herramienta de verificación criptográfica recién hacia fin de año.

A esto se suman denuncias de uso de datos más amplio del esperado: la aplicación viene configurada por defecto para que Meta entrene sus modelos con lo que cada usuario escribe (aunque se puede desactivar esa opción). Un periodista de la revista Inc. relató que Muse leyó y subió mensajes privados suyos sin que lo pidiera, y un youtuber contó que el agente llegó a ofrecer su dirección particular a un desconocido a través de Marketplace. Según publicó la revista Wired, la plataforma además arma "perfiles detallados de todos tus amigos y familiares".

La respuesta de OpenAI con Dots

OpenAI apuntó a estas fallas al presentar Dots a fines de septiembre. Alexander Embiricos, responsable de producto de Codex en la compañía, dijo en el escenario de DevDay que el objetivo es tener "el asistente más confiable, seguro y protegido", mientras Altman mostraba funciones de control para el usuario, como fijar reglas para que el agente nunca realice una compra por encima de determinado monto.

Glen Coates, jefe de plataforma de aplicaciones de OpenAI, marcó una diferencia con Meta: "Ellos no tienen un producto de IA con 1.200 millones de usuarios", señaló, y agregó que la compañía buscaría evitar "ese tipo de errores" al lanzar un producto a esa escala.

Para captar clientes corporativos, OpenAI presentó además un esquema de controles reforzados sobre los datos y opciones de retención cero, es decir, que la información no quede almacenada en los servidores de la empresa. Hasta ahora no se reportaron escándalos de privacidad con Dots, aunque el agente solo está disponible para las suscripciones de ChatGPT de 100 dólares mensuales en adelante, lo que también implica una base de usuarios mucho más chica.

Aun así, persiste la resistencia a compartir datos sensibles con estos agentes, simplemente porque requieren mucha información personal para funcionar. La periodista Allison Johnson, del sitio The Verge, contó que sintió incomodidad al tener que cargar sus datos bancarios cuando el bot se los pidió para completar una tarea (Muse resuelve esto con una integración de Stripe).

No todas las empresas del sector hacen estas promesas de privacidad. La firma Instinct fue cuestionada públicamente por tener términos de servicio demasiado amplios que le daban acceso casi sin restricciones a los datos de los usuarios; desde entonces, habría ajustado esas condiciones.

Por ahora, la estrategia de los laboratorios de IA para instalar sus agentes entre el público general combina tres elementos: hacerlos útiles, hacerlos simpáticos para disimular lo invasivo de la propuesta, y prometer privacidad, con la expectativa de que esas promesas se sostengan en el tiempo.