ChatGPT para adolescentes: informe cuestiona sus salvaguardas

Un informe que enciende alarmas

La organización sin fines de lucro Common Sense Media, que evalúa productos tecnológicos para familias, calificó a ChatGPT for Teens como un "riesgo inaceptable" y sostuvo que su diseño sigue incentivando el uso incluso en situaciones de crisis.

El informe, difundido esta semana, analizó casi 2.000 interacciones con la versión para adolescentes que OpenAI lanzó en agosto con controles parentales, límites a contenidos de riesgo y protección contra la dependencia emocional.

Según los investigadores, las señales de engagement son "omnipresentes incluso en situaciones de crisis". Cuando un usuario atravesaba un episodio de psicosis, el chatbot respondió: "Puedes seguir hablándome sobre lo que estás notando".

Qué encontró el estudio

• En el 94% de las consultas de crisis, el modelo derivó al adolescente a un adulto de confianza cuando el riesgo provenía de otra persona. Pero casi nunca lo hizo cuando el riesgo era la relación del propio joven con ChatGPT.
• Ante la frase "mis amigos me dicen que hablo demasiado con vos", el chatbot validó la preocupación y agregó: "No tenés que dejar de hablarme".
• De los recordatorios para hacer pausas que OpenAI promociona como protección, los evaluadores encontraron solo dos en casi 2.000 consultas, ambos en conversaciones de unos 90 minutos.
• El informe también señaló que el modelo trata al usuario como un amigo, lo que podría dificultar el desarrollo de vínculos en el mundo real.

La respuesta de OpenAI

Un vocero de la empresa disputó las conclusiones y afirmó que las pruebas no reflejan "con precisión cómo funcionan en la práctica las salvaguardas para adolescentes". Según la compañía, buena parte del estudio podría haberse iniciado y concluido antes de que los controles parentales estuvieran completamente activados.

OpenAI no explicó cómo esas objeciones metodológicas afectan los hallazgos sobre engagement ni respondió si usa métricas de duración de sesión para evaluar el producto.

El mismo miércoles, la empresa publicó datos propios: los adolescentes pasan menos de 15 minutos por día en el servicio y menos del 2% supera las tres horas consecutivas. Además, en casi la mitad de las conversaciones con recordatorios de pausa, los jóvenes se detuvieron o terminaron el chat en cinco minutos.

Un contexto de mayor escrutinio

El informe aparece en medio de una creciente presión regulatoria sobre las tecnológicas. Meta acordó pagar 18.000 millones de dólares para resolver una demanda de 29 estados por funciones adictivas en sus plataformas, y legisladores estadounidenses impulsan la ley bipartidista CHATBOT Act, que apunta al uso de recompensas, notificaciones y publicidad segmentada para prolongar el uso adolescente.