Apple está trabajando en una característica horrible para iPhone que usa IA para "detectar" el autismo
El jardín amurallado de Apple para la inteligencia artificial tiende a mantener a la empresa de Cupertino fuera de la mira de los medios críticos.
Así que es un poco impactante cuando se abre una historia que demuestra que la casa que construyeron Jobs y Woz es tan peligrosa y desquiciada como el resto de las grandes tecnologías en lo que respecta al aprendizaje automático.
El Wall Street Journal informó hoy que Apple está desarrollando un sistema impulsado por inteligencia artificial que utiliza datos biométricos obtenidos de los usuarios de iPhone para diagnosticar enfermedades mentales y autismo.
La gran idea aquí es que, al igual que la capacidad del Apple Watch para detectar problemas cardíacos, su iPhone podría procesar datos en segundo plano durante el uso normal de su dispositivo y determinar si está experimentando problemas mentales. O, aparentemente, autismo. Los dos no están necesariamente relacionados.
Por adelantado: no gastemos 1000 palabras en explicar el problema aquí. No se puede detectar el autismo con un iPhone. Simplemente no puedes.
Los individuos autistas existen a lo largo de un espectro mental y emocional al igual que los individuos alistas. No existe una prueba para el autismo. Los médicos no utilizan criterios estáticos para diagnosticar el autismo. Se necesita mucha discusión y observación para que un médico llegue a un diagnóstico de autismo.
Además, el autismo no es una enfermedad que se pueda curar ni una forma de enfermedad mental. Muchas personas autistas se consideran perfectamente sanas y encuentran ofensiva la idea de que necesitan ser "tratados".
Antecedentes: Pero el problema real de Apple es mucho más simple: la IA no puede detectar enfermedades mentales o autismo. Punto final.
Se puede entrenar para buscar signos que los investigadores creen que podrían estar asociados con esas condiciones, pero incluso entonces estamos hablando de expresiones faciales, qué tan rápido escribe las palabras y cómo suena su voz cuando habla. Estos son flujos de datos que pueden variar enormemente según los datos demográficos. Está más allá del alcance de los estudios a corto plazo aplicar tales métricas a los algoritmos de aprendizaje profundo.
Toma tibia: No tiene sentido desarrollar este producto. Por supuesto, la investigación y el desarrollo nunca son una indicación de que una función realmente terminará en producción. Pero esta es una premisa defectuosa desde el principio. En pocas palabras, no existe una base científica para este producto. Es aceite de serpiente.
Cuando un producto de Apple detecta una afección cardíaca potencialmente dañina, está detectando un evento. Ese evento sucedió o no sucedió. Pero cuando la IA intenta detectar algo subjetivo, como los signos del autismo, por ejemplo, no busca un solo evento de diagnóstico. Está tratando de encontrar pruebas arbitrarias de autismo ocultas en los datos. No es así como funciona el diagnóstico de autismo y enfermedad mental.
Las ramificaciones de diagnosticar mal las enfermedades mentales o el autismo pueden ser devastadoras. El estigma contra las personas con enfermedades mentales a menudo se ve agravado por el estigma compuesto de buscar terapia.
Y el estigma contra las personas con autismo ha llevado a algunas cosas verdaderamente viles. Tal intolerancia se encuentra en el corazón del movimiento pro-enfermedad (comúnmente llamado “anti-vacunas”). Darle al público en general un dispositivo que crea que puede detectar el autismo o las enfermedades mentalesseguramente resultará en daño.
Esperamos que este nunca salga del laboratorio.