IBM ya no desarrollará tecnología de reconocimiento facial para vigilancia masiva

La compañía ha sido un gran jugador en el campo durante años ofreciendo varias soluciones

En una carta al Congreso, el CEO de IBM, Arvind Krishna, se refirió a las muertes de George Floyd, Ahmaud Arbery y Breonna Taylor, y dijo que a la compañía le gustaría trabajar con funcionarios para lograr la igualdad racial.

Krishna sugirió que debe haber cambios clave en las políticas a través de la reforma policial, el uso responsable de la tecnología y la ampliación de las habilidades y las oportunidades educativas. Con ese fin, dijo que IBM no ofrecerá tecnología de reconocimiento facial de uso general, ya que podría usarse para vigilancia masiva:

IBM se opone firmemente y no tolerará el uso de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas, o cualquier propósito que no sea coherente con nuestros valores y Principios de confianza y transparencia. Creemos que ahora es el momento de comenzar un diálogo nacional sobre si las agencias nacionales de aplicación de la ley deberían emplear la tecnología de reconocimiento facial y cómo.

El reconocimiento facial utilizado para la vigilancia ha sido una preocupación para los expertos en privacidad. A principios de este año, el informe del New York Times expuso a Clearview AI, una empresa que desarrolló un sistema de reconocimiento facial eliminando millones de sitios y vendiendo la solución a cientos de agencias policiales. Las falsas afirmaciones de precisión de la empresa podrían haber llevado a varios falsos positivos.

En marzo, India admitió que utilizó tecnología de reconocimiento facial para identificar a los manifestantes que participaron en la conmoción en la capital de Nueva Delhi mientras el presidente de los Estados Unidos, Donald Trump, estaba visitando el país. El año pasado, el Indian Express informó que la policía de Delhi grabó imágenes de protestas contra la controvertida Ley de Enmienda de Ciudadanía (CAA) de la India, y la ejecutó a través de un software de reconocimiento facial. Además de esto, China esfamosa por espiar a sus ciudadanos a través de numerosas tecnologías de vigilancia, que incluyen herramientas de reconocimiento facial.

En 2019, el Instituto Nacional de Estándares y Tecnología (NIST) publicó un estudio que decía que los sistemas de reconocimiento facial tienen una mayor tasa de falsos positivos para los rostros asiáticos y afroamericanos en comparación con los rostros caucásicos.

Todos estos ejemplos apuntan hacia un sesgo potencial, el peligro de la vigilancia masiva y el perfil dirigido a través del reconocimiento facial. El año pasado, IBM lanzó un gran conjunto de datos de diversas caras provenientes de Flickr para reducir el riesgo en la IA. Pero un informe de NBC descubrió que la compañía no notificó a las personas en esas fotos que sus imágenes estaban siendo utilizadas para este propósito.

Si bien IBM retirarse de la IA de uso general para la igualdad racial es un paso encomiable, tiene que hacer mucho más que eso. Hay muchas compañías que ofrecen alternativas a las soluciones de IBM. Por lo tanto, el gigante tecnológico necesitará participar activamente para reducir el sesgo y la formación de políticas que evitarán que la tecnología de reconocimiento facial se use para la vigilancia.