Las agencias federales están aumentando rápidamente el uso del reconocimiento facial.

A pesar de la creciente oposición, el gobierno de EE. UU. Está en camino de aumentar el uso de la controvertida tecnología de reconocimiento facial.

La Oficina de Responsabilidad del Gobierno de EE. UU. Publicó un informe el 24 de agosto de 2021, que detalla el uso actual y planificado de la tecnología de reconocimiento facial por parte de las agencias federales. La GAO encuestó a 24 departamentos y agencias, desde el Departamento de Defensa hasta la Administración de Pequeñas Empresas, y encontró que 18 informaron que usaban la tecnología y 10 informaron planes para expandir su uso.

El informe llega más de un año después de que el Comité de Política Tecnológica de la Asociación de Maquinaria de Computación de EE. UU., La sociedad de computación científica y educativa más grande del mundo, pidiera el cese inmediato de prácticamente todo el uso gubernamental de la tecnología de reconocimiento facial.

El Comité de Política Tecnológica de los EE. UU. Es uno de los numerosos grupos y figuras prominentes, incluida la ACLU, la Asociación Estadounidense de Bibliotecas y el Relator Especial de las Naciones Unidas sobre la Libertad de Opinión y Expresión, para pedir restricciones en el uso de la tecnología. Un tema común de esta oposición es la falta de estándares y regulaciones para la tecnología de reconocimiento facial.

Hace un año, Amazon, IBM y Microsoft también anunciaron que dejarían de vender tecnología de reconocimiento facial a los departamentos de policía a la espera de la regulación federal de la tecnología. El Congreso está sopesando una moratoria sobre el uso de la tecnología por parte del gobierno. Algunas ciudades y estados, en particular Maine, han introducido restricciones.

Por qué los expertos en informática dicen que no

El Comité de Política Tecnológica de la Asociación de Maquinaria de Computación de EE. UU., Que emitió la convocatoria de una moratoria, incluye profesionales de la computación de la academia, la industria y el gobierno, algunos de los cuales participaron activamente en el desarrollo o análisis de la tecnología. Como presidente del comité en el momento en que se emitió la declaración y como investigador de ciencias de la computación, puedo explicar qué llevó a nuestro comité a recomendar esta prohibición y, quizás más significativamente, qué se necesitaría para que el comité rescindiera su llamado.

Si tu teléfono celular no reconoce tu rostro y te obliga a ingresar tu contraseña, o si el software de clasificación de fotos que estás usando identifica erróneamente a un miembro de la familia, no se hace ningún daño real. Por otro lado, si es responsable de ser arrestado o se le niega la entrada a una instalación porque los algoritmos de reconocimiento son imperfectos, el impacto puede ser drástico.

La declaración que escribimos describe los principios para el uso de tecnologías de reconocimiento facial en estas aplicaciones consecuentes. El primero y más crítico de ellos es la necesidad de comprender la precisión de estos sistemas. Uno de los problemas clave con estos algoritmos es que funcionan de manera diferente para diferentes grupos étnicos.

Una evaluación de los proveedores de reconocimiento facial realizada por el Instituto Nacional de Estándares y Tecnología de EE. UU. Encontró que la mayoría de los sistemas probados tenían claras diferencias en su capacidad para hacer coincidir dos imágenes de la misma persona cuando se comparaba un grupo étnico con otro. Otro estudio encontró que los algoritmos son más precisos para los hombres de piel más clara que para las mujeres de piel más oscura. Los investigadores también están explorando cómo otras características, como la edad, la enfermedad y el estado de discapacidad, afectan estos sistemas. Estos estudios también están revelando disparidades.

Varias otras características afectan el rendimiento de estos algoritmos. Considere la diferencia entre cómo se vería en una bonita foto familiar que ha compartido en las redes sociales y una foto suya tomada por una cámara de seguridad granulada o un coche de policía en movimiento, tarde en una noche brumosa. ¿Un sistema capacitado en el primero funcionaría bien en el segundo contexto? Cómo la iluminación, el clima, el ángulo de la cámara y otros factores afectan estos algoritmos sigue siendo una pregunta abierta.

En el pasado, los sistemas que coincidían con huellas dactilares o rastros de ADN tenían que ser evaluados formalmente y establecer estándares antes de que la policía y otros confiaran en ellos para su uso. Hasta que los algoritmos de reconocimiento facial puedan cumplir con estándares similares, y los investigadores y reguladores comprendan realmente cómo el contexto en el que se usa la tecnología afecta su precisión, los sistemas no deben usarse en aplicaciones que puedan tener consecuencias graves para la vida de las personas.

Transparencia y rendición de cuentas

También es importante que las organizaciones que utilizan el reconocimiento facial proporcionen algún tipo de aviso público significativo, avanzado y continuo. Si un sistema puede hacer que pierda su libertad o su vida, debe saber que se está utilizando. En los EE. UU., Este ha sido un principio para el uso de muchas tecnologías potencialmente dañinas, desde cámaras de velocidad hasta videovigilancia, y la posición de la USTPC es que los sistemas de reconocimiento facial deben ajustarse al mismo estándar.

Para lograr transparencia, también debe haber reglas que rijan la recopilación y el uso de la información personal que subyace en el entrenamiento de los sistemas de reconocimiento facial. La empresa Clearview AI, que ahora tiene software en uso por agencias policiales de todo el mundo, es un ejemplo de ello. La empresa recopiló sus datos (fotos de rostros de personas) sin notificación

Clearview AI recopiló datos de muchas aplicaciones, proveedores y sistemas diferentes, aprovechando las leyes laxas que controlan dicha recopilación. Los niños que publican videos de sí mismos en TikTok, los usuarios que etiquetan a amigos en fotos en Facebook, los consumidores que realizan compras con Venmo, las personas que suben videos a YouTube y muchos otros crean imágenes que pueden vincularse a sus nombres y extraerse de estas aplicaciones por empresas como Clearview AI.

¿Está en el conjunto de datos que usa Clearview? No tienes forma de saberlo. La posición de ACM es que usted debe tener derecho a saber y que los gobiernos deben poner límites a la forma en que se recopilan, almacenan y utilizan estos datos.

En 2017, el Comité de Política Tecnológica de la Asociación de Maquinaria de Computación de EE. UU. Y su contraparte europea publicaron una declaración conjunta sobre algoritmos para la toma de decisiones automatizada sobre individuos que pueden resultar en discriminación dañina. En resumen, pedimos a los responsables de la formulación de políticas que mantengan a las instituciones que utilizan análisis en los mismos estándares que las instituciones en las que los humanos tradicionalmente han tomado decisiones, ya sea en materia de control del tráfico o enjuiciamiento penal.

Esto incluye comprender las compensaciones entre los riesgos y los beneficios de las potentes tecnologías computacionales cuando se ponen en práctica y tener principios claros sobre quién es responsable cuando se producen daños. Las tecnologías de reconocimiento facial se encuentran en esta categoría y es importante comprender cómo medir sus riesgos y beneficios y quién es responsable cuando fallan.

Protegiendo al publico

Una de las funciones principales de los gobiernos es gestionar los riesgos tecnológicos y proteger a sus poblaciones. Los principios de la USTPC de la Association for Computing Machinery se han utilizado para regular los sistemas de transporte, los productos médicos y farmacéuticos, las prácticas de seguridad alimentaria y muchos otros aspectos de la sociedad. La USTPC de la Association for Computing Machinery, en resumen, está pidiendo que los gobiernos reconozcan el potencial de los sistemas de reconocimiento facial para causar un daño significativo a muchas personas, a través de errores y prejuicios.

Estos sistemas aún se encuentran en una etapa temprana de madurez y hay muchas cosas que los investigadores, el gobierno y la industria no comprenden sobre ellos. Hasta que se comprendan mejor las tecnologías de reconocimiento facial, su uso en aplicaciones consecuentes debe detenerse hasta que puedan regularse adecuadamente.