Instagram está inspeccionando su algoritmo y políticas para detectar sesgos contra usuarios negros

Ayer, el CEO de Instagram, Adam Mosseri, dijo que la compañía está inspeccionando su algoritmo de recomendación y su política para determinar si trata a todos por igual.

Mosseri habló sobre "shadowbans", acoso y desacuerdos de eliminación de contenido de creadores negros. Dijo que la compañía se centrará en cuatro áreas para mejorar sus servicios: acoso, verificación de cuentas, distribución de contenido y sesgo algorítmico.

De estos cuatro, el sesgo algorítmico y la distribución de contenido van de la mano, ya que las personas pasan la mayor parte de su tiempo en su feed o en la pestaña de exploración. Mosseri dijo que la compañía ha escuchado mucho sobre 'shadowbanning', una práctica en la que la plataforma limita el alcance de ciertas publicaciones, y pronto publicará información sobre el tipo de contenido que redujeron.

Instagram también examinará si sus algoritmos tienen algún sesgo subconsciente, pero no proporcionó detalles sobre lo que pretende hacer para encontrarlo y corregirlo. Además, analizará los problemas de seguridad que enfrentan las personas negras en la plataforma.

El CEO de la plataforma para compartir fotos dijo que Instagram también busca formas de servir mejor a otros grupos subrepresentados en la aplicación:

Estos esfuerzos no se detendrán con las disparidades que las personas pueden experimentar únicamente por motivos de raza; También veremos cómo podemos servir mejor a otros grupos subrepresentados que usan nuestro producto. Solo en el último año, los comentarios que hemos recibido de comunidades como grupos LGBTQ +, activistas de positividad corporal y artistas nos han ayudado a crear un producto más inclusivo.

Idealmente, Instagram debería pedir a académicos externos que estudien sus algoritmos y políticas para encontrar el sesgo. Además, debe incluir comunidades marginadas en la discusión para resolver estos problemas. El sesgo contra los grupos subrepresentados no es algo que pueda resolverse en un solo día. Será un proceso largo.