Los defectos en el software de reconocimiento facial están alimentando la discriminación contra las personas con piel más oscura, según un nuevo estudio.

El proyecto Gender Shades, realizado por el laboratorio de medios MIT, probó el software de reconocimiento facial de Microsoft, IBM y Face ++ en más de 1.200 imágenes de personas de seis países africanos y europeos.

Mientras que los investigadores descubrieron que el software puede adivinar el género de una persona el 99 por ciento del tiempo, cometió más del 35 por ciento más de errores al estudiar las caras de las personas con la piel más oscura.

La nueva aplicación de autofoto de arte de Google despierta preocupaciones sobre la privacidad. Las imágenes de hombres producen alrededor del 8 por ciento de los errores. Mientras tanto, las imágenes de mujeres arrojaron una tasa de error de más del 20 por ciento. Los productos cometieron menos errores al identificar sujetos con piel más clara, con tasas de error que oscilan entre el 11 y el 20 por ciento. “Encontramos que todos los clasificadores se desempeñaron mejor para individuos más ligeros y hombres en general. Los clasificadores funcionaron peor para las mujeres más oscuras “, concluyó el informe.

El estudio afirma que, si bien el software de reconocimiento facial es cada vez más utilizado por las fuerzas del orden en los EE. UU., Ninguno de estos productos ha sido probado públicamente para determinar su precisión. “Este tipo de tecnología se basa en técnicas de aprendizaje automático. Y las técnicas de aprendizaje automático se basan en datos. Entonces, si tiene datos sesgados en la entrada y no se abordan, tendrá resultados sesgados “, dijo Joy Buolamwini, autor principal del estudio, a NPR.

El informe del MIT dijo que estas fallas requieren atención urgente si las compañías deben construir sistemas de análisis facial justos y transparentes, especialmente a medida que el software de aprendizaje automático se utiliza ahora para decidir sobre préstamos, empleos y aplicaciones universitarias.

Según un informe del Centro de Privacidad y Tecnología de la Universidad de Georgetown, unos 16 estados han permitido que el FBI compare las licencias de conducir con las caras de los presuntos delincuentes. Se cree que más de 117 millones de estadounidenses están en la base de datos de reconocimiento facial.

El software está siendo implementado por las fuerzas policiales de todo el mundo. En agosto, se reveló que la policía en el Reino Unido ha catalogado más de 20 millones de imágenes faciales, el equivalente a un tercio de la población de Gran Bretaña.

A principios de este mes, la policía china comenzó a probar sus gafas de reconocimiento facial para identificar a los “fugitivos”. Las gafas, que estaban siendo utilizadas por la policía en una estación de tren, están conectadas a un dispositivo tipo tableta que permite a los oficiales tomar fotografías y compararlas a una base de datos policial.