La inteligencia artificial cambia industrias enteras, desde la medicina hasta la logística, pero detrás de cada algoritmo hay decisiones humanas que determinan cómo funciona. Estas decisiones reflejan los sesgos y puntos de vista de quienes las crean.
El problema es que, hasta ahora, estos equipos han tenido poca diversidad, lo que crea sistemas de IA que funcionan mejor para algunos grupos de personas y peor para otros.
Por ejemplo, algunos sistemas de reconocimiento facial cometen más errores cuando analizan caras de personas con tonos de piel oscuros o rasgos no caucásicos. La igualdad en IA no es solo una cuestión ética, sino necesaria si queremos crear tecnología realmente útil para todas las personas.
En este contexto, Google ha cambiado sin hacer ruido la página web de su equipo de Inteligencia Artificial Responsable y Tecnología Centrada en Humanos (RAI-HCT), quitando menciones a «diversidad» y «equidad». Este equipo investiga la seguridad, justicia y transparencia de los sistemas de IA que desarrolla la compañía.
Según el grupo de vigilancia The Midas Project, Google ha hecho cambios importantes en el texto. Palabras como «comunidades marginadas» han desaparecido, «diverso» ha sido reemplazado por términos más generales como «variado» o «numeroso», y ya no aparecen referencias a «grupos subrepresentados» y «equidad» en la descripción del trabajo del equipo.
No es la primera vez que Google hace estos cambios. Antes ya quitó lenguaje similar de la página de su Fondo de Subvenciones para Fundadores de Startups. Además, en febrero, Google anunció que eliminaría sus objetivos de contratación basados en diversidad y revisaría sus programas de diversidad, equidad e inclusión (DEI).
Google no es la única empresa en hacer estos cambios. Otras grandes tecnológicas también han reducido sus iniciativas DEI últimamente. Amazon y Meta han dado marcha atrás en medidas sobre diversidad, y OpenAI quitó menciones sobre diversidad e inclusión de una página sobre cómo contratan. Apple, sin embargo, ha rechazado una propuesta de accionistas para acabar con sus programas DEI.
Es importante señalar que muchas de estas empresas, incluida Google, tienen contratos con agencias del gobierno, lo que podría influir en sus decisiones.
¿Por qué importa la diversidad en IA?
La diversidad en los equipos que crean IA no es solo una cuestión de imagen. Cuando los sistemas de IA los crean equipos poco diversos, suelen funcionar mejor para personas parecidas a sus creadores y peor para otros grupos.
Esto puede tener efectos graves en usos como la atención médica, donde los algoritmos entrenados principalmente con datos de ciertos grupos pueden fallar al diagnosticar enfermedades en otros. O en sistemas de contratación automática, donde se ha visto que los algoritmos penalizan a candidatos de ciertos perfiles.
