En un momento en que el 40% de los puestos de trabajo están expuestos a la Inteligencia Artificial, y en que su uso se está democratizando a una velocidad vertiginosa, tenemos que preguntarnos si la IA es supuestamente neutral: ¿está realmente desprovista de prejuicios? Un estudio reciente del Centro Haas de Berkeley para la Equidad, el Género y el Liderazgo analizó 133 sistemas de Inteligencia Artificial en distintos sectores empresariales. El resultado: el 44% de este panel mostraba estereotipos sexistas. ¿Cómo puede explicarse esto? He aquí cómo.

¿De dónde proceden estos prejuicios?

Como explica Zinnya del Villar, experta en IA responsable de ONU Mujeres, la IA es ante todo una cuestión de datos. Para desarrollar modelos de aprendizaje automático, por ejemplo, o herramientas de IA generativa, damos al algoritmo datos sobre los que pueda entrenarse. Sin embargo, los datos sobre los que se entrenan las IA son principalmente datos basados en seres humanos. O mejor dicho, en todos los datos acumulados hay verdaderos puntos ciegos sobre determinados segmentos de la sociedad: mujeres, personas racializadas(según el estudio del Centro Haas de Berkeley, el 25% de las IA estudiadas contenían estereotipos tanto sexistas como racistas).

Además, la falta de diversidad en las profesiones tecnológicas, y en particular en la IA, también tiene algo que ver. Según un estudio, el 88% de los algoritmos de IA son desarrollados por hombres, y las mujeres sólo representan el 30% de quienes trabajan en IA. Las personas empleadas actualmente para desarrollar y mantener los sistemas de IA son predominantemente académicos blancos y varones. Sin embargo, es difícil eliminar la influencia humana de los datos, ya que en la mayoría de los casos son los humanos (y, por tanto, los hombres) quienes deciden cómo deben recopilarse los datos y luego cómo se categorizarán y moderarán.

En segundo lugar, cuando la IA aprende a dar sentido al lenguaje humano, aprende a dar cuenta del significado de las palabras, pero también a comprender qué palabras suelen asociarse entre sí. Este método de aprendizaje es terreno fértil para la perpetuación de prejuicios sexistas y procesos de esencialización. Está claro que si le pides a una IA que genere un médico y una enfermera, tenderá a generar un médico y una enfermera.

Por último, Hélène Molinier, asesora de ONU Mujeres sobre igualdad de género en la cooperación digital, señala que actualmente no existe ningún sistema que supervise o regule el mercado de la IA. No hay nada que impida la creación y el uso de IA que reproduzca estereotipos sexistas y/o racistas o que no cumpla las normas de confidencialidad y seguridad. En cuanto a la consideración de las nuevas formas de vulnerabilidad social generadas por la IA, aún está en pañales.

IA sesgada, consecuencias para la igualdad de género:

Los algoritmos sesgados no son neutrales. Según Genevieve Smith e Ishita Rustagi, autoras del estudio del Centro Haas de Berkeley, «la Inteligencia Artificial permite automatizar juicios que antes realizaban individuos o grupos de individuos «. Las IA son espejos de la sociedad: integran y automatizan los prejuicios que abundan en la sociedad, y por tanto tienden a amplificarlos.

Esta tendencia se observa en varios ámbitos, incluida la sanidad. Como las IA suelen estar entrenadas en síntomas masculinos, tienden a proponer diagnósticos y tratamientos erróneos para las mujeres. Zinnya de Villar también señala que los asistentes de voz, que suelen utilizar voces femeninas, tienden a reforzar la asociación entre las mujeres y el trabajo de cuidados y servicios. La IA también puede limitar las oportunidades profesionales de las mujeres en ámbitos como la toma de decisiones, la aprobación de préstamos, la contratación o incluso las decisiones jurídicas[Utilisate1 ] En 2018, por ejemplo, Amazon desactivó una herramienta de contratación de IA que favorecía los CV masculinos. Si los datos con los que trabaja la IA están sesgados, tenderá a asociar a hombres y mujeres con determinadas funciones y no con otras (tomemos el ejemplo de médicos y enfermeras).

Pero eso no es todo. La IA también podría frenar la empleabilidad de las mujeres. Podría provocar una importante reestructuración de las profesiones con un alto potencial de automatización, en particular las funciones administrativas y de apoyo. Aunque las herramientas de IA pueden ser trampolines en términos de productividad y a veces de carrera profesional para quienes las utilizan, también tienden a ampliar la brecha y marginar a quienes no lo hacen. Las mujeres utilizan las herramientas de IA alrededor de un 20% menos que los hombres, tanto por falta de tiempo y formación como por la autocensura ligada a un sentimiento de ilegitimidad cuando se trata de algo relacionado con las nuevas tecnologías.

¿Cómo puede utilizarse la IA para promover la igualdad en el lugar de trabajo?

La IA es maleable. Por tanto, tiene capacidad para ser una verdadera muleta en la reducción de las desigualdades, al ofrecer a las mujeres acceso a nuevos recursos y oportunidades mediante el acceso a la información y la formación. Pero para que esto ocurra, la igualdad de género debe tenerse en cuenta desde el diseño y la construcción de los sistemas de IA.

Esto significa seleccionar activamente datos que tengan en cuenta la diversidad de orígenes sociales, culturas, géneros y funciones. También significa llegar a la raíz del problema y diversificar los equipos de desarrollo de sistemas de IA para hacerlos más inclusivos. Aunque el 73% de los directivos creen que es importante que haya más mujeres en este campo, sólo el 33% de ellos tienen a una mujer a cargo de las decisiones estratégicas sobre el tema[Utilízate2]. También es esencial recurrir a la experiencia de género en la fase de diseño para interiorizar la vigilancia del sesgo de género en el proceso de diseño.

Por último, es crucial democratizar la formación y el uso de las herramientas de IA entre las mujeres para que puedan aprovechar plenamente las oportunidades de productividad y aprendizaje que ofrecen, en lugar de ser víctimas de una marginación cada vez mayor.