La IA aún tiene una visión incompleta de las mujeres

Leí con detenimiento el documento de ONU Mujeres titulado “La inteligencia artificial está entendiendo mal a las mujeres”, y me sorprendió el abordaje en torno a que la IA, está reproduciendo y amplificando sesgos de género.

Esto, se afirma, es consecuencia del entrenamiento con datos con una mínima representación de mujeres en los sectores tecnológicos.

ONU Mujeres señala que la inteligencia artificial no es neutral: si los datos utilizados para entrenarla contienen estereotipos o desigualdades históricas, los algoritmos pueden repetir esos patrones al generar respuestas, clasificar personas o tomar decisiones.

El documento destaca que la baja participación femenina en áreas como desarrollo de software, ingeniería y ciencia de datos influye en la creación de herramientas que pueden no considerar adecuadamente las experiencias y necesidades de las mujeres.

ONU Mujeres alerta que los errores de la IA pueden tener consecuencias importantes en ámbitos como: contratación laboral, acceso a créditos, servicios de salud, seguridad y generación de imágenes y contenidos digitales.

Por ejemplo, sistemas de reconocimiento o generación de imágenes pueden asociar determinados roles, profesiones o características con hombres o mujeres basándose en estereotipos existentes.
El organismo no plantea detener el desarrollo de la IA, sino impulsar sistemas más inclusivos, con mayor diversidad en los equipos que los diseñan y con evaluaciones que permitan detectar discriminaciones antes de su implementación.

ONU Mujeres advierte que la inteligencia artificial corre el riesgo de perpetuar una visión incompleta de las mujeres porque aprende de sociedades donde históricamente han existido desigualdades y estereotipos.

El problema de fondo es que la inteligencia artificial no crea prejuicios por sí misma, pero sí puede aprenderlos. Si durante años ciertos trabajos, actividades o espacios fueron asociados principalmente con hombres, los algoritmos pueden repetir esa misma visión cuando generan respuestas, imágenes o toman decisiones.

Entonces, el problema no está en la tecnología, sino en cómo la estamos construyendo. Durante décadas, las áreas relacionadas con la ciencia, la ingeniería y el desarrollo tecnológico han tenido una participación menor de mujeres. Esa falta de diversidad también puede influir en los productos que se crean y en los problemas que se detectan o pasan desapercibidos.

El llamado de ONU Mujeres es que, si esta tecnología va a tener cada vez más presencia en nuestras decisiones, necesitamos asegurarnos de que funcione para todos y no únicamente para quienes históricamente han tenido mayor representación en los espacios donde se desarrolla.

La discusión también obliga a preguntarnos qué tipo de sociedad estamos reflejando en las herramientas que estamos creando ya que la inteligencia artificial aprende de nosotros.

La inteligencia artificial puede ser una herramienta extraordinaria, pero para que realmente ayude a las personas tendrá que incorporar una visión más amplia de la realidad, esa tarea sigue dependiendo, principalmente, de quienes estamos detrás de la tecnología.