BRECHAS. La IA reproduce estereotipos, facilita nuevas formas de violencia digital y expone a las mujeres de manera desproporcionada a la automatización laboral.
Los sistemas de inteligencia artificial reproducen estereotipos de género, pueden ampliar los riesgos de violencia digital y podrían afectar de manera desproporcionada los empleos de las mujeres, según una recopilación de estudios y datos difundida por ONU Mujeres.
De cara al Diálogo Global de las Naciones Unidas sobre la Gobernanza de la Inteligencia Artificial y a la cumbre AI for Good, previstos para julio en Ginebra, la entidad reunió evidencia sobre las brechas de género que atraviesan el desarrollo, el uso y la regulación de estas tecnologías.
Entre los estudios citados figura un análisis de 133 sistemas de inteligencia artificial que detectó sesgos de género en el 44% de ellos. En el 26%, los prejuicios combinaban género y raza.
Los grandes modelos de lenguaje, cada vez más utilizados para crear textos, imágenes y campañas publicitarias, tienden a relacionar a las mujeres con el hogar, la familia y los hijos, mientras vinculan a los hombres con los negocios, los cargos directivos, el salario y la carrera profesional.
Además, cerca de una de cada cinco respuestas generadas por estos modelos al completar frases que comenzaban con el género de una persona reprodujo actitudes sexistas o misóginas, incluidas representaciones de las mujeres como objetos sexuales o propiedad de sus esposos.
Para ONU Mujeres, el riesgo no es que la inteligencia artificial cree prejuicios desde cero, sino que replique y amplifique, a gran velocidad y escala, las desigualdades presentes en los datos con los que ha sido entrenada.
Decisiones sobre las mujeres, sin mujeres en la sala
La inteligencia artificial generativa se está incorporando rápidamente al trabajo de empresas, medios y agencias de publicidad. En el Reino Unido, el 88% de las agencias de publicidad y medios ya utiliza esta tecnología de alguna forma, según los datos reunidos por ONU Mujeres.
Estas herramientas intervienen cada vez más en decisiones sobre qué rostros aparecen en una campaña, qué historias se cuentan y cómo se representa a las personas. Sin embargo, solo el 51% de los profesionales del marketing utiliza supervisión humana para revisar los contenidos creativos generados por inteligencia artificial antes de su publicación.
La falta de una perspectiva de género también se refleja en las políticas públicas. De 138 países analizados, solo 24 mencionan el género en sus estrategias nacionales de inteligencia artificial y apenas 18 incluyen disposiciones sustantivas con enfoque de género.
Al mismo tiempo, las mujeres representan solo el 30% de la fuerza laboral mundial vinculada a la inteligencia artificial. Esa infrarrepresentación limita su participación en las decisiones sobre cómo se diseñan, entrenan, despliegan y regulan sistemas que afectarán a miles de millones de personas.
Violencia digital amplificada por nuevas herramientas
Las mujeres y las niñas ya enfrentan mayores riesgos de acoso y violencia en internet, y las nuevas herramientas de inteligencia artificial pueden multiplicar las formas de abuso. Casi una de cada cuatro mujeres defensoras de derechos humanos, activistas y periodistas encuestadas dijo haber sufrido violencia en línea facilitada por inteligencia artificial. El 12% denunció la difusión no consentida de imágenes personales, incluidas imágenes íntimas o de contenido sexual.
Un 6% afirmó haber sido blanco de deepfakes, imágenes o videos manipulados que hacen parecer que una persona dijo o hizo algo que nunca ocurrió. Más de una de cada cuatro participantes también recibió insinuaciones sexuales no solicitadas mediante mensajes digitales.
ONU Mujeres señala que los deepfakes son una de las expresiones más visibles del abuso facilitado por inteligencia artificial contra mujeres y niñas, al facilitar la fabricación de contenido íntimo falso, el acoso y las campañas de desprestigio contra periodistas, defensoras y figuras públicas.
Empleos más expuestos
La transformación económica impulsada por la inteligencia artificial tampoco afectará a todos por igual. Las mujeres que trabajan fuera del sector tecnológico tienen casi el doble de probabilidades que los hombres de ocupar empleos con alto riesgo de automatización.
Según ONU Mujeres, estas desigualdades se agravan cuando se cruzan con factores como la raza, la discapacidad, la situación económica o el lugar de residencia. Las comunidades que ya están menos representadas en los medios, el mercado laboral y los espacios de decisión corren el riesgo de quedar aún más rezagadas.
La entidad pidió que los derechos, las experiencias y los conocimientos de mujeres y niñas estén presentes durante todo el ciclo de vida de la inteligencia artificial, desde el diseño y desarrollo de los sistemas hasta su despliegue y gobernanza.
La inteligencia artificial también puede utilizarse para detectar estereotipos, ampliar la representación y mejorar la accesibilidad, asegura la agencia. Pero su impacto dependerá de las decisiones de gobiernos, empresas y desarrolladores, y de que incorporen las voces y experiencias de mujeres y niñas de contextos diversos.
Fuente: ONU Noticias
