Por: 
Una columna de Aimée Vega Montiel
La Alianza Global de Medios y Género (GAMAG), la Red UniTWIN de la UNESCO sobre Género, Medios y TIC y la WACC hicieron un llamado conjunto al Diálogo Global de las Naciones Unidas sobre la Gobernanza de la Inteligencia Artificial y a la Cumbre de la IA para el Bien (AI for Good Summit), que tuvieron lugar en la sede de la ONU en Ginebra a inicios de julio, a comprometerse con un sistema de inteligencia artificial al servicio de las mujeres y las niñas.
De acuerdo con estas organizaciones, los debates sobre la IA y los derechos humanos de las mujeres no son nuevos. Tanto las discusiones iniciales como las contemporáneas continúan girando en torno al poder, la desigualdad y la discriminación. En la década de 1990, la socióloga Judy Wajcman advirtió que las tecnologías no son dispositivos neutrales, sino espacios mediados por relaciones de poder que refuerzan la desigualdad entre mujeres y hombres. Wajcman subrayaba que la tecnología constituye un territorio dominado por los hombres y por el patriarcado, lo que explica por qué la desigualdad se reproduce y se refuerza a través de las tecnologías de la información y la comunicación (TIC).
En este contexto, señalan GAMAG, la UNITWIN y WACC, la inteligencia artificial se presenta como el nuevo paradigma capaz de resolver problemas que ni los Estados ni las sociedades han logrado solucionar en materia de derechos humanos. Lejos de ello, la IA ha profundizado la desigualdad social con consecuencias multiples: la erosión del derecho a la privacidad, la profundización de la discriminación y la desigualdad, los riesgos para la libertad de expresión y el acceso a la información, las amenazas a la transparencia y la rendición de cuentas y los daños estructurales a la autonomía y la autodeterminación.
En lo que respecta a los derechos humanos de las mujeres, la IA representa un punto de inflexión crítico con efectos en varias direcciones:
Sesgo algorítmico y discriminación. Los sistemas entrenados con datos históricos reproducen con frecuencia la desigualdad de género en lugar de corregirla. Esto se traduce en resultados discriminatorios para las mujeres en ámbitos clave como los procesos de contratación, el acceso al crédito, el diagnóstico médico y la asignación de recursos.
Desigualdad económica. La automatización impulsada por la IA afecta de manera desproporcionada a los sectores donde las mujeres están sobrerrepresentadas, incluidos los trabajos administrativos y de servicios. Esta dinámica corre el riesgo de ampliar las brechas económicas de género ya existentes y limitar el acceso de las mujeres a empleos bien remunerados.
Vigilancia y afectaciones a la privacidad. Tecnologías como el reconocimiento facial presentan menores niveles de precisión cuando se aplican a mujeres. Estas imprecisiones aumentan la probabilidad de identificaciones erróneas en actividades policiales y otros contextos de alto impacto, socavando el derecho de las mujeres a la privacidad y al debido proceso.
Violencia contra las mujeres y acoso en línea. Las herramientas de IA se utilizan cada vez más para generar imágenes deepfake, automatizar contenidos misóginos y amplificar campañas de acoso dirigido. Estas prácticas amenazan la seguridad, la dignidad y la participación de las mujeres en los espacios digitales. Se han documentado efectos particularmente graves sobre mujeres políticas, defensoras de derechos humanos y periodistas. Esta escalada tiene consecuencias de gran alcance para la participación democrática, la libertad de expresión y la igualdad de género.
Un problema fundamental asociado a los identificados por las organizaciones, es la falta de datos y de mecanismos de rendición de cuentas, lo que dificulta la gobernanza de la IA, cuyos principios deberían situar los derechos humanos de las mujeres en el centro. En este contexto, advirtieron que se presta escasa atención a la relación entre innovación y derechos humanos, cuando la innovación debería entenderse precisamente como un medio para garantizar la protección de estos derechos.
Los problemas están vinculados al incumplimiento, por parte de los Estados, de las convenciones e instrumentos internacionales de derechos humanos destinados a garantizar los derechos fundamentales de todas las mujeres, así como al incumplimiento, por parte de las empresas de medios y tecnología, de las leyes y regulaciones vigentes. La estructura algorítmica está ampliando la opresión, la explotación y la subordinación de las mujeres y las niñas.
Por estas razones, académicas y activistas feministas de esas organizaciones, hicieron un llamado a una revolución de género en la inteligencia artificial y en las tecnologías del futuro, con el fin de impulsar una IA al servicio de las mujeres y las niñas.
