Olimpia Coral Melo, impulsora de la Ley Olimpia, que documenta, investiga y sanciona los casos de violencia digital en nuestro país, presentó LeyOlimpiaIA, un chatbot que surgió en colaboración con Aura Chat AI para acompañar a las víctimas de este tipo de violencia.
Detrás de OlimpIA se encuentra por el Frente Nacional de Sororidad, una red de activistas y mujeres sobrevivientes de violencia digital, que se unieron para crear la primera herramienta de Inteligencia Artificial (IA) que servirá de guía, asesoramiento y acompañamiento para las mujeres que quieran denunciar algún tipo de violencia digital o informarse sobre este tipo de violencia.
“Queremos vivir seguras también en internet, queremos un mundo en el que las mujeres no seamos más vulnerables debido al mal uso de la tecnología. Un mundo libre de violencia para las niñas y mujeres”, se lee en la descripción del chatbot.
Desde la creación de la Ley Olimpia en 2020, se han denunciado más de cinco mil casos de violencia digital tan solo en la Ciudad de México, dijo Sayuri Herrera Román, Coordinadora General de Investigación de Delitos de Género y Atención a Víctimas de la Fiscalía General de Justicia de la Ciudad de México (FGJCDMX), durante la presentación de OlimpiaIA.
¿Cómo funciona OlimpiaIA?
A través de un código QR, las mujeres podrán acceder al chatbot Team Olimpia. Este chatbot funciona a través de WhatsApp y está disponible en toda Latinoamérica en 30 idiomas. Surge como una herramienta para brindar apoyo inmediato, orientación legal, contención emocional y recursos prácticos a quienes sufren acoso, amenazas, difusión no consentida de imágenes íntimas, y otros tipos de agresiones digitales. Además contará con una línea de prevención del suicidio para las víctimas de estos delitos.
De acuerdo con Olimpia Coral, esta primera etapa del proyecto está pensada como un proyecto piloto el cual se espera que la IA esté completa para diciembre. El objetivo es dar atención a las personas de manera rápida y efectiva, pues el Frente Nacional de Sororidad llega a recibir hasta 10 denuncias de violencia digital al día.
El chatbot brinda asesoramiento y recursos legales y está diseñado para atender a las víctimas de todos las entidades del país. En México, el 20.9% de las personas de 12 años en adelante que utiliza internet ha sido víctima de ciberacoso, lo que afecta a una alarmante cifra de 18.4 millones de personas, de estas, 10.3 millones fueron mujeres, de acuerdo con los datos de Módulo Ciberacoso (MOCIBA).
Este bot, disponible las 24/7, proporciona asistencia a las víctimas de violencia digital, ofreciéndoles información sobre cómo proceder ante situaciones de acoso en línea, cómo recopilar pruebas, cómo denunciar incidentes en las plataformas correctas y cómo proteger su privacidad y seguridad personal.
Una de las principales dificultades para combatir la violencia digital es la recopilación de evidencia, por eso es que OlimpiaIA también está diseñada para guiar a las víctimas en la recopilación de pruebas de manera segura y efectiva, desde capturas de pantalla hasta el almacenamiento seguro de archivos.
Además, OlimpiaIA no solo apoya a las víctimas, sino que también sirve como una herramienta educativa para sensibilizar al público sobre la violencia digital. Esta herramienta también puede servir para informar a los usuarios sobre la violencia digital, cómo identificarla y qué hacer si se experimenta o se es testigo de ella.
La idea es que con esta herramienta plataformas digitales como Google, Facebook y X, implementen protocolos de acción, ya que en el 60% de los casos no hay un proceso jurídico eficaz por falta de apoyo por parte de las compañías propietarias de las redes sociales.
¿Qué es la violencia digital?
Recordemos que la violencia digital son todos los actos de acoso, hostigamiento, amenazas, insultos, mensajes de odio, vulneración de datos o información privada realizados mediante el uso de tecnologías. Además de la difusión de imágenes, audios o videos —reales o simulados— del contenido íntimo sexual de una persona sin su consentimiento.
Actualmente la Ley Olimpia contempla sanciones de tres a seis años de prisión para quienes realicen estas acciones como exponer, distribuir, difundir, exhibir, reproducir, transmitir, comercializar, ofertar, intercambiar y compartir imágenes, audios o videos de contenido sexual íntimo de una persona, a sabiendas de que no existe consentimiento.
El algoritmo también es patriarcal
Durante la presentación de este chatbot, Olimpia Coral Melo recordó que el algoritmo también es patriarcal, por lo que la creación de esta iniciativa es un esfuerzo que destaca la participación de las mujeres, principales víctimas de la violencia digital. Y es que el desarrollo y el uso de la IA representa grandes sesgos; según datos de la UNESCO, sólo el 22% de los profesionales que trabajan en IA a nivel mundial son mujeres.
Esta falta de representación femenina significa que las perspectivas, experiencias y necesidades de las mujeres no se tienen en cuenta adecuadamente en la creación de tecnologías de IA.
Si quieres saber más sobre las nuevas amenazas que enfrentamos las mujeres frente al uso y desarrollo de la IA te invitamos a ver nuestro videopodcast, donde entrevistamos a Olimpia Coral Melo donde nos cuenta sobre este tema.