“No estás sola” es la primera app en México para teléfonos móviles que utiliza Inteligencia Artificial (IA) para ayudar a las mujeres que enfrentan violencia doméstica. Soft Serve México y Open Tech, junto con Center-i apuestan por el uso innovador y socialmente responsable de las tecnologías de IA, más allá de su explotación comercial e industrial, en beneficio de las mujeres ante situaciones de violencia.
Al respecto, platicamos con Erandi López, Líder de Responsabilidad Social Corporativa en Soft Serve México, empresa especializada en servicios tecnológicos y digitales, y María Elena Estavillo, fundadora de Centro-i, una organización sin fines de lucro, independiente que impulsa el uso ético, responsable e inclusivo de las tecnologías digitales.
Las funciones básicas
-Un chatbot creado con Inteligencia Artificial (IA).
-Referencias de dónde y cómo solicitar apoyo profesional.
-Un botón de pánico que notifique vía SMS.
“No estás sola”
La creación de herramientas tecnológicas con IA, nutridas desde la ética y el entendimiento de la realidad que atraviesa a millones de mujeres mexicanas es un paso hacia la innovación tecnológica con compromiso social.
La app surge ante la necesidad de tener un apoyo fácil y asequible para orientar y proveer recursos para las mujeres que sufren violencia doméstica. Estará disponible el próximo año para sistema operativo Android y IOS, con el propósito de tener mayor alcance entre mujeres.
Esta aplicación surge de observar, por un lado, como las tecnologías digitales, los celulares, el tener acceso a comunicaciones, a internet móvil, a traer tu celular junto a ti que te que te pone en contacto con el mundo en cualquier momento, es una herramienta muy poderosa para las mujeres, para darles acceso a comunicación e información, a apoyos, a educación, a trabajo. (-María Elena Estavillo)
María Elena explica que muchas veces el teléfono celular, en vez de ser un instrumento beneficioso, es una herramienta de control, especialmente en entornos íntimos como en la familia y en las relaciones de pareja. “Entre los violentadores es común que tomen sin permiso el celular de las mujeres y vigilen ahí con quién se comunican y que ven”.
Soft Serve, empresa con más de 25 años en operaciones, tiene apenas tres en México; Open Tech México es un programa social que nace de Surf Serve con la intención de tener un impacto social.
“Vimos una oportunidad importante aquí para solucionar una problemática social que lamentablemente no solo permanece, sino que está creciendo con un impacto relevante en la sociedad, específicamente en mujeres vinculando el uso de la inteligencia artificial”, explicó Erandi López sobre la colaboración entre Soft Server y Centro-i.
TE PODRÍA INTERESAR
Violencia obstétrica, digital y vicaria: nuevas formas de opresión
“La aplicación sigue en desarrollo, todavía estamos trabajando en el diseño, ha sido uno de los retos, entender cómo podemos generar una aplicación que sea accesible para todas las personas”, dijo.
Uno de los principales desafíos a los que se enfrentaron es el diseño, y es que la creación de este ha sido compleja por diferentes razones: “La idea es tener esta aplicación enmascarada para que no se sepa el fin real”.
Se han cuidado elementos como el uso del botón de pánico, a quien remite el mensaje de alerta, qué hacer para camuflar la aplicación y hasta cómo dar a conocer el proyecto a medios de comunicación sin revelar el funcionamiento exacto de la aplicación.
Soft Serve en colaboración con el Fondo de Población para Naciones Unidas creó una primera aproximación a este tipo de herramientas con inteligencia artificial en Ucrania, con una aplicación que tenía como objetivo ver el impacto que tenía la violencia de género y brindar asesoría eh terapéutica a mujeres que ha habían sido violentadas sexualmente.
“Es muy importante siempre en estos desarrollos tener la perspectiva de las usuarias finales para asegurarnos que eso es lo que necesitan, que les resulta funcional pues porque sin esa perspectiva nos podemos equivocar mucho.
“Estamos teniendo mucho cuidado con los datos de entrenamiento. No, no estamos entrenando la inteligencia artificial así como búsquedas abiertas de internet, sino con documentos valiosos de expertos, de organismos internacionales para que entonces este entrenamiento sea de calidad”, dijo María Elena en referencia al comportamiento ético de esta aplicación.
En la configuración de la aplicación se priorizan los datos de las usuarias, estos no se almacenan para proteger su privacidad y seguridad.
“Estamos teniendo mucho cuidado en el entrenamiento de esta funcionalidad que va a tener la aplicación, que va a ser poder conversar de una manera muy sencilla y a partir de esa conversación ir proporcionando información a las mujeres (...) curado con fundamentos para que les dé las respuestas adecuadas”, contó Erandi López.
María Elena señaló que este es el compromiso que deben adquirir las compañías de tecnología con la sociedad; utilizar la IA de manera positiva para evitar sesgos. Se prevé que en 2025 se lance la primera versión de la aplicación y eventualmente se implemente cambios conforme a la retroalimentación de las usuarias.
Otro aspecto a destacar es la diversidad de equipo que está detrás de la aplicación y de la consulta de información “El equipo es sumamente diverso, Incluye una parte importante de mujeres, tenemos diferentes generaciones, edades, preparación, experiencia, perfiles. Eso enriquece mucho al equipo porque tenemos perspectivas complementarias”
A la aplicación podrán acceder personas de cualquier estado de la República con o sin saldo.
“Nosotros promovemos la tecnología centrada en las personas. No olvidar que la tecnología es una herramienta, pero el fin último es ayudar a las personas”.
“Entre nosotras está la parte de solidaridad y de acompañamiento, y es importantísimo, no estás sola, aunque estés en este espacio que se puede sentir muy aislado, en un hogar o en una familia donde hay violencia, hay alguien más, hay alguien más ahí que te pueda ayudar. Y yo creo que ese es el mensaje principal que queremos llevar”, concluyó María Elena.
TE PODRÍA INTERESAR
