I. INTRODUCCIÓN

La Violencia Basada en el Género (VBG) es el reflejo de la desigualdad y presencia persistente del patriarcado y del machismo (^{Howie, 2021}), la misma puede expresarse mediante violencia sexual y física, violencia psicológica, violencia económica y patrimonial, violencia intrafamiliar, violencia simbólica e institucional (^{Londoño, 2020}). Así pues, se evidencia que, en primer lugar, hay un problema estructural en la sociedad que genera la vulneración de distintos derechos y bienes jurídicos protegidos por los diferentes instrumentos de derecho internacional, y en segundo, la necesidad de propender por la disminución de la violencia contra la mujer y su erradicación con el uso de todos los medios disponibles.

Para lograr este cometido, ^{ONU Mujeres (2020)} indica que es pertinente la puesta en marcha de servicios jurídicos, médicos, psicológicos y todos los demás requeridos para lograr la reparación y protección de mujeres que podrían ser víctimas y/o son sobrevivientes de la Violencia Basada en el Género. Algunas de las medidas adoptadas para cumplir con ello, es el desarrollo de herramientas basadas en Inteligencia Artificial como VioGén (Sistema de Seguimiento Integral de los Casos de Violencia de Género), ODARA (Ontario Domestic Assault Risk Assessment) y SARA (Spousal Assault Risk Assessment Guide), las cuales a partir de la identificación del nivel del riesgo de violencia de género y/o feminicidio permiten ejecutar planes de protección para contrarrestar la violencia contra la mujer.

Precisamente, en las últimas décadas el empleo de herramientas configuradas con inteligencia artificial ha permitido un avance en el cumplimento de las obligaciones internacionales de los Estados en diferentes materias, como es el caso de “Prometea”, desarrollada con el fin de construir un dictamen judicial de forma expedita mediante un comando de voz, o la simple digitalización de historias clínicas para mantener la prestación de un servicio de salud más eficaz (^{Corvalán, 2018}). Adicionalmente, la ^{ONU (2022)} expone particularmente en materia de género que es necesario contemplar los diferentes tipos de violencia contra la mujer, incluyendo los desarrollados en contextos digitales, para tomar medidas de prevención de la mano de la “cooperación con el sector tecnológico” (párr. 66).

En este sentido, el presente artículo de investigación pretende realizar un análisis de las obligaciones de los Estados contempladas en el marco del derecho internacional con miras a la protección de la mujer, partiendo de la Convención sobre la eliminación de todas las formas de discriminación contra la mujer, las observaciones generales del Comité para la Eliminación de la Discriminación contra la Mujer (CEDAW) y la Declaración sobre la eliminación de la violencia contra la mujer, para posteriormente determinar cuál es su aplicación en el Sistema VioGén de España y cuál es el alcance de su implementación.

Así pues, para lograr este objetivo se desarrolla un método sintético y exploratorio de información y fuentes doctrinales con el fin de identificar las herramientas de Inteligencia Artificial que se han utilizado en la determinación del nivel del riesgo de Violencia Basada en el Género, para que posteriormente con el método analítico se pueda comprender la composición de Viogén desde su arquitectura disponible en fuentes de consulta abierta que permiten reconocer sus variables y utilización para los diferentes órganos institucionales de España, con el fin último de valorar el cumplimiento de las obligaciones internacionales en el empleo de herramientas apalancadas en la inteligencia artificial.

En este orden de ideas, las obligaciones internacionales derivadas de los instrumentos de protección en derechos humanos de las mujeres que se relacionan con los casos de violencia basada en género se agrupan en: prevención, protección, enjuiciamiento y castigo, reparaciones, coordinación, vigilancia y recopilación de datos. Los lineamientos y medidas específicas para dar cumplimiento a estos deberes se encuentran en el margen de apreciación de los Estados, que actualmente se apoyan de las herramientas de inteligencia artificial con sistemas semiautomáticos que contribuyen a tomar decisiones informadas en la prevención y protección de los derechos humanos de las mujeres.

Los resultados y discusión se presentan en tres capítulos: el primero describirá la Violencia Basada en el Género, partiendo de su origen, clasificación y factores de exacerbación; en segundo lugar se abordarán los algoritmos de predicción de Violencia Basada en el Género, en el cual se realizará un contexto sobre Inteligencia Artificial y un análisis de las herramientas desarrolladas con miras a la predicción del riesgo de VBG; y en tercer lugar, se expondrán las obligaciones de los Estados en el marco legal internacional de la protección de la mujer aplicado específicamente a VioGén, con el fin de realizar algunas recomendaciones y propuestas para su mejora partiendo de las debilidades y retos de su implementación en el campo de la prevención de Violencia Basada en el Género que serán expuestas en la cuarta sección.

II. CAPÍTULO 1: VIOLENCIA BASADA EN EL GÉNERO

En primera medida, es necesario abordar el término de Violencia Basada en Género partiendo del hecho que es un fenómeno que constituye un problema de salud pública y una violación a los derechos humanos de las mujeres (^{Organización Mundial de la Salud, 2021}), lo cual es el constructo de diferentes fuentes que la han reflejado como una problemática social; para Naciones Unidas, es definido como:

[...] los actos dañinos dirigidos contra una persona o un grupo de personas en razón de su género. [...] Si bien las mujeres y niñas sufren violencia de género de manera desproporcionada, los hombres y los niños también pueden ser blanco de ella. En ocasiones se emplea este término para describir la violencia dirigida contra las poblaciones LGBTQI+, al referirse a la violencia relacionada con las normas de masculinidad/feminidad o a las normas de género. (^{ONU Mujeres, s.f., párr. 2})

Conforme a lo expuesto con anterioridad respecto a la Violencia Basada en el Género, ^{Howie (2021)} explica que este fenómeno es un indicador de desigualdad, de asimetría del poder en el interior de las parejas, del sometimiento de la voluntad de las mujeres, de la presencia permanente del patriarcado, del machismo y la “subvaloración de la mujer como titular de derechos fundamentales” (p. 108).

En el mismo sentido, ^{Ferrer y Bosch (2000)} explican que la violencia de género está constituida por una serie de agresiones y comportamientos violentos hacia las mujeres, que son perpetradas por hombres y son muestra de actitudes y creencias misóginas. Lo que es complementado por ^{Zurita (2013)}, quien establece que la violencia de género “requiere que el agresor sea hombre, la víctima sea una mujer, y exista entre ellos una relación afectiva de pareja o ex pareja, aunque no exista convivencia” (p. 63).

Desde un punto de vista normativo, la Declaración sobre la eliminación de la violencia contra la mujer la define como,

[...] todo acto de violencia basado en la pertenencia al sexo femenino que tenga o pueda tener como resultado un daño o sufrimiento físico, sexual o sicológico para la mujer, así como las amenazas de tales actos, la coacción o la privación arbitraria de la libertad, tanto si se producen en la vida pública como en la vida privada. ^{(ONU, 1993, párr. 14)}

Ahora bien, este tipo de violencia tiene diferentes causas, ^{Castro y Riquer (2003)} establecen que existe una paradoja en cuanto a ello, pues afirman que:

A la hora de estudiar empíricamente la violencia en la pareja y la intrafamiliar, el patriarcado acabó siendo reducido a variables individuales, esto es, a las características socio demográficas (edad, estado conyugal, escolaridad, ocupación ingreso) y aspectos conductuales (principalmente consumo de alcohol y de drogas) del varón. Tal paradoja constituye una falacia metodológica, que consiste, justamente en reducir un fenómeno de carácter estructural -el patriarcado- a indicadores individuales. (^{Castro & Riquer, 2003, p. 137)}

Mencionada falacia metodológica es respaldada por ^{Canedo & Sánchez (2019)}, quienes parten del resultado de una encuesta de percepción ciudadana que realizaron en el año 2015 en Bolivia y que denominaron “Cochabamba nos une”, pues al evaluar las causas más votadas de la violencia contra la mujer se encontró en primer lugar el consumo de alcohol, en segundo la cultura machista, en tercero la falta de valores y en cuarto la falta de educación, denotando así que no hay una comprensión verdadera de las causas y consecuentemente, tampoco soluciones estructurales que permitan reducirla.

En complemento, ^{Sánchez (2020)} considera que la violencia de género “pareciera un acto íntimamente privado; sin embargo, es un microcosmos de la cultura a la cual se pertenece y es, a la vez, un modo de política sexual por medio del cual se establecen relaciones asimétricas” (p. 241), de manera que evidencia que es necesario que se evalúe el entorno y la estructura social para determinar las verdaderas causas de la Violencia Basada en el Género y así poder construir posibles estrategias y soluciones eficientes y eficaces.

Este tipo de violencia se materializa de diferentes formas, ^{ONU Mujeres (s.f.)} expone que existen siete tipos de violencia contra las mujeres: el primero, la violencia contra las mujeres y niñas en el ámbito privado, que comprende maltrato en el hogar o violencia de pareja, que puede incluir violencia económica, violencia psicológica, violencia emocional, violencia física y violencia sexual.

El segundo, el feminicidio, trata sobre el asesinato de una mujer por el hecho de serlo, generalmente es cometido por parejas o ex parejas de la víctima y se entiende como la culminación de un proceso de situaciones previas que han puesto a la mujer en condiciones de inferioridad con respecto a su pareja y que fueron ejercidas en su contra (^{MESECVI, 2008}).

En tercer lugar, enuncia la violencia sexual y lo define como cualquier acto de naturaleza sexual llevado a cabo contra la voluntad de otra persona, incluye el acoso sexual (contacto físico no consensuado u otros tipos de violencia no física) y la violación (penetración vaginal, anal u oral no consentida).

En cuarto escenario, se identifica la trata de personas, que comprende la adquisición, posesión y explotación de personas mediante uso de la fuerza, coacción o engaño.

En otros tipos de violencias, en los órdenes quinto y sexto se encuentra la mutilación genital femenina, práctica que consiste en la ablación total o parcial de los genitales externos femeninos y que es generalmente realizada por circuncisores tradicionales (^{OMS, 2020}), y el matrimonio infantil, en el cual uno o ambos cónyuges son menores de 18 años.

Y finalmente, ONU Mujeres también destaca un séptimo tipo de violencia que se ha identificado recientemente y que se relaciona con herramientas tecnológicas, la denomina “violencia en línea o digital”, y es entendida como cualquier acto de violencia infringido mediante el uso de las tecnologías de la información y las comunicaciones, dentro de ella incluye el ciberacoso (mensajes intimidatorios o amenazantes), sexting (envío de mensajes o contenido explícito sin autorización) y doxing (publicación de información de la víctima).

Es de destacar que herramientas creadas a partir del auge de las tecnologías de la información y las comunicaciones (TICs) están siendo utilizadas de forma negativa porque exacerba la violencia contra la mujer como se evidenció en las modalidades anteriores. Sin embargo, también pueden ser desarrolladas con miras a prevenirla, mediante la utilización de algoritmos de Inteligencia Artificial que estén orientados a predecirla para tomar las medidas institucionales necesarias para contrarrestarla.

En este sentido, se puede evidenciar la creación de herramientas automáticas y semiautomáticas como la Escala de Predicción del Riesgo de Violencia Grave contra la Pareja (EPV), Danger Assessment (DA), Ontario Domestic Assault Risk Assessment (ODARA), Brief Spousal Assault Form for the Evaluation of Risk (B-SAFER), Threat Assessment Systems (DV-MOSAIC), Spouse Assault Risk Assessment (S.A.R.A) y VioGén; algunas de las cuales serán profundizadas en el segundo capítulo del presente artículo.

III. CAPÍTULO 2. ALGORITMOS DE PREDICCIÓN DE VIOLENCIA BASADA EN EL GÉNERO

El desarrollo de herramientas de inteligencia artificial que permitan la predicción del riesgo que corren las mujeres es una de las estrategias implementadas por algunos Estados, con el fin de tomar medidas eficientes para contrarrestar una posible vulneración a sus derechos en el marco de la Violencia Basada en el Género.

Según ^{Rouhiainen (2018)}, la Inteligencia Artificial o IA “es la capacidad de las máquinas para usar algoritmos, aprender de los datos y utilizar lo aprendido en la toma de decisiones tal como lo haría un ser humano” (p. 17), lo cual considera que les permite a los dispositivos configurados con esta capacidad, analizar grandes cantidades de datos y proveer información valiosa y eficaz para la toma de decisiones, pues es construida para desarrollar determinados pasos con el fin de conseguirla, facilitando así las actividades de una organización o persona que deba revisar o considerar grandes cantidades de información y múltiples variables (^{Corvalán, 2018}).

En complemento a esta interpretación, ^{Miró (2018)} estima que la IA no es solo el tratamiento de información, sino que se busca que estas herramientas construyan a partir de los algoritmos un proceso cognitivo similar al de los seres humanos que les permita ser inteligentes, teniendo como punto de partida un procesamiento de datos matemáticos organizados.

Con el fin de construir una Inteligencia Artificial que contribuya a su propia operación, debe ser alimentada mediante uno o varios de los diferentes tipos de aprendizaje automático, algunos de ellos son el machine learning y el deep learning. ^{Rouhiainen (2018)} expone que el aprendizaje automático o machine learning busca que los dispositivos tengan “la capacidad de aprender sin estar programados para ello” (p. 19), lo cual se logra mediante el uso de algoritmos que les permite aprender de los patrones de datos; y por otro lado, en cuanto al aprendizaje profundo o deep learning se utiliza para la solución de problemas complejos y se crea a partir del uso de redes neuronales organizadas de manera que pueden analizar y procesar la información de la forma correcta.

Respecto a las formas de aprendizaje automático, conviene subrayar que se subdivide en aprendizaje supervisado (basado en tareas que requieren intervención humana para una retroalimentación adecuada), aprendizaje no supervisado (basado en datos, no requiere intervención humana) y aprendizaje de refuerzo (aprende a reaccionar a su entorno, se les da un refuerzo positivo por cada acierto) (^{Sancho- Caparrini, 2020}).

Ahora pues, como se mencionaba anteriormente, en el campo de la Violencia Basada en el Género se han realizado varios avances para su prevención mediante la Inteligencia Artificial, algunas de las herramientas desarrolladas buscan su predicción para que las instituciones puedan tomar las medidas pertinentes para contrarrestar este fenómeno mediante la protección de la mujer, entre ellas como se expuso, se encuentran: Escala de Predicción del Riesgo de Violencia Grave contra la Pareja (EPV), Spouse Assault Risk Assessment (S.A.R.A) y el Sistema VioGén, herramientas que serán explicadas a continuación:

Para empezar, la Escala de Predicción del Riesgo de Violencia Grave contra la Pareja (EPV) es creada en vista de la necesidad de validar una escala de este tipo en España debido a que las existentes eran canadienses y estadounidenses, por ello, es utilizada por las autoridades de este país (^{Echeburúa, Amor, Loinaz & De Corral, 2010}) alimentándose de cinco elementos de valoración (que tienen en cuenta el factor cultural) clasificados en: datos personales, situación de la relación de pareja, tipo de violencia, perfil del agresor y vulnerabilidad de la víctima (^{Ortuño, 2021}).

En este sentido, sistematiza la información para la predicción del riesgo frente a la violencia grave que según las generalidades de la herramienta es aquella representada en homicidios, tentativas de homicidios, uso de armas u objetos peligrosos o lesiones personales (^{Echeburúa et al., 2010}), para clasificar los datos tratados en tres niveles de riesgo en una escala de 20 ítems puntuados: bajo (0-5), moderado (5-9) y alto (10-20) (^{Ortuño, 2021}).

Esta herramienta se ha considerado como adecuada para la planeación de las medidas de protección en atención de las víctimas y se ha contemplado como una de sus ventajas que evalúa el riesgo de la violencia de pareja de forma precisa. Sin embargo, en la investigación realizada con el fin de revisar este instrumento (EPV-R) se halló que la escala se invalida cuando se responde a menos de 12 ítems de los 20 que la componen, debido a que se carece de más del 50% de la información para determinar el riesgo, por lo que se propone utilizar tablas de prorrateo que permitan hacer un promedio del puntaje asignado (^{Echeburúa et al., 2010}).

De otro lado, existe S.A.R.A. (Spouse Assault Risk Assessment), que es una guía que se encarga de la “[...] valoración del riesgo de violencia contra la pareja que fue desarrollada originalmente por P. Kropp, Stephen Hart, Christopher D. Webster y Derek Eaves [...] diseñada para valorar el riesgo de violencia grave (esencialmente violencia física y sexual) entre miembros de una pareja sentimental” (^{Pueyo, López & Álvarez, 2008}, p. 116).

Para lograr su objetivo, se vale del análisis de 20 factores de riesgo clasificados en cinco grupos: Historial delictivo, que contiene: violencia anterior contra los familiares, violencia anterior contra desconocidos o conocidos no-familiares y la violación de la libertad condicional u otras medidas similares.

En segundo plano, el ajuste psicosocial, compuesto por: problemas recientes en las relaciones de pareja, de empleo y trabajo, consumo/abuso de drogas, trastorno de personalidad con ira, impulsividad e inestabilidad conductual. Historia de violencia de pareja, incluye la violencia física anterior, violencia sexual y/o ataque de celos en el pasado, uso de armas y/o amenazas de muerte creíbles, violaciones e incumplimientos anteriores de las órdenes de caución.

Por último, el delito/agresión actual (que motiva la valoración) -similares al conjunto anterior pero haciendo referencia a conductas más recientes- y otras consideraciones que son determinadas por el caso en específico (^{Pueyo et al., 2008}).

Finalmente, tras la evaluación de los ítems se otorga un nivel de riesgo de violencia bajo, moderado, elevado o inminente, que estima la probabilidad de que suceda una conducta violenta para posteriormente ser entregada a los agentes externos que la solicitan, ya sea por una decisión policial y de protección y seguridad, procedimientos judiciales o penitenciarios, atención a víctimas, etc. (^{Pueyo et al., 2008}).

El avance de estas dos herramientas se ha constituido como antecedente de VioGén, que en palabras de la ONU se ha consolidado como una aplicación eficaz para la prevención de Violencia de Género (2015), afirmación demostrada en el alto grado de satisfacción de las mujeres usuarias del sistema (^{González & Garrido, 2015}), por lo que incluso ha servido como ejemplo para que los demás Estados la utilicen.

Precisamente, VioGén hace uso de formularios similares al EPV y al S.A.R.A. (Spouse Assault Risk Assessment), los cuales realizan un análisis del riesgo de reincidencia a corto plazo de los perpetradores de la Violencia Basada en el Género y permiten hacer un seguimiento de la situación de vulnerabilidad de la mujer en el tiempo para garantizar su protección mediante la creación de medidas dirigidas a ello.

Es así como en España desde el 26 de julio de 2007 se utiliza la herramienta de Inteligencia Artificial de aprendizaje semiautomático “Sistema VioGén” o “Sistema VDG” (^{González, 2018}), desarrollada en la Secretaría de Estado de Seguridad del Ministerio del Interior de España (^{Zurita, 2013}) a partir de lo contemplado en la Ley Orgánica 1/2004 que busca contrarrestar la Violencia Basada en el Género. Este Sistema tiene como objetivo realizar valoraciones policiales del riesgo con el fin de “efectuar un seguimiento y establecer medidas de protección a las víctimas [...], diseñando, en caso necesario, un plan de seguridad con medidas de autoprotección personalizadas” (^{Estévez, 2020}, p.131).

Así pues, esta herramienta se basa en el análisis continuo del riesgo y en estadísticas de homicidio para elaborar la escala predictiva entre los niveles extremo, alto, medio y bajo; adicionalmente para su operación está integrada por herramientas de los diferentes sectores del Estado como la intranet de la Administración Pública de España (Red SARA - Sistemas de Aplicaciones y Redes para las Administraciones), el Sistema Integrado de Gestión Operativa, Análisis y Seguridad Ciudadana (SIGO) de la Guardia Civil, el fichero de datos SIDENPOL de la Policía Nacional, el Sistema de Registros Administrativos de apoyo a la Administración de Justicia (SIRAJ), el Sistema de Gestión de Información Penitenciaria (SIP) y el Sistema de Información Social Penitenciario (SISPE) (^{Estévez, 2020}).

En el mismo sentido, el Sistema VioGén clasifica la información recibida de denuncias presentadas ante la policía, las resoluciones proferidas por órganos judiciales y de los expedientes de las diferentes instituciones que prestan atención a las víctimas. Entre los datos que contiene se encuentran DNI, direcciones de residencia, teléfonos, correos electrónicos y características personales como familiares, fecha y lugar de nacimiento, situación laboral, nivel educativo y estado civil (^{González, 2018}), teniendo acceso a una gran cantidad de datos que le permite lograr su cometido.

Conforme a lo anterior, este sistema utiliza dos formularios: VPR (Valoración Policial del Riesgo) y VPER (Valoración Policial de Evolución del Riesgo). El primero está compuesto por 39 indicadores de riesgo que son evaluados por un agente de policía al momento de la denuncia y que le permite establecer el riesgo de reincidencia a corto plazo en los niveles: no apreciado, bajo, medio, alto o extremo (^{González, 2018}).

Estos indicadores de riesgo en el formulario VPR según ^{González, López & Muñoz (2018)} se clasifican en cuatro dimensiones temáticas: 1. Gravedad del episodio denunciado, que tiene en cuenta la información sobre la historia de violencia en la pareja; 2. Factores relacionados con el agresor, dividido en la relación de pareja, indicadores de características antisociales e indicadores psicopatológicos y de ajuste psicosocial; 3. Indicadores situacionales que pueden precipitar acciones violentas, tiene en cuenta las características de la víctima que la ubica en una posición vulnerable; y 4. Aspectos subjetivos de la víctima sobre su propio riesgo.

En cuanto al segundo formulario denominado VPER se utiliza para hacer un seguimiento a la denuncia y a la imposición de medidas cautelares realizada por el juez, opera mediante el uso de 43 indicadores de los cuales 34 son de riesgo y 9 de protección. Estos indicadores se agrupan en cinco dimensiones criminológicas constituidas por las cuatro del VPR y adicionalmente la percepción de nivel de riesgo de la víctima con el fin de contribuir a su autoprotección (^{González et. al, 2018}). Lo anterior permite que se haga un estudio constante de la situación de la víctima para la debida actuación por parte de las diferentes instituciones responsables de la seguridad y la protección de la mujer y si es el caso inactivar el caso en el Sistema VioGén.

Fuente: Elaboración propia, a partir de ^{Fundación Ana Bella: Red de mujeres supervivientes (2022)}

Figura 1. Proceso de VioGén desde la recepción de la denuncia 

Finalmente, el Sistema VioGén como se observó en la figura 1, mediante el uso de los dos formularios de Valoración Policial del Riesgo, logra hacer un seguimiento continuo a las denuncias con el fin de proteger los derechos de las mujeres y prevenir nuevas conductas en el marco de la Violencia Basada en el Género, y además innovar en el desarrollo de este tipo de herramientas, pues es el único en utilizar dos formularios en vez de uno (^{Estévez, 2020}).

IV. CAPÍTULO 3. MARCO LEGAL INTERNACIONAL DE LA PROTECCIÓN DE LA MUJER APLICADO A VIOGÉN

En el contexto de la protección a la mujer, los Estados tienen diferentes obligaciones internacionales contenidas en variados instrumentos como: la Convención sobre la eliminación de todas las formas de discriminación contra la mujer y la Declaración sobre la Eliminación de la Violencia contra la Mujer, los cuales surgieron tras la necesidad de brindar mayor protección a las mujeres en vista de la vulneración sistemática y generalizada de sus derechos, así que mencionados instrumentos contemplan los deberes de prevención; protección; enjuiciamiento y castigo; reparación; y coordinación, vigilancia y recopilación de datos.

De forma específica la Convención sobre la eliminación de todas las formas de discriminación contra la mujer de 1979, establece los lineamientos generales para que los Estados partes generen las condiciones de igualdad en los diferentes ámbitos en los que se desarrolla la mujer (^{ONU, 1979}). Para dicho propósito, se creó el Comité para la Eliminación de la Discriminación contra la Mujer (CEDAW) que de manera detallada generó la observación general No. 35 de 2017 “sobre la violencia por razón de género contra la mujer, por la que se actualiza la recomendación general núm. 19”, que a su vez amplía la recomendación general N° 12 del octavo periodo de sesiones en el año 1989, documentos que de forma concordante se deben interpretar a la luz de la Declaración sobre la Eliminación de la Violencia contra la Mujer del 1993.

Por lo tanto, se entrará a detallar cada uno de estos compromisos internacionales:

Obligación de prevención: Este deber contempla la necesidad de adopción de medidas para abordar causas subyacentes como las actitudes patriarcales y los estereotipos de género; la promoción del empoderamiento de la mujer; la implementación de programas de concienciación de la negativa ante la Violencia Basada en el Género y la capacitación periódica de servidores públicos para el tratamiento diferencial de estas situaciones (^{ONU, 2022}; ^{CEDAW, 2017}).

Este compromiso internacional particularmente en VioGén se evidencia en la figura 2, pues grafica la cantidad de denuncias presentadas ante las autoridades españolas y los casos activos en el Sistema, demostrando la creciente atención de estos casos, además de la cantidad de medidas de protección asignadas por VioGén y aquellas determinadas en términos generales por el Estado español para prevenir la VBG y proteger a las posibles víctimas.

Fuente: Elaboración propia, a partir de fuentes abiertas del Ministerio de Igualdad Español https:// violenciagenero.igualdad.gob.es/violenciaEnCifras/boletines/boletinAnual/home.htm

Figura 2. VioGén en cifras 

Obligación de protección: Este deber se orienta al amparo de las mujeres denunciantes y de los testigos de VBG mediante la prestación de mecanismos de protección adecuados y accesibles tras una evaluación inmediata de los riesgos que puedan sufrir; protegiendo su privacidad y seguridad, previendo la disminución de cargas en las mujeres víctimas y garantizando la asistencia jurídica a las mujeres supervivientes (^{CEDAW, 2017}).

Obligación de enjuiciamiento y castigo: Este deber contempla la garantía del acceso efectivo de las víctimas a las cortes y tribunales, la aplicación del derecho penal por parte de las autoridades para imponer las sanciones adecuadas y evitar la aplicación de procedimientos alternativos de arreglo de controversias en estos casos (^{CEDAW, 2017}).

Obligación de reparación: El deber de reparación contempla medidas como indemnización monetaria, prestación integral de servicios para la recuperación de la víctima y la garantía de no repetición, teniendo en cuenta factores como: la gravedad del daño sufrido y la prontitud de su adecuación. Adicionalmente, acoge la necesidad de diseñar programas de reparación transformativos que tengan en cuenta los aspectos específicos que pudieron ocasionar la violación de los derechos (^{ONU, 2022}; ^{CEDAW, 2017}).

Obligación de coordinación, vigilancia y recopilación de datos: En cuanto a esta obligación, se recomienda la evaluación de las leyes, políticas y programas de la mano de las organizaciones de la sociedad civil; la cooperación de los diferentes componentes del sistema de justicia y las organizaciones que trabajan para apoyar a las víctimas; el establecimiento de un sistema que permita recopilar y analizar los datos estadísticos de VBG, el número de órdenes de protección dictadas, las tasas de desestimación de denuncias, condenas, indemnizaciones y reparaciones (^{CEDAW, 2017}).

Adicionalmente, el Comité dentro de esta obligación insta a los Estados a la asignación de recursos en la prevención de VBG, la protección a las víctimas, la investigación, enjuiciamiento de autores y reparación a las víctimas.

Así pues, en su recomendación general N°19 del décimo primer periodo de sesiones del año 1992, el Comité expone a los Estados Partes la necesidad de adopción de medidas eficaces para combatir los actos públicos o privados de violencia por razones de sexo, además de la identificación de las actitudes, costumbres y prácticas que perpetúan la violencia contra la mujer (^{CEDAW, 1992}).

En el mismo sentido, el Comité para la eliminación de la discriminación contra la mujer resalta que los Estados tienen la obligación general e inmediata de seguir “una política encaminada a eliminar la discriminación contra la mujer, en especial la violencia por razón de género contra la mujer” (2017, párr. 21) y resalta la necesidad de garantizar que las leyes, políticas, programas y procedimientos no generen discriminación contra la mujer.

En cuanto a la Declaración sobre la Eliminación de la Violencia contra la Mujer de 1993, también insta a los Estados a la toma de medidas eficaces para eliminar la violencia contra la mujer mediante acciones como prevenir, investigar y sancionar todo acto de violencia de género, brindar apoyo para lograr un resarcimiento justo a las mujeres objeto de violencia y hacer un seguimiento estadístico a esta situación (^{ONU, 1993}).

Lo anterior, deja en evidencia los compromisos internacionales de los Estados de tomar medidas respecto a los aparatos jurisdiccionales y los demás que intervengan en la atención de esta problemática, de forma que se realice una adecuada investigación y se aplique una correcta sanción a las conductas dirigidas en perjuicio de las mujeres para lograr en primera medida una atención integral a las víctimas, y en segunda, una disminución de estos casos mediante la función de prevención general del derecho.

En la misma línea, es indispensable que los Estados a la luz de sus obligaciones internacionales creen herramientas, protocolos, programas, planes, estrategias, políticas públicas, entre otras, con el fin de prevenir, investigar, sancionar y erradicar la violencia contra la mujer, integrando los órganos del poder público para crear una red de apoyo que facilite las acciones del Estado en el cumplimiento de sus deberes internacionales (^{CEDAW, 2017}).

Ahora bien, la aplicación de estas obligaciones internacionales se evidencian en el caso de España con el uso de VioGén, porque en primer lugar previene la Violencia Basada en el Género mediante la creación de los protocolos de valoración policial del nivel de riesgo de violencia contra la mujer en el marco de la Ley Orgánica 1/2004, que tras un análisis de la reincidencia en los casos de violencia permiten identificar todas las variables intervinientes para diseñar estrategias eficientes y eficaces para contrarrestar esta problemática (^{González et al., 2018}).

En segundo lugar, en cuanto a la obligación de investigar de los Estados aplicada en VioGén, es evidenciada en la adopción de la Instrucción N°2 de la Secretaria de Estado de Seguridad del Ministerio del Interior de España en el año 1998, donde se facilita a las víctimas la presentación oficial de la denuncia ante los Cuerpos de Seguridad del Estado en casos donde los hechos hayan ocurrido en la jurisdicción diferente a la del cuerpo de seguridad donde se realice la denuncia o que la misma sea recepcionada por personal capacitado con un enfoque diferencial, lo que se continuó haciendo con la implementación de la herramienta desarrollada con IA (^{González et al., 2018}).

Y en tercer lugar, respecto a la obligación de sancionar, el Estado como garante de los derechos de los habitantes del territorio y en particular de la acción penal, se debe encargar de adelantar los procesos necesarios para la restauración y reparación de las víctimas y supervivientes de VBG. Mediante el Sistema VioGén esto es evidente tras el diligenciamiento que permite tomar medidas de protección y adicionalmente, tener acceso a la información que pueda servir para el juzgamiento y sanción, por lo que el Ministerio Fiscal, los psicólogos forenses y el entorno penitenciario, son algunos de los usuarios con acceso a la herramienta (^{González, 2018}).

Los anteriores párrafos contrastan las obligaciones internacionales con el Sistema VioGén en materia de protección de los derechos de la mujer, específicamente las de prevención y protección, la de investigar y finalmente la de sancionar.

Algunos de los escenarios que se contemplan como propuesta para optimizar el desarrollo de la herramienta y adecuar los estándares internacionales de protección de la violencia basada en género a Viogén son: la contemplación de todas las formas de violencia contra la mujer, pues se centra en la violencia física y hacen falta “actos de violencia cometidos por los cuidadores; la violencia policial; la violencia en los espacios públicos, el lugar de trabajo y las escuelas, y el acoso de las mujeres defensoras de los derechos humanos” (^{ONU, 2015, p. 15}), al igual que tener más esfuerzos en materia de prevención con el fortalecimiento de la educación en las escuelas para la eliminación de estereotipos que refuerzan estas violencias, y las derivadas de las Tecnologías de la Información y las Comunicaciones.

Otras de las observaciones realizadas al desempeño de VioGén, son expuestas por ^{Estévez (2020)} quien destaca en primer lugar que algunos sectores no hacen parte del Sistema VDG obstaculizando el propósito de uniformidad del Estado, y en segundo lugar, citando a Dressel y Farid (2018), considera que la aplicación de unos formularios más sencillos pueden resultar más eficientes para establecer el nivel de riesgo de la víctima, pues tras hacer un análisis comparativo con evaluaciones de la herramienta británica “DASH”, se puede identificar la irrelevancia de algunos de los indicadores de los formularios para determinar la revictimización o reincidencia. Finalmente, en tercer lugar, apoyándose en Zurita (2014), concluye que la aceptación en un 95% por parte de los agentes de policía a la asignación del nivel del riesgo realizada por VioGén puede desencadenar una automatización en un tema tan delicado como el riesgo que corre una mujer en su entorno cotidiano.

En el mismo sentido, ^{Miró (2018)} considera que la automatización de las herramientas de Inteligencia Artificial puede hacer más complicada la explicación de las razones por las que se ha llegado a un cálculo, debido a la dificultad que implica determinar las variables que se consideraron para llegar al resultado, lo que se ha denominado “caja negra”. También expone otras preocupaciones referentes al uso de estos sistemas, como la privacidad en vista de la gran cantidad de datos que procesan los algoritmos, o su uso en temas relacionados con derechos fundamentales y garantías procesales.

En lo correspondiente al futuro de VioGén, ^{González et al. (2018)} exponen algunas propuestas para su desarrollo, al igual que el del Protocolo de Valoración Policial del Riesgo, entre las que destacan restringir el acceso a los miembros de las Fuerzas y Cuerpos de Seguridad del Estado que se encuentren vinculados en casos de VBG al Sistema VioGén en las bases de datos policiales que puedan contener datos de las víctimas; incluir a los hijos e hijas en las valoraciones policiales de riesgo de las víctimas; y la participación de estas para la construcción e implementación del Plan Personalizado de Protección.

Finalmente, es de destacar que aunque se celebra el avance de las herramientas desarrolladas con Inteligencia Artificial para la predicción de la Violencia Basada en el Género contra las mujeres, se debe contemplar la limitación de los derechos humanos de los agresores debido a la calificación de los indicadores que considera el formulario, pues al igual que en otras herramientas se utilizan criterios de ponderación que “[...] implicaría una posible vulneración para los derechos humanos como son, los derechos a la igualdad, no discriminación, debido proceso, libertad personal, honra, dignidad [...]” en escenarios como la discriminación racial y sesgos de género evidenciados en el algoritmo COMPAS en el caso State Wisconsin vs Loomis (^{Roa, Sanabria-Moyano & Dinas-Hurtado, 2022, p. 277-278}); contemplación que se ha hecho en el caso de VioGén de acuerdo a lo expuesto por ^{González et al. (2018)}, pues destacan que muchas de las medidas policiales permiten “trabajar con una tasa de falsos positivos más elevada sin lesionar importantes derechos en el denunciado, amortiguando los efectos e interacciones que puede ocasionar en el denunciado” (p. 25).

Lo anterior demuestra la necesidad imperante de los Estados de contemplar sus obligaciones internacionales a la luz de los derechos fundamentales no solo de las víctimas, sino también de los victimarios, pues como se expuso, la falta de control de los algoritmos utilizados para la celeridad en la justicia puede ocasionar vulneraciones de los mismos.

V. CONCLUSIONES

En conclusión, la Violencia Basada en el Género es una problemática social que requiere una importante atención para disminuirla en vista de las causas enraizadas en la sociedad que la perpetúa, además de la violación de los derechos humanos de las mujeres que la sufren generando consecuencias irreversibles. Esta situación es expuesta en las obligaciones internacionales de los Estados dirigidas a la prevención y protección, investigación y sanción, además de los deberes específicos incorporadas por el CEDAW en sus recomendaciones.

En vista de la comisión sistemática de estas conductas y a la limitada capacidad para atender todos los casos, se hace necesaria la implementación de medidas que permitan disminuir y vigilar su ejecución, situación a la que dan respuesta algunos sistemas, protocolos y formularios de valoración del riesgo implementados en el mundo.

En este sentido, la creación de herramientas como los algoritmos desarrollados con el fin de lograr la predicción de la Violencia Basada en el Género es un acierto, pues permite dar una atención mejor dirigida a la víctima mediante la constante revisión de las amenazas que pueda sufrir y sobre todo, tomar medidas a partir de la cooperación de las instituciones estatales para la prevención de consecuencias graves en materia de violencia contra la mujer.

Adicionalmente, estas medidas permiten que el Estado se centre en la protección de la mujer no solo desde una mirada reactiva poniendo en marcha sus capacidades tras la ocurrencia de las agresiones que pueda sufrir una víctima de VBG, sino también de forma proactiva mediante el análisis de las amenazas latentes puestas en conocimiento por las mujeres, o debido a la sistematización de la violencia en lugares que ya han sido identificados, actuando desde la prevención y precaución ante cualquier posible atropello a los derechos de la mujer.

En particular sobre VioGén, deja en evidencia que la utilización de herramientas desarrolladas con Inteligencia Artificial facilita la atención de las mujeres víctimas de Violencia de Género, pues advierte a las autoridades para el despliegue de capacidades que les permita actuar de forma anticipada para contrarrestarla dando cumplimiento a las obligaciones internacionales de los Estados de prevenir la violencia contra la mujer, al igual que su protección constante.

En la misma línea, se evidenció una amplia capacidad del sistema para contribuir a la investigación de la violencia contra la mujer, pues permite el acceso de las diferentes instituciones que puedan ser partícipes de alguna parte del proceso, facilitando el acceso a la información, disminuyendo la revictimización y los trámites administrativos.

Sin embargo, como se pudo observar en el desarrollo del presente artículo, es indispensable que se haga una revisión constante del sistema conforme a las necesidades que surjan con la evolución de la sociedad, pues se necesita el fortalecimiento de los formularios y del sistema, orientado hacia la sanción de las conductas en contra de la violencia contra la mujer.