Abordando los desafíos de regulación de los SAAL: una mirada al DIH y la tecnología

Los SAAL, de acuerdo con ^{Meza (2019)}, se constituyen en sistemas altamente sofisticados que proyectan riesgos indescifrables en su autodeterminación tecnológica de ataque; de tal suerte que una vez activados no existe retroactividad decisional de control humano, constituyéndose en una revolución tecnocientífica bélica imprevisible, capaz de ejecutar funciones decisionales críticas de atacar, en tanto que “podrían ser capaces de detectar a personas y matarlas con una mínima participación humana, o sin necesidad de un control o una autorización procedentes directamente de seres humanos” (p. 43).

En contexto, los SAAL son sistemas capaces de procesar la información de su entorno y responder con ataques independientes, pudiendo ser completamente autónomos y letales en función de las misiones que se les asignen (^{Heyns, 2016}). De ahí que ^{Meza (2019)} singularice sus características más relevantes, a saber: no requieren control humano, funcionan de forma autónoma, gozan de un modelo adaptativo de autoaprendizaje (machine learning), pueden seleccionar y atacar objetos automáticamente, su nivel de entendimiento es superior, siendo capaces de interiorizar intenciones y direcciones, considerándose medios técnicos no tripulados porque no requieren la participación de un operador.

Ahora bien, dada la dependencia y autonomía funcional de estas armas, los problemas radican en el hecho de que pueden ser utilizadas por actores no estatales y para fines no previstos en acciones militares, lo que aumenta la preocupación en torno a su uso y control. De hecho, ^{Human Rights Watch (2013)} destaca que el uso de los SAAL representa un peligro potencial a la aplicabilidad esencial de los derechos humanos, y hace un llamado a la regulación jurídica por parte de los Estados.

En este óbice, se identifica una serie de riesgos, siendo el principal la falta de poder humano en la toma de decisiones letales y seguido de la dificultad para atribuir responsabilidades en caso de errores, así como la escalada de conflictos por la velocidad y precisión en la selección de objetivos; con todo, a pesar de dichos riesgos potenciales, la comunidad mundial carece de instrumentos jurídicos internacionales que regulen su desarrollo y uso específico (^{Human Rights Watch, 2012}).

El primer incidente real punible del riesgo potencial de uso de los SAAL se materializó en un documento oficial del Consejo de Seguridad No. S/221/229 de la Organización de Naciones Unidas (^{ONU, 2021}), donde se informó que drones militarizados STM-Kargu-2 de fabricación turca, habrían atacado por primera vez a combatientes que conducían convoyes militares, de forma totalmente independiente y sin la guía u órdenes oficiales, cuando estos se encontraban en retirada luego de un ataque primario con armas convencionales, conduciendo las hostilidades a la no supervivencia de combatientes (guerra sin cuartel); lo cual implicaría un potencial crimen de guerra, al generar bajas personales. Hecho ocurrido en marzo de 2020 durante el conflicto civil en Libia, tal como lo escenificó el programa Slaughterbot de la organización sin fines de lucro Campaign to stop killer robots, que muestra en un cortometraje la posible creación de un enjambre de drones autónomos que realizan ataques selectivos sin intervención humana directa (^{Campaign to stop killer robots, 2017}), así como se identificó en un estudio pasado, respecto a este particularísimo escenario (^{Almache Barreiro & Albert Márquez, 2023}).

Frente a este crucial entorno, ^{Tegmark (2018)} resalta que si bien es tentador optar por la rapidez y la eficacia de los SAAL, que incluso en un futuro “podrían hacer innecesaria toda intervención humana usando un algoritmo para elegir sus objetivos y a quién matar”, también es un problema jurídico latente que trasgrede por completo la salvaguarda de los principios de distinción, proporcionalidad y precaución en el DIH y el derecho consuetudinario invocado anteriormente, debido a la indeterminación de la intencionalidad tecnológica militar o beligerante. De ahí que ^{Heyns (2013)} propuso adoptar una moratoria internacional respecto de su uso mientras se discute la posibilidad de prohibirlos por completo.

En sentido sinalagmático, ^{Scharre (2016)} indica que la ausencia de normas claras en el DIH con relación a los SAAL ha creado un vacío legal en cuanto a la regulación de su uso en conflictos armados. En particular, se ha planteado la cuestión de la responsabilidad estatal y criminal en caso de que estas armas causen daños a civiles o infraestructuras no militares; además, de que la falta de una definición clara de SAAL dificultaría la supervisión y regulación de estas armas. Dentro de este contexto, el ^{Comité Internacional de la Cruz Roja (2022)} engloba la noción de “arma autónoma letal”, resumiéndola como aquellas que eligen blancos y ejecutan acciones violentas sin intervención humana, generando inquietud debido a la carencia de juicio humano en la aplicación de la fuerza.

Finalmente y de acuerdo con ^{Arkin (2009)}, el problema no está en el desarrollo de estos dispositivos autónomos, sino en su falta de regulación; pues argumenta que la tecnología autónoma puede ser utilizada para mejorar la precisión y minimizar las bajas civiles en el campo de batalla, pero solo si se implementan sistemas de control adecuados que limiten el riesgo de errores y abusos, implicando la necesidad de su aplicabilidad instrumental y tecnológicamente regulada, contexto necesario para abordar el tema estudiado de manera multidisciplinar.

Garantizar el control humano en los sistemas autónomos de armas letales (SAAL): abordaje a través del DIH en respuesta a la ausencia de regulación

De hecho, dado que existen ciertos tratados internacionales como la ^{Convención sobre la prohibición de armas bacteriológicas y sobre su destrucción (1972)}, la Convención sobre prohibiciones o restricciones del empleo de ciertas armas convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados (1980) y la ^{Convención sobre la prohibición de las minas antipersonal y sobre su destrucción (1997)}, que regulan el uso de armas en general, estos resultan inefectivos frente al arquetipo tecnológico de una sola activación por el ser humano y los vacíos jurídicos que potencializan la amenaza real a la vida humana, que suponen los SAAL en conflictos armados.

Únicamente tiene algún efecto jurídico enunciativo la Cláusula Martens, que se encuentra en el Preámbulo ^{del II Convención de La Haya (1899)}, relativa a las leyes y costumbres de la guerra terrestre, que se amalgama como un principio del DIH pero que no restringe coercitivamente ni configura responsabilidades jurídicas; citando:

Mientras que se forma un Código más completo de las leyes de la guerra, las Altas Partes Contratantes juzgan oportuno declarar que, en los casos no comprendidos en las disposiciones reglamentarias adoptadas por ellas, las poblaciones y los beligerantes permanecen bajo la garantía y el régimen de los principios del Derecho de Gentes preconizados por los usos establecidos entre las naciones civilizadas, por las leyes de la humanidad y por las exigencias de la conciencia pública.

En este sentido, la comunidad internacional ha evidenciado la necesidad de una regulación en el desarrollo y uso de las SAAL. Por ejemplo, el ^{Grupo de Expertos Gubernamentales de las Naciones Unidas sobre Sistemas Autónomos Letales (2019)} destacó la importancia de desarrollar normas internacionales para regular el desarrollo y uso de estas armas. De manera similar, la ^{Comisión Internacional de Juristas (2016)} ha señalado que la falta de regulación en torno a los SAAL implica un riesgo para los derechos humanos y para la estabilidad internacional.

El ^{Comité Internacional de la Cruz Roja (2016)}, por su parte, también ha adoptado una postura similar, al señalar que estas armas pueden tener un impacto significativo en el DIH, por lo que enfatiza en la necesidad de una regulación en torno a los SAAL, y la importancia de que los Estados tomen medidas para garantizar el control humano tal como ha sido ratificado en la Declaración del Comité Internacional de la Cruz Roja durante la Convención sobre ciertas armas convencionales (CCAC) ante el ^{Grupo de Expertos Gubernamentales sobre SAAL en Ginebra (2021)}.

Entonces, la regulación del DIH en el uso de SAAL debe buscar que el proceso algorítmico de sus diseños evolucione en paralelo a la juridicidad, respetando la integridad del ser humano en el campo de batalla y en la identificación de combatientes y no combatientes, así como objetivos militares y no militares. Además, exteriorizar la necesidad de configurar tópicos como la autodependencia o la reconfiguración autoadaptativa (^{Barrat, 2013}), manteniendo rasgos propios de las tecnologías de IA, como la resolución de problemas a partir de la identificación de patrones (^{Serrano, 2016}), en torno a los principios humanos bélicos de distinción, proporcionalidad y precaución, contemplados en el Protocolo ^{I del Convenio de Ginebra (1977)} y normas consuetudinarias adscritas al DIH.

Ante todo esto, hay que considerar que, como indica ^{Nisa Ávila (2016)}, ciertos países han empezado a regular la IA, como es el caso de Corea del Sur -Intelligent robots development and distribution promotion act, en el 2018 y Robots ethics charter en el 2012- o Japón - Guidelines to secure the safe performance of next generation robots en el 2017 y New robots strategy en el 2015-.

Otros, en cambio han constituido comisiones o comités de estudio para abordar la futura regulación sobre la IA, como Estados Unidos de América con ^{el proyecto de ley H. Res. 153}, Supporting the development of guidelines for ethical development of artificial intelligence (2019), para apoyar la elaboración de guías para un desarrollo ético de esta; Canadá, con la Regulación 306 de 2015, que permite al Gobierno de Ontario generar un proyecto piloto para el testeo de vehículos autónomos; y la Unión Europea que actualmente cuenta con la ^{propuesta del Reglamento del Parlamento Europeo y del Consejo} por el que se establecen normas armonizadas en materia de IA (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión (2021)¹. No obstante, en ninguno de los casos incluye la cobertura requerida para las acciones militares con SAAL; incluso, la normativa europea deja claro que su configuración limita específicamente el uso y desarrollo de estos dispositivos en el contexto civil y desliga el sector militar, tal como lo esboza el preámbulo 12 y el artículo 2.3 de dicho cuerpo normativo, a saber:

El presente Reglamento debe aplicarse igualmente a las instituciones, las oficinas, los organismos y las agencias de la Unión cuando actúen como proveedores o implementadores de un sistema de IA. Los sistemas de IA desarrollados o utilizados exclusivamente con fines militares deben quedar excluidos del ámbito de aplicación del presente Reglamento cuando su uso sea competencia exclusiva de la política exterior y de seguridad común regulada en el título V del Tratado de la Unión Europea (TUE). El presente Reglamento debe interpretarse sin perjuicio de las disposiciones de la Directiva 2000/31/CE del Parlamento Europeo y el Consejo (en su versión modificada por la Ley de Servicios Digitales) relativas a la responsabilidad de los prestadores de servicios intermediarios.

Del mismo modo, el ^{Grupo de Expertos Gubernamentales de las Naciones Unidas sobre Sistemas Autónomos Letales (2019)}, basado en argumentos relativos a los riesgos que implica la falta de regulación jurídica -en especial en regiones como América Latina donde es prácticamente inexistente-, concuerda con la necesidad de regular el uso de los SAAL. Por lo que, si bien se muestra que existe un consenso internacional en la necesidad de regulación de estos sistemas debido a los riesgos que implican para la seguridad y los derechos humanos, es urgente exteriorizarlo.

Según lo analizado, se trata de iniciativas aisladas que deberían contemplarse. Además, la brecha tecnológica que se expande vertiginosamente día a día, en el ámbito de la comunidad global no existe sino las iniciativas europeas y norteamericanas, como las más identificables. Es necesario, por tanto, establecer regulaciones para proteger los principios del DIH y las normas pertinentes del Derecho Consuetudinario Internacional frente a este escenario, ya que no se ha logrado -de manera comunitaria- que el uso de la informática artificial o automática decisional en armas independientes tenga la inmediata regulación y sea susceptible a los tópicos de protección, que se adapten a las prohibiciones que violan actualmente los principios de distinción, precaución y proporcionalidad del DIH, para que en paralelo configuren responsabilidades punitivas por futuras transgresiones.

Armamento autónomo y violación del DIH: el incidente de los drones militares en los conflictos de Libia, NagornoKarabaj, guerra del Tigray, YemenKabul, Rusia-Ucrania, Israel-Hamas y sus implicaciones jurídicas

El Informe final del Grupo de Expertos sobre Libia establecido en virtud de la Resolución 1973 del Consejo de Seguridad de la ONU (2021) revela que los drones militarizados, específicamente los del fabricante turco STM llamados Kargu-2, durante el conflicto de las fuerzas de Consenso Nacional frente al control del este del país del líder militar Khalifa Haftar, desempeñaron un papel asimétrico en el conflicto militar de Libia en el 2020, traducido en un eventual crimen de guerra. Este informe señala que estos sistemas, sin conectividad operador-robot y generando decisiones autónomas, atacaron a combatientes cuando se producía ya la retirada de ciertos convoyes militares, ocasionando bajas después de que estos hubieran sufrido impactos por otras armas convencionales contra blindados, conduciendo las hostilidades hacia la inexistencia de supervivientes.

En Nagorno-Karabaj, la utilización de drones por parte de Azerbaiyán alteró el equilibrio de poder mediante modelos avanzados que permitieron ataques selectivos, cambiando la naturaleza del conflicto y sus implicaciones humanitarias. Esta evolución estratégica, como señala ^{Boyle (2017)}, cuestiona las convenciones del DIH en la protección de civiles, especialmente ante la precisión letal de estos dispositivos.

La situación en la guerra del Tigray en Etiopía, aunque menos documentada, destaca la complejidad emergente. Los informes fragmentarios sobre el uso de drones generan incertidumbre, por lo que se resalta la dificultad de aplicar las normas del DIH en entornos donde la tecnología de los drones opera en un vacío informativo, como plantea ^{Schmitt (2017)}. Esta falta de transparencia y la escasa trazabilidad de los drones empleados dificultan la evaluación precisa de su impacto en la población civil, desafiando la adecuada implementación del DIH.

En Yemen-Kabul, el uso dual de drones por las partes en conflicto ha creado una dinámica compleja. Los ataques con drones han afectado infraestructuras críticas, lo que provoca preocupaciones significativas en términos de DIH al difuminar la distinción entre combatientes y no combatientes en áreas pobladas. Este entorno asimétrico intensifica los desafíos humanitarios y legales, y resalta la necesidad urgente de una normativa clara, como propone ^{Paul (2020)}, para salvaguardar los principios fundamentales del DIH en situaciones de conflicto donde los drones cumplen un papel central.

En la guerra Rusia-Ucrania se utilizó el famoso dron Bayraktar TB2, fabricado por Turquía, para misiones de reconocimiento y ataques contra objetivos enemigos, ganando cierta notoriedad por su capacidad para realizar misiones de combate y su uso estratégico en el conflicto (^{BBC News Mundo, 2023a}). No obstante, se han reportado daños a infraestructuras civiles indistintas, durante sus ejecutorias, como aeropuertos, estaciones de ferrocarril y distritos comerciales.

En el conflicto Israel-Hamas, la utilización de drones también ha identificado objetivos no claros en el ámbito belicista, como el impacto en una vivienda en el centro del campo de refugiados en Yenín-Cisjordania (^{BBC News Mundo, 2023b}), lo que preocupa a toda la comunidad internacional, actualmente.

Estos hechos plantean cuestiones relacionadas con la inconciencia situacional bélica prohibida por el artículo 3.1 del Convenio de Ginebra de 1949, que se exterioriza en un potencial crimen más conocido como “guerra sin cuartel”, acorde con el artículo 40 del Protocolo I adscrito al Convenio de Ginebra (PICG) que determina:

“Artículo 40. Cuartel. Queda prohibido ordenar que no haya supervivientes, amenazar con ello al adversario o conducir las hostilidades en función de tal decisión”.

Una intervención sin una clara identificación de los objetivos, la conducta de retirada de los adversarios del campo de batalla y la decisión discriminada del algoritmo de atacar acoplando su accionar hacia las hostilidades con objeto de no supervivencia de combatientes, como se informa haberse realizado con los SAAL en marzo/2020 durante el conflicto de las fuerzas de Consenso Nacional contra Haftar en Libia, convirtió a dicho acto en un potencial “crimen de guerra” tipificado en el artículo 8.2.b, romano iv) del ^{Estatuto de Roma de la Corte Penal Internacional (ECPI)}, que prohíbe los ataques indiscriminados que causen lesiones o muerte a militares que hayan depuesto las armas o que al no tener medios para defenderse, se hayan rendido a discreción.

En el caso de Libia, el informe también destaca que los drones militarizados estaban programados para operar sin requerir una conectividad de datos constante entre el operador humano y el dispositivo. Esto plantea preocupaciones en términos de la autonomía decisional bélica y de un naciente concepto de “dolo tecnológico”, que podría traducirse en un dolo eventual de los implementadores del sistema y de quienes, a nivel de mando militar, conocían del escenario bélico en el que se desplegaron; es decir, la capacidad independiente del SAAL para tomar decisiones sobre el uso de la fuerza sin intervención humana directa en tiempo real.

El dolo eventual, como una noción arraigada en el derecho penal, se manifiesta cuando una persona, aunque no tenga la intención directa de cometer un delito, es consciente de la posibilidad de que su acción pueda resultar en un acto punitivo y, a pesar de ello, sigue adelante con su conducta (Carrara, 1870, citado en ^{Gómez, 2008}, p. 123). En consecuencia, el dolo eventual involucra un conocimiento de la posibilidad de un resultado criminal, así como una voluntad indirecta de causarlo.

En el contexto de la rápida evolución tecnológica, emergería la inquietante figura del dolo tecnológico que puede conceptuarse como la conducta de operadores informáticos que, a pesar de ser conscientes de los riesgos y las implicaciones éticas inherentes a la programación sin salvaguardias técnicas adecuadas, continúan desarrollando sistemas de manera poco ética.

Así, el dolo tecnológico abarcaría una serie de omisiones cruciales, como la falta de adaptación a diferentes escenarios, la incapacidad para discernir situaciones ambiguas, la falta de previsión de contramedidas potenciales, la insuficiente protección de la ciberseguridad y la ausencia de un enfoque adecuado en la gestión de riesgos, como lo esboza la instrucción de ciberseguridad 85001.01 (Departamento de Defensa de los Estados Unidos de Norteamérica, 2014). En definitiva, el dolo tecnológico se manifiesta cuando los programadores toman decisiones conscientes para ignorar consideraciones éticas en el diseño y desarrollo de tecnologías; en este caso, la programación con el potencial de causar daño letal y, en general, de la carencia consciente y voluntaria de ética de quienes estén involucrados en la creación de sistemas tecnológicos de alto impacto.

Además, el dolo tecnológico genera interrogantes relevantes en el ámbito penal sobre la impunidad de crímenes en conflictos armados; pues el artículo 31.1, romano ii) del Estatuto de Roma de la Corte Penal Internacional (ECPI), ha resuelto que las circunstancias ajenas al control de la fuerza militar intencional se encuentran exentas de responsabilidad penal, al indicar:

Artículo 31. Circunstancias eximentes de responsabilidad penal

1. Sin perjuicio de las demás circunstancias eximentes de responsabilidad penal establecidas en el presente Estatuto, no será penalmente responsable quien, en el momento de incurrir en una conducta:

(…)

ii) Estar constituida por otras circunstancias ajenas a su control.

De esta carencia de punibilidad penal internacional, surgen interrogantes respecto al quantum jurídico reinante, donde los SAAL irradiarían impunidad en los crímenes de guerra en conflictos armados, de cómo podría determinarse la responsabilidad criminal en casos donde las circunstancias decisionales del algoritmo estén fuera del control auditable de la fuerza militar humana, y los criterios técnicos jurídicos que se utilizarían para determinar si una acción se enmarca dentro de las circunstancias ajenas al control de la fuerza militar.

En cuanto a la creación y desarrollo de los SAAL, no existe regulación instrumental internacional enfocada a su funcionamiento hardware/ software en entornos operativos reales frente a la variedad de adaptaciones decisionales; tampoco se identifican contramedidas practicables ante condiciones multimodales de comportamientos del adversario bélico, en los que deberían insertarse en sus sensores electrónicos la programación suficiente de firmware² que maximice los principios de distinción, precaución y proporcionalidad del DIH para generar o detener un ataque, y deben ser integralmente fiables para minimizar la probabilidad de fallos.

En el mismo aspecto de la responsabilidad criminal, es fundamental que los SAAL sean autorizados -precedentemente- por el respectivo mando militar para cumplir compromisos dentro de un área geográfica, acorde con las intenciones del comandante y del operador. Ello demostraría la existencia de decisiones no comprometidas o no autorizadas que pudieran interferir con el funcionamiento del sistema y la propia orden militar.

Con estos recursos, se facilitaría el camino de la debida diligencia en investigaciones de crímenes de guerra del arma de IA, al permitir realizar las correspondientes indagatorias con el personal profesional competente (Corte IDH, 2006, párr. 179; Caso Baldeón García vs. Perú, 2006, párr. 96; Caso de la Masacre de Pueblo Bello vs. Colombia, 2006, párr. 177; Caso de la Masacre de Mapiripán vs. Colombia, 2006, párr. 224) -en este caso y en el campo informático-, tal como lo reseña el Protocolo de Minnesota, en su Introducción y en su Anexo 1, punto 11, en el que exige contar con el personal técnico y administrativo idóneo para las investigaciones (^{Informe del Relator Especial de Naciones Unidas sobre ejecuciones extrajudiciales, sumarias y arbitrarias, 2007}, párrs. 45 y 46); sin perjuicio de la observancia del Protocolo de Estambul que establece que todos los métodos utilizados para llevar a cabo las investigaciones de hechos de tortura y tratos crueles, inhumanos o degradantes deben tener el máximo nivel profesional (^{Protocolo de Estambul, 1999}, párr. 78).

En este aspecto, la seguridad del sistema de los SAAL es crucial, puesto que resulta indispensable la creación de mecanismos antimanipulación y de ciberseguridad, que implementen un sistema de gestión de riesgos proidentificación de las vulnerabilidades de la tecnología de información (TI), las amenazas del adversario (como malware, actividades no autorizadas y vulnerabilidades) en el uso del ciberespacio, la capacidad de reconfiguración y defensa de los componentes tecnológicos cuando se utilizan dispositivos agregados o externos, la integración e interoperabilidad del sistema que minimice el riesgo de información compartida, el respaldo de la información y reportes automáticos de incidentes con un nivel adecuado de confidencialidad, autenticación y disponibilidad de acuerdo con la relevancia y la protección de la información, que deben incluirse durante todo el ciclo de vida de esta tecnología en la que se integren la adquisición, diseño, desarrollo, pruebas operativas, implementación, operación, actualización y su final reemplazo.

Paralelamente a la integridad cibernética, es crucial definir de manera precisa los límites y criterios para determinar si una acción se encuentra dentro de estas circunstancias eximentes, respecto a la intencionalidad computacional y de la línea de mando militar. Ello implica la debida maximización o no del dolo tecnológico al programar y construir el software sin la correcta implementación con los principios de distinción (art. 48 del Protocolo I del Convenio de Ginebra (1977) -de aquí en más PI CG- y normas consuetudinarias 1 a 10 del DIH), proporcionalidad ((art. 51.4.c PI GC) y norma consuetudinaria 14 del DIH) y precaución ((art. 57.2.a.1 PI CG) y normas consuetudinarias 15 a 24 del DIH). Esto garantizaría que la exención no sea utilizada como una justificación para cometer crímenes en conflicto armado y que no se fomente la impunidad.

En igual sentido, se observa la inexistencia de límites claros o criterios establecidos en el Estatuto de Roma de la Corte Penal Internacional (ECPI) para aplicar la exención de responsabilidad penal en situaciones tecnológicas ajenas al control de la fuerza militar en conflictos armados; y, por último, cómo se garantiza que las exenciones de responsabilidad penal del ECPI no sean utilizadas como una justificación para cometer crímenes en conflictos armados o qué mecanismos o salvaguardias existen para asegurar que esta característica no fomente la impunidad en casos de violaciones graves del derecho internacional humanitario.

Como se analiza, es fundamental contar con mecanismos efectivos que aseguren que esta exención no socave la obligación de proteger los derechos humanos y el DIH durante los conflictos armados. La comunidad internacional y los organismos de derechos humanos deben evaluar constantemente esta disposición y considerar propuestas para revisar o modificar el Estatuto de Roma de la Corte Penal Internacional; así como de manera preeminente, la creación de un instrumento internacional de regulación de los SAAL, con el fin de garantizar una mayor rendición de cuentas en casos de crímenes cometidos durante conflictos armados.

Desenmascarando la amenaza invisible: hacia una regulación eficiente de los SAAL en el escenario del DIH

Como ya se mencionó, el DIH abarca el Convenio de Ginebra de 1949 y sus protocolos adicionales, así como las normas consuetudinarias aplicables y otros tratados internacionales invocados, todos ellos establecen normas para la conducta humana durante las hostilidades en los conflictos armados. Sin embargo, estas disposiciones se centran en la responsabilidad criminal de las personas en conflictos armados, y no abordan específicamente la intencionalidad electrónica que separa la única acción humana en el uso de SAAL, cuya relación debe trascender al campo jurídico, vista la característica que subyace a dicha conexión humano-robot que es, singularmente, su única e inicial activación.

Por consiguiente, la ^{Convención sobre la prohibición de armas bacteriológicas y sobre su destrucción (1972)} no es adecuada desde el punto de vista jurídico respecto al uso de los SAAL, pues únicamente prohíbe el desarrollo, producción y almacenamiento de armas biológicas y tóxicas; por tanto, constituye un instrumento internacional insuficiente para regular esta tecnología. En sentido sinalagmático, la ^{Convención sobre la prohibición de las minas antipersonal y sobre su destrucción (1997)} prohíbe el uso, producción, transferencia y almacenamiento de minas antipersonal y si bien su objetivo es reducir el sufrimiento humano en los conflictos armados, no incluye regulaciones específicas para los SAAL.

El único instrumento internacional legislado que se aproxima, aunque abstractamente a las funciones de los SAAL, lo constituye la Convención sobre prohibiciones o restricciones del empleo de ciertas armas convencionales que puedan considerarse excesivamente nocivas o de efectos indiscriminados (1980), cuyo objeto es aplicar normas consuetudinarias del Derecho Internacional Humanitario a las armas específicas. Así, prohíbe el uso de armas con efectos indiscriminados y daños superfluos (art. 3) y consta de cuatro protocolos a los que se pueden agregar nuevos desarrollos jurídicos (art. 5), que podrían aprovecharse para evocar a los SAAL, pues su objetivo principal es proteger a la población civil y combatientes en conflictos armados (art. 1), y su ámbito de aplicación lo constituyen los conflictos armados internacionales y no internacionales.

En su desarrollo, el ^{Protocolo I de la Convención de Ginebra -PI CG- (1977)}, relativo a la protección de las víctimas de los conflictos armados internacionales, prohíbe el uso de armas cuyos fragmentos no puedan ser localizados por rayos X en el cuerpo humano (art. 1). El Protocolo II -PII CG- (1977), relativo a la protección de las víctimas de los conflictos armados sin alcance internacional, regula el uso de minas, armas trampa y otros artefactos en conflictos armados internacionales y no internacionales (art. 1) y establece normas generales y especiales para cada tipo de arma (art. 2), pero por su fecha de expedición y vigencia resultó improbable referirse a tecnologías autónomas que no se producían en aquella época. El Protocolo III -PIII CG- (2005), relativo a la adopción de un signo distintivo adicional, prohíbe el uso de armas incendiarias contra civiles y en concentraciones de civiles, excepto cuando se utilicen para atacar objetivos militares ocultos en bosques u otro tipo de vegetación (art. 2); y, finalmente, el Protocolo IV de la Convención sobre Ciertas Armas Convencionales de 1980 -P IV CG- (1995), relativo a la protección debida a las personas civiles en tiempo de guerra, se refiere singularmente al uso de armas láser diseñadas para causar ceguera permanente y sus precauciones para su riesgo de activación (arts. 1 y 2).

Por ello, frente la superación tecnológica de los instrumentos jurídicos analizados, resulta relevante hacer trascender que existe una disposición legal inaplicada e instituida en el artículo 36 del Protocolo I Adicional a los Convenios de Ginebra de 1949 -PI CG-, que exige una revisión previa a la utilización de cualquier arma nueva o modificada, y aunque no especifica cómo se debe llevar a cabo esta revisión -y sin proporcionar una solución completa para el problema naciente de los SAAL-, podría constituirse en el impulso necesario para desarrollar un Instrumento internacional al respecto, sin perjuicio de un desarrollo jurídico extendido de los protocolos adicionales al Convenio de Ginebra de 1949, que son los de aplicación bélica por excelencia.

A pesar de la existencia de tratados internacionales que establecen normas para la conducta de las hostilidades y la protección de los derechos humanos, que instituyen los principios de distinción (art. 48 del Protocolo I del Convenio de Ginebra (1977) -de aquí en más PI CG- y normas consuetudinarias 1 a 10 del DIH), proporcionalidad ((art. 51.4.c PI GC) y norma consuetudinaria 14 del DIH) y precaución ((art. 57.2.a.1 PI CG) y normas consuetudinarias 15 a 24 del DIH), estos no serían aplicables en la regulación de las armas autónomas letales por la desvinculación algorítmica decisional de la humana analizada. Esto implica que, en la actualidad, no existe un instrumento internacional que aborde específicamente este fenómeno armado tecnológico, por lo que emerge así la necesidad de una acción urgente y coordinada en el ámbito internacional para abordar los desafíos éticos, legales y técnicos planteados por los SAAL.

La capacidad de veto del Consejo de Seguridad de la ONU: un escenario influyente en la exención de responsabilidad penal para el uso de SAAL

La ^{Carta de las Naciones Unidas}, adoptada en 1945, establece las bases para la creación y el funcionamiento del Consejo de Seguridad, un órgano fundamental en la toma de decisiones internacionales. Una de las prerrogativas más destacadas de este Consejo, es la capacidad de veto, que otorga a sus cinco miembros permanentes un poder especial de intervención o no en los conflictos internacionales, inclusive.

El artículo 23 de la Carta de la ONU establece la composición del Consejo de Seguridad y cómo se eligen a los miembros permanentes y no permanentes. En particular, el párrafo 1 del artículo 27 menciona a los cinco miembros permanentes (República Popular China, Francia, Federación de Rusia, el Reino Unido y los Estados Unidos de América) y establece que cada miembro del Consejo de Seguridad tendrá un voto. Sin embargo, el poder de veto que se deriva del párrafo 3 del artículo 27, otorga a sus cinco miembros permanentes un poder especial en la toma de decisiones, cuando señala:

“Las decisiones del Consejo de Seguridad sobre todas las demás cuestiones serán tomadas por el voto afirmativo de nueve miembros, incluso los votos afirmativos de todos los miembros permanentes”. Pero en las decisiones sustanciales del Consejo de Seguridad, incluyendo la adopción de recomendaciones sobre procedimientos de arreglo pacífico de una situación, se requerirá el voto afirmativo de los miembros permanentes.

Así, el párrafo 3 del artículo 27 de la Carta de las Naciones Unidas establece que en las decisiones sustanciales del Consejo de Seguridad, que incluyen la adopción de recomendaciones sobre procedimientos de arreglo pacífico de una situación, requieren el voto afirmativo de todos los miembros permanentes del Consejo de Seguridad; esto implica que cualquier miembro permanente del Consejo de Seguridad puede ejercer su poder de veto para bloquear tales decisiones, incluyendo las relacionadas con la intervención militar o cualquier otra medida coercitiva.

Es aquí donde el poder de vetar de los miembros permanentes del Consejo de Seguridad de las Naciones Unidas entra en juego: en la eventualidad de un potencial caso ante la Corte Penal Internacional (CPI), como el documentado ante la misma ONU durante el conflicto de las fuerzas del Consenso Nacional frente al control del este del país del líder militar Khalifa Haftar en Libia, u otro relacionado con el uso de SAAL por parte de un Estado miembro del Consejo de Seguridad, podría tornarse impune, pues la capacidad de veto de cualquiera de los cinco miembros obstaculizaría directamente la apertura de la acción penal internacional. Si uno de los Estados vota en contra de una eventual moción al respecto o bloquea una resolución relacionada, esto podría frenar la capacidad de la Corte Penal Internacional para llevar a cabo una investigación y procesar a los posibles responsables.

La conexión entre el poder de veto que históricamente ha sido calificado como anacrónico, como obra en un informe de opinión del grupo de alto nivel enviado el 1 de diciembre de 2004 al Secretario General de Naciones Unidas, con el título “Un mundo más seguro: la responsabilidad que compartimos” (Doc. A/59/565, ^{ONU, 2004}), y la concurrencia eximente de responsabilidad penal del artículo 31.1 romano ii) del ECPI, ahondan la posibilidad de que un Estado miembro con capacidad de veto pueda proteger injustamente a personas -incluyendo líderes militares- de la acción penal internacional al bloquear cualquier intento de llevar el caso ante la CPI. Lo cual también extiende la impunidad resultante hacia la falta de rendición de cuentas, lo que tiene un impacto significativo en los desafíos de la justicia internacional, donde el poder político se vuelve preeminente frente a la propia orden de análisis del Consejo de Seguridad de la ONU en la Carta de Naciones Unidas. Paradójicamente, en su artículo 26, exige para la paz y seguridad internacionales la elaboración de planes para un sistema de regulación de armamentos.