https://dx.doi.org/10.14482/dere.62.222.156
Implementación de los SAAL: un análisis desde la autoría y participación*
The Implementation of SAAL: an Analysis from Authorship and Participation Perspectives
Yonni Albeiro Bermúdez-Bermúdez
Abogado de la Universidad La Gran Colombia. Especialista en Derecho Penal de la Universidad del Rosario. Magister en Derecho Procesal Penal de la Universidad Militar Nueva Granada y candidato a doctor de la Universidad de Lleida. Profesor de pregrado e investigador de la Facultad de Derecho de la Escuela Militar de Cadetes General José María Córdova.
Yonni.bermudez@esmic.edu.co https://orcid.org/0000-0001-8766-6953
Resumen
Los Sistemas de Armas Autónomas Letales (SAAL) son sistemas militares diseñados para operar de manera autónoma, sin la intervención humana directa y con la capacidad de seleccionar y atacar objetivos en el campo de batalla. El desarrollo y uso de los SAAL plantea importantes debates legales, especialmente sobre la responsabilidad penal por los daños causados. Por este motivo, es necesario determinar las consecuencias jurídico-penales del uso de los SAAL en el proceso de selección de objetivos militares al momento de desarrollar una operación militar. A través de una metodología descriptiva se puede afirmar que los SAAL perfectamente pueden llegar a cometer algún ataque indiscriminado en cual iría en contra del DIH lo cual se puede configurar en un crimen de guerra.
Palabras clave
Inteligencia artificial, DIH, intencionalidad, autoría, participación y crímenes.
Abstract
The Lethal Autonomous Weapons Systems (LAWS) are military systems that are designed to operate autonomously, without direct human intervention, and with the ability to select and attack targets on the battlefield. The development and use of LAWS raises important legal debates, especially regarding criminal liability for damage caused. For this reason, it is necessary to determine the legal-criminal consequences of the use of LAWS in the process of selecting military objectives when developing a military operation. Through a descriptive methodology, it can be stated that LAWS can perfectly commit an indiscriminate attack that would go against International Human Law, which can be regarded as a war crime.
Keywords
Artificial intelligence, IHL, intentionality, authorship, participation and crimes.
Fecha de recepción: 22/06/2023
Fecha de aceptación: 12/08/2023
INTRODUCCIÓN
Unos años atrás la inteligencia artificial (en adelante, IA) parecía ser un tema ajeno a nuestra realidad. Hoy en día, una gran parte de la población mundial emplea la IA para resolver problemas de la vida cotidiana; esto ha generado un mayor ahorro de tiempo y ha facilitado varios procesos diarios. Sin embargo, la IA plantea una serie de desafíos éticos, culturales y jurídicos para las sociedades modernas que se encuentran en una constante evolución. Ajena a esta realidad no se encuentran las operaciones militares, pues los escenarios clásicos en donde se desarrollaban las hostilidades también han evolucionado, lo que ha permitido que la IA también comience a permear varios sectores y comience a tener un papel trascendental en el desarrollo de las confrontaciones nacionales e internacionales.
Para definir la IA se debe partir de que es un concepto polisémico, pues se han propuesto varias definiciones que buscan dar una definición concreta, sin embargo, no existe un consenso sobre alguna postura. Partiremos de comprender la IA como la "Capacidad de la máquina para autoaprender con algoritmos, mediante la estructuración de informaciones" (Aluja, 2020, p.4). Estas máquinas se encuentran ubicadas en una posición privilegiada respecto de los humanos, pues la capacidad de procesamiento de información, la velocidad en el tratamiento de datos, la toma de decisiones, entre otras acciones, supera las capacidades de los seres humanos. Si bien es cierto, estas tareas antes eran desarrolladas por humanos, hoy en día se encuentran en manos de máquinas que por medio de algoritmos las pueden ejecutar sin mayor problema.
Estas decisiones se han trasmitido también al escenario de las hostilidades militares, especialmente en la delimitación de objetivos militares, de ahí que resulte necesario iniciar una investigación en torno a verificar si la intencionalidad es un elemento que debe ser tenido en cuenta al momento de investigar los crímenes de guerra (en adelante, CG) cometidos por Sistemas de Armas Autónomas Letales (en adelante, SAAL) al momento de seleccionar un objetivo militar, so pena de un uso ilegitimo de la fuerza que termine en un ataque indiscriminado en el que resulte afectada la población civil y se pueda investigar como un crimen de guerra que va en contra de los Derechos Humanos (en adelante, DH) y el Derecho Internacional Humanitario (en adelante, DIH).
METODOLOGÍA
Este estudio parte de una realidad que se vive actualmente debido al creciente desarrollo de la inteligencia artificial, especialmente en el uso de los Sistemas de Armas Autónomas Letales (SAAL), que son sistemas militares diseñados para prescindir de la intervención humana. El diseño de esta investigación corresponde a un estudio de carácter descriptivo con un enfoque doctrinal.
Los materiales utilizados en esta investigación fueron bibliográficos, por cuanto se revisaron fuentes de información como documentos físicos y digitales, bases de datos, revistas indexadas, trabajos académicos, disposiciones legales y jurisprudenciales de cortes internacionales. Entre los métodos utilizados en esta investigación se destaca el método deductivo. Asimismo, se utilizó el método dogmático jurídico para analizar las diferentes decisiones de los tribunales internacionales.
Interrogante y justificación
Para cumplir el anterior objetivo se diseñó la siguiente pregunta de investigación: ¿Cuáles son las consecuencias jurídico-penales del uso de los SAAL en el proceso de selección de objetivos militares al momento de desarrollar una operación militar? A partir de este contexto se realizó un estudio de fuentes de información primarias y secundarias con el fin de recopilar información e identificar posibles soluciones a la controversia en torno a la atribución de responsabilidad de los SAAL en el contexto del derecho penal, cuando estos cometen errores al momento de seleccionar los objetivos militares y como consecuencia cometen CG en contra del DIH.
Los resultados demuestran que los SAAL perfectamente pueden llegar a cometer algún ataque indiscriminado en contra de la población civil, lo cual se enmarcaría en una grave violación del DH y DIH, pues estaríamos en presencia de lo que se ha denominado un CG. Ante estas posibles consecuencias devastadoras en contra de la población civil, los ordenamientos nacionales e internacionales siempre han requerido como un elemento subjetivo del tipo penal la intencionalidad para este tipo de delitos graves, de ahí que, cuando se utilizan SAAL, no se puede evidenciar este elemento y se va a requerir de una correcta adecuación de la legislación que pueda ajustarse a la nueva realidad en que se desarrollan las operaciones. A su vez, las formas de autoría y participación previstas en la legislación penal deben iniciar un proceso de transformación que permita abarcar estos nuevos escenarios delictivos.
APROXIMACIÓN A LOS RIESGOS QUE IMPLICA LA INTEGRACIÓN DE LOS SAAL EN LA SELECCIÓN DE OBJETIVOS LEGÍTIMOS MILITARES EN EL MARCO DE LOS DH Y DIH
Los desafíos que trae consigo la cuarta revolución industrial fueron objeto de debate en la Asamblea Anual número 46 del Foro Económico que se llevó a cabo enero de 2016 en Davos (Suiza); este dejó como resultado el informe denominado The Future of Jobs Employment, Skills and Workforce Strategy for the Fourth Industrial Revolution. Esntre las principales conclusiones a las cuales se llegaron se resaltó que, en materia de nuevas tecnologías, estas estarán en la capacidad de determinar el futuro del mundo en los próximos años. Sin embargo, este informe del Foro Económico Mundial fue un llamado de alerta sobre el futuro impacto que pueden tener estas nuevas tecnologías en diferentes escenarios, como los asociados a las tareas administrativas, del hogar, de fabricación tradicional, etc.; estos espacios, controlados en un primer momento por los seres humanos, serán, cada vez más, reemplazados por una mayor automatización que se está produciendo a toda velocidad.
Estas nuevas tecnologías no fueron ajenas a la realidad de las operaciones militares que se desarrollan hoy en día en todo el mundo; de ahí que con el avance de la tecnología, y especialmente con la aparición de la IA, se hayan logrado desarrollar sistemas que tengan la capacidad de toma de decisiones, las cuales antes le correspondían a los seres humanos, con los cuales se busca minimizar los errores que estos ocasionaban en momento de decidir; un ejemplo de este avance son los SAAL, los cuales vienen siendo empleados en el desarrollo de las hostilidades militares. Sin embargo, estos pueden llegar a presentar fallas y llegar a cometer determinados comportamientos que en las sociedades posindustriales son denominadas conductas punibles, las cuales deben ser objeto de reproche por parte del derecho penal.
En la Convención sobre Ciertas Armas Convencionales (en adelante, CCAC), organizada por la Comité Internacional de la Cruz Roja (en adelante, CICR) y llevada a cabo en Ginebra en abril de 2016, participaron expertos en SAAL, quienes analizaron los avances tecnológicos actuales en el ámbito militar. En esa oportunidad se logró por parte de la CICR arribar a una concepción amplia de los SAAL, logrando abarcar algunos sistemas de armas existentes. El CICR afirmó que SAAL son:
Cualquier sistema de armas con autonomía en sus funciones críticas. Es decir, un sistema de armas que puede seleccionar (es decir, buscar o detectar, identificar, rastrear, seleccionar) y atacar (es decir, usar la fuerza contra, neutralizar, dañar o destruir) objetivos sin intervención humana. (CICR, 2016, p.1)
Sin embargo, existen definiciones más reducidas que buscan diferenciar entre sistemas automatizados y autónomos, tomando como punto de partida el tipo de arma.
Un sistema automatizado se define como aquel que ejecuta una serie de órdenes o comandos previamente programados, en consecuencia, solo está en capacidad de ejecutar una secuencia de comandos, los cuales son denominados algoritmos, los cuales, si se llegan a cumplir, darán como resultado una serie de respuestas conocidas y estables. Estos sistemas automatizados son utilizados en escenarios militares en su mayoría para la defensa; es así que encontramos sistemas de defensa activa como los denominados C-RAM13 (Counter Rocket, Artillery and Mortar), los misiles antibuques Close-in Weapon Systems (CIWS) y sistemas de defensa aérea como lo son los Iron Dome. En cambio, un sistema autónomo no estaría solo en la capacidad de ejecutar funciones automatizadas, sino que sería capaz de tomar decisiones propias, como seria la selección de objetivos militares y atacarlos (Pellerano, 2019).
La doctrina también ha realizado sus acercamientos para lograr definir qué son los SAAL; es así como Agreda (2021) señala que estos sistemas son aquellos que se encuentran en la capacidad de "identificar, seleccionar y acometer un objetivo sin que medie control humano significativo" (p.129). Por su parte, Gutiérrez y Cervell (2013) afirman que los SAAL son aquellos sistemas "capaces de llevar a cabo una misión con intervención humana limitada o aún sin ella" (p.2 9). Otro sector afirma que los SAAL son programables, pero que "una vez activadas o lanzadas al entorno, no necesitan de la intervención humana para seleccionar y atacar blancos" (Pérez, 2020, p. 459). A pesar de los diferentes acercamientos de la doctrina, cabe resaltar que el común denominador en las definiciones es que los SAAL están en capacidad de lograr causar daños letales en sus objetivos propuestos de forma autónoma, es decir, con la erradicación total o parcial de la participación humana, lo que ha sido denominado por la comunidad internacional como el Control Humano Significativo (Horowitz y Scharre, 2015).
En cuanto a los objetivos que estos sistemas pueden llegar alcanzar, para el caso objeto de estudio son militares, los cuales han sido definidos como objetos o blancos que contribuyen al cumplimiento de las funciones militares del enemigo; de ahí que, cuando se logra su destrucción total o parcial, se consuma una ventaja legitima para el adversario (Goldman, 2000). Asimismo, se ha señalado que los objetivos militares son bienes que por sus características, ubicación y propósito permiten el desarrollo eficaz de una acción militar; de ahí que, cuando se logra su neutralización, ofrezca una ventaja; sino se logra la ventaja deseada, no se estará en presencia de un objetivo militar legítimo (Ejército Nacional de Colombia, 2017).
En toda operación militar que se lleve a cabo en medio de las hostilidades, independientemente de su contexto nacional o internacional, se debe tener en cuenta las reglas básicas de la guerra; para tal fin debemos remitirnos principalmente a lo establecido por la comunidad internacional por medio de los Convenio de Ginebra de 1949 (en adelante, CGIN), los cuales establecen unas pautas básicas de obligatorio cumplimiento para el correcto desarrollo de las confrontaciones. Es así como desde este momento podemos afirmar que los SAAL deben estar en la capacidad de cumplir con las reglas preestablecidas so pena de convertirse en sistemas que van en contra del DIH y los DH. Lo cual traería como consecuencia la imposibilidad de utilizar estos métodos o medios para lograr la ventaja militar deseada en medio de un conflicto armado.
Como los SAAL se hallan plenamente sometidos a los postulados del DIH, resulta necesario analizar los requisitos exigidos por el DIH para avalar la utilización de estos sistemas de armas en las diferentes operaciones militares. Desde este punto de vista, para que los SAAL se consideren armas legitimas conforme al DIH se deben aplicar los principios que establecen los CGIN. Tales principios son limitación, necesidad militar, proporcionalidad, distinción, precaución y humanidad. El primero de estos hace referencia a que no es ilimitada la potestad que tienen los adversarios en conflicto a elegir los medios, en este caso, hace referencia a las armas que se emplean en las confrontaciones; de ahí que algunas sean consideradas ilícitas por las graves afectaciones que pueden llegar a causar. A su vez, este principio también se aplica al momento de emplearlas, pues existen modos que están permitidos por el DIH y otros que están restringidos por ser contrarios al DIH.
En relación con el principio de necesidad, resulta improcedente causar al adversario algún daño desproporcionado en comparación con el objetivo militar perseguido en el conflicto armado; por este motivo, se busca que los males causados al adversario sean los menores posibles con el fin de conservar un equilibrio legitimo entre la necesidad de la guerra y los postulados humanitarios. Por su parte, el principio de proporcionalidad busca prohibir las armas y los métodos que estén en capacidad de causar graves lesiones en la integridad de los adversarios que participan en el conflicto, los civiles y a sus bienes; daños que van a resultar excesivos respecto de la ventaja militar que se va a obtener prevista al momento de planear la operación. A partir de este principio resulta contrario al DIH lanzar ataques cuando se esté en capacidad de prever que van a causar graves daños a la salud, vida e integridad física de la población civil, como sería causar muertes y heridos innecesarios o que estos superen la ventaja militar que se desea obtener (Sticca, 2017).
El principio de distinción establece una de las principales reglas bajo las cuales se deben desarrollar las hostilidades militares, pues este afirma que las partes en confrontación deben estar en capacidad de lograr distinguir en todo momento, en el desarrollo de las hostilidades, a la población de los combatientes. Por esta principal razón, los ataques nunca pueden ir dirigidos en contra de los civiles que no interviniesen en las confrontaciones, es decir, aquella población que es ajena a las hostilidades (Bernal-Castro y Moya-Vargas, 2018). A su vez, el principio en mención está muy ligado con el de precaución, pues este lo que busca en medio de un conflicto armado es que las partes tomen las precauciones debidas al momento de emplear los medios y métodos que se van a utilizar en la guerra, para de esta forma lograr evitar o, en últimas, reducir al máximo el número de afectados, muertes y daños en bienes que se pudieran causar de manera incidental (Salmon, 2016).
En cuanto al principio de humanidad, que resulta ser transversal para los principios antes señalados, establece que se deben tratar con respeto en todo momento a las personas que no participan activamente en las hostilidades en pro de respetar y materializar la dignidad humana; pero este principio no solo aplica para la población civil, sino que permite una interpretación más amplia, bajo la cual se resguarda a los que hayan entregado las armas, los combatientes que se hayan apartado de las hostilidades por motivos de afectaciones a la salud, lesiones físicas y/o psicológicas, detenciones o cualquier otra causa que genere imposibilidad de seguir participando en las hostilidades. Lo que se busca con el cumplimiento de este postulado básico por parte del DIH es que los adversarios en conflicto puedan desarrollar las confrontaciones sin ser sometidos a cualquier forma de humillación, tratos inhumanos o tortura a manos del adversario (Díaz, 2009).
A pesar de existir los anteriores límites fijados por el DIH para el empleo de los SAAL en medio de las operaciones militares, desde sus inicios se han planteado posturas a favor y en contra de su desarrollo; y más específicamente, sobre su empleo en medio de un conflicto armado. Pues al dejar en manos de un sistema la toma de decisiones tan complejas como resultaría causar la muerte a una persona, la identificación de objetivos militares legítimos, el cumplimiento de las normas básicas del DIH, la afectación de la paz y la seguridad, entre otros escenarios que han sido objeto de preocupación y debate. Resulta acorde con los objetivos propuestos en este articulo lograr aproximarse a los posibles riesgos que traería consigo el empleo de los SAAL en las operaciones militares, especialmente cuando estos se utilizan para la selección de objetivos militares y posteriormente atacarlos sin el control de los seres humanos.
Uno de los riesgos que se asocian al empleo de los SAAL en la selección de objetivos militares recae en la posibilidad de que estos sistemas puedan ser objeto de algún ciberataque, el cual termine empleando el sistema para la comisión de delitos en contra de la población civil, causar daños inhumanos en el desarrollo de las hostilidades o afectar bienes sujetos a la protección del DIH. Sin lugar a duda, esta posibilidad cada día toma más fuerza, pues el número de ciberataques que han sufrido últimamente las infraestructuras críticas del Estado permiten inferir razonablemente que los SAAL pueden ser objetos en un fututo de estos ataques, lo cual traería consecuencias catastróficas para los habitantes del planeta Tierra. A su vez, por la particularidad de estos ataques resulta complejo lograr identificar los presuntos responsables del mismo, lo cual generaría un manto de impunidad.
Otro de los riesgos que puede ocasionar el empleo de los SAAL en el desarrollo de las hostilidades se relaciona con la alta probabilidad que estos sistemas no logren dar aplicabilidad a los postulados básicos del DIH, entre estos el de distinción y proporcionalidad. En cuanto al momento de realizar la selección y atacar un objetivo militar que se presume legitimo conforme las costumbres de la guerra, termine siendo totalmente desproporcional el ataque, pues la ventaja militar que se consiguió no se logra justificar en comparación con los daños que se pueden generar en contra de la población civil o los bienes protegidos. También, se puede presentar el caso en el que no se logre distinguir a la población civil de los adversarios que participan en las hostilidades y se termine ejecutando un ataque en contra de personas o bienes protegidas por el DIH, lo cual terminaría siendo una grave violación a los compromisos internacionales adquiridos por las partes en conflicto.
Ahora bien, un sector de la doctrina afirma que los SAAL se diseñan con sensores de distinción y algoritmos de proporcionalidad que les permiten reducir ciertos riesgos, como: (i) la discriminación de objetivos civiles de militares y (ii) reducir los daños colaterales (Block, 2017). Asimismo, se señala que los seres humanos toman decisiones de acuerdo con sus emocionales, lo cual ocasiona que sean propensos a cometer atrocidades (Del Re, 2017). Sin embargo, otro sector afirma que sin la cualidad que poseen los humanos de valorar las intenciones de otro individuo se podrían llegar a cometer daños por los SAAL, pues estos no están en capacidad de determinar estas intenciones y pueden cometer errores devastadores para la sociedad (Docherty, 2012).
La atribución de responsabilidad penal por las eventuales vulneraciones del DIH cometidas a través de los SAAL es sin lugar a duda, uno de los mayores interrogantes que preocupa a la academia, y principalmente a los operadores judiciales, pues ante esta nueva realidad se debe revisar si el ordenamiento jurídico vigente interno está preparado para afrontar un caso en el que se vean inmersos los SAAL por la presunta comisión de un delito que vaya en contra del DIH. Sin lugar a duda, se debe realizar un estudio a profundidad del ordenamiento que permita realizar una interpretación armónica y coherente de las normas y se pueda llegar a una conclusión plausible a la luz del ordenamiento vigente. Uno de los principales problemas objeto de estudio en relación con la atribución de responsabilidad a los SAAL va ligado con la intencionalidad que exigen este tipo de graves violaciones a los postulados del DIH.
LA "INTENCIONALIDAD" COMO ELEMENTO DE ENJUICIAMIENTO DE LOS CG A LA LUZ DE LAS DECISIONES DE LA CORTE PENAL INTERNACIONAL
El DIH contiene un cuerpo normativo detallado que busca principalmente proteger a las posibles víctimas que puede dejar un conflicto armado; a su vez, establece restricciones a los métodos y medios que se emplean en el transcurso de las hostilidades por los adversarios en medio de una confrontación. También, define mecanismos por medio de los cuales se puede garantizar de forma efectiva el cumplimiento de ese conjunto de normas. Estas normas disponen que los responsables de violaciones graves sean investigados, enjuiciados y castigados por cometer u ordenar cometer violaciones contra el DIH. Por ello, los Estados se encuentran en la obligación de evitar en lo posible las violaciones que van en contra del DIH, y están en la obligación de sancionar con penas ejemplarizantes a los responsables de las más graves atrocidades que se pueden cometer en contra del ser humano, las cuales reciben el nombre de "infracciones graves" y son consideradas a la luz del derecho internacional como los denominados CG.
Los CG son consideradas las primeras manifestaciones de crímenes internacionales, los cuales han estado en una constante evolución conforme como avanza el DIH; es así como se ha definido por la doctrina que este tipo de comportamientos son cometidos durante una contienda armada y van en contra de las principales normas del DIH. Es decir, los CG son toda acción u omisión que se puede llegar a cometer en medio de un conflicto armado, independientemente de que se trate de un conflicto armado internacional (en adelante, CAI) o un conflicto armado no internacional (en adelante, CANI) y que está en capacidad de vulnerar de forma grave una de las normas esenciales del DIH (Martínez, 2015). Por su parte, el CICR establece que "Las violaciones graves del derecho internacional humanitario constituyen crímenes de guerra" (CICR, 2007, p. 643). Hasta este momento una de las características principales de los denominados CG radica en que son comportamiento que se consideran de extrema gravedad.
La gravedad como elemento característico de los CG no es un elemento que corresponde a la naturaleza intrínseca de la conducta humana, es decir, como un elemento de incriminación que deba ser objeto de valoración para atribuir responsabilidad, sino que hace referencia a las consecuencias que el delito pueda tener en la sociedad y, primordialmente, en la magnitud de los daños que pueda ocasionar en el contexto del desarrollo del conflicto armado. De ahí que este elemento de la gravedad obedezca a una latente preocupación que tenía la comunidad internacional respecto de las consecuencias que genera una guerra, como son la tragedia y el horror que puede llegar a causar los conflictos armados para la población en general, especialmente para las personas ajenas a las hostilidades y que no participan en ellas de forma directa.
La definición establecida en líneas precedentes es amplia, pues busca, de cierta forma, abarcar todos los comportamientos graves que van en contra de lo establecido por el DIH, es decir, aquellos bienes jurídicos que el derecho internacional pretende proteger de una lesión o puesta en peligro. Sin embargo, la cuestión sobre si el delito debe ser cometido bajo la modalidad dolosa o culposa no es nada pacífica; de ahí que resulte pertinente realizar una revisión de algunas decisiones de la Corte Penal Internacional (en adelante, CPI) para determinar si este máximo tribunal exige como requisito de los CG que este sea cometido bajo la modalidad dolosa o si, por el contrario, admite la modalidad culposa y de plano la intencionalidad como un elemento subjetivo característico de los CG.
Uno de los casos más recientes objeto de estudio por parte de la CPI obedece al conflicto armado que se desarrolló en el norte de Uganda durante cuatro décadas, lo que lo convierte en uno de los conflictos que más ha perdurado en el tiempo. Los cargos analizados se relacionan con la participación de Dominic Ongwen durante su vinculación al Ejército de Resistencia (LRA) por los hechos que tuvieron lugar en el norte de Uganda entre el 1 de julio de 2002 y 31 de diciembre de 2005. En consecuencia, fue investigado por (i) crímenes cometidos en contra de cuatro campamentos de desplazados internos; (ii) delitos de violencia sexual y de género perpetrados en contra siete mujeres; y (iii) reclutamiento de niños menores de quince años y su posterior uso en medio de las confrontaciones internas.
La CPI logró arribar a la conclusión de que por la conducta que asumió Dominic Ongwen en relación con los delitos cometidos, sólo podrían haber sido cometidos intencionalmente. De ahí que afirme que en la consumación de estos graves atentados en contra de la población civil de Uganda siempre haya existido por parte de este "conocimiento", lo cual significa conciencia sobre las circunstancias o consecuencias del curso normal de los acontecimientos. Salvo disposición en contrario, la CPI señala que los delitos por los cuales fue condenado Dominic Ongwen deben concurrir dos elementos materiales, los cuales son haber sido cometidos con "intención" y "conocimiento". De entrada, la CPI en este primer caso es clara en reconocer que solo se pueden cometer bajo la modalidad de dolo y reconoce que entre los elementos de este se encuentran la voluntad y el conocimiento.
Otro de los casos analizados por la CPI se relaciona con Bosco Ntaganda, perteneciente a la etnia tutsi, a quien se le atribuyeron los cargos ocurridos el 6 de agosto de 2002 al 31 de diciembre de 2003, en la colectividad de Ituri, en la República Democrática del Congo. Durante este intervalo de tiempo cometió ataques en contra de la colectividad Banyali-Kilo aproximadamente entre el 20 de noviembre de 2002 y el 6 de diciembre de 2002 y un ataque en contra de la colectividad Walendu-Djats aproximadamente entre el 12 de febrero de 2003 y el 27 de febrero de 2003. Otro de los cargos que se le atribuyó fue por los delitos cometidos en contra de menores de 15 años, los cuales fueron reclutados para participar en las hostilidades en las filas de la UPC/FPLC.
En esta oportunidad, la CPI evaluó si Bosco Ntaganda tuvo la intención de causar las conductas que se le atribuyeron y si era consciente de las posibles consecuencias de su actuar criminal en contra de la población que no participaba en el conflicto interno que se llevaba a cabo para esa época en el Congo. Es decir, la CPI analizó si estos CG se cometieron bajo la modalidad dolosa o, en su defecto, si los cargos por los cuales estaba siendo investigado admitían otra modalidad. De los medios de prueba debidamente allegados y con base en los hechos demostrados en el proceso se logró verificar que en el desarrollo de los ataques siempre existió una clara intención, pues el número de repeticiones de estos actos en contra de la población civil se convirtió en un factor circunstancial que logró demostrar el estado de ánimo de Bosco Ntaganda. A su vez, se logró demostrar cómo con su presencia, acciones y directivas estableció cómo se debían comportar las tropas en el campo de batalla.
En cuanto a los delitos de reclutamiento en contra de menores de 15 años, se logró demostrar que este frecuentaba realizar visitas a los campamentos donde se encontraban los menores de edad. Asimismo, algunos de estos aseguraron su protección, mientras que otros participaron en operaciones militares que él autorizaba. En esta oportunidad, la CPI habla de la presencia de uno elementos subjetivos del delito como lo es el dolo o la intención del agente en la consumación del CG. En consecuencia, cualquier umbral más bajo, como el dolo eventual, imprudencia y negligencia, es insuficiente para establecer la "intención" y el "conocimiento" en relación con los hechos; de ahí que los CG solo se puedan cometer bajo la modalidad de dolo, siempre y cuando se verifique la presencia de sus elementos subjetivos de intención y conocimiento.
En el caso de Jean-Pierre Bemba Gombo, quien fue presidente del Mouvement de libération du Congo (MLC), en el cual se desempeñaba como el comandante de su rama militar, denominada la Armée de libération du Congo (ALC). Se le relaciona con los cargos que ocurrieron en el periodo del 26 de octubre de 2002 al 15 de marzo de 2003 en el territorio de la República Centroafrica-na. En este se le atribuyó responsabilidad penal por haber cometido crímenes de lesa humanidad y CG; los principales hechos que se le atribuyen están los ataques sexuales en contra de mujeres, saqueos y asesinatos en contra de civiles. En esta oportunidad, la CPI analizó los elementos mentales de los delitos para lograr arribar al conocimiento de que estos se habían cometido con intención, es decir, bajo la modalidad dolosa.
La violación como un CG requiere como prueba más allá de toda duda razonable de que el perpetrador actuó bajo la modalidad dolosa, pues debe probarse que el autor cometió intencional-mente el acto de violación. Es decir, que se debe lograr establecer que el autor tuvo la intención de realizar la conducta con la cual logró que produjera el acceso carnal. En cuanto al requisito de "conocimiento", debe probarse que el sujeto era consciente de que el acto fue cometido por la fuerza, coerción o contra una persona capaz de dar un consentimiento voluntario. Por su parte, en el delito de homicidio como CG se debe demostrar que el autor tuvo la intención de causar la muerte de una o más personas o de que era consciente que las muertes podían ocurrir en el curso ordinario de los hechos. En cuanto a los saqueos, este delito requiere de una intención especial en el sentido de que el autor debe haber tenido la intención de privar al propietario de la propiedad y apropiarse de ella para uso privado o personal.
El caso de Germain Katanga, quien ostentaba la calidad de general de Fuerzas Armadas de la República Democrática del Congo (FARDC), cargo que ocupaba en el momento de su detención, se le relaciona con los cargos que ocurrieron el 24 de febrero de 2003 durante el ataque a Bogoro, un pueblo de Ituri, en la República Democrática del Congo. Entre los delitos que se le atribuyeron se encontraban los CG de homicidio, ataque en contra de la población civil, destrucción de bienes, saqueo y la utilización de niños menores de quince años en las confrontaciones internas.
En esta decisión nuevamente la CPI reitera que los CG en mención solo se pueden cometer bajo la modalidad de dolo, es decir, que debe existir una intencionalidad y conocimiento en el agente al momento de su consumación.
En cuanto a la consecuencia del acto cometido, la CPI prevé dos formas de dolo. La primera aparece cuando se establece que una persona tiene intención de causar una consecuencia, es decir, dolo directo o de primer grado. La segunda forma de intención prevista por la CPI es la conciencia de que el hecho va a ocurrir por el curso ordinario de los acontecimientos, es decir, se está reconociendo el dolo eventual. Así, esta forma de dolo presupone que la persona sabe que sus actos traerán necesariamente una consecuencia, salvo una intervención de un evento imprevisto o inesperado para evitar su ocurrencia. En otras palabras, es casi imposible para el autor imaginar que la consecuencia no ocurrirá. En cuanto al conocimiento, este implica que el sujeto este en la capacidad de dimensionar las consecuencias que ocurrirán en el curso ordinario de los acontecimientos.
El caso de Thomas Lubanga Dyilo provocó una reacción significativa en la comunidad académica, pues se le ha reconocido importancia para el perfeccionamiento del derecho penal internacional por las lecciones que se pueden aprender de este en el trámite de causas complejas. Se le relaciona con los cargos que ocurrieron dentro del periodo principios de septiembre de 2002 hasta el 13 de agosto de 2003 por los delitos de reclutar niños menores de quince años en las FPLC y utilizarlos para participar activamente en las confrontaciones internas. Por medio de esta decisión, la CPI nuevamente revisa si estos CG requieren la intencionalidad; es así como afirma que cuando el acusado trata de convencer a la población civil para que proporcionara comida y hacer que los jóvenes estén disponibles para incorporarse y formarse con el ejército de la UPC/ FPLC, se logra evidenciar una clara intención de reclutar niños menores de quince años.
A su vez, se logró demostrar que el acusado visitó los campos de entrenamiento de la UPC/FPLC, y específicamente en el campamento de Rwampara pronunció un discurso para levantar la moral de los reclutas que incluía a niños menores de 15 años, de ahí que se evidencia el elemento mental de la intencionalidad. En esta importante decisión para la comunidad internacional, la CPI señala que los CG se deben cometer bajo la intención y conocimiento del autor; por esta razón, se puede afirmar que en las diferentes decisiones analizadas de la CPI está solo admite para estos graves atentados en contra de la población civil la modalidad de dolo; de ahí que de manera automática rechaza de plano la comisión de estos delitos bajo la imprudencia o negligencia.
De las decisiones de la CPI se logra evidenciar que todas tienen un punto en común, pues exigen en la realización de los CG que estos se lleven a cabo bajo el knowledge, es decir, debe tener el sujeto conocimiento de la conducta e intención de llevarla a cabo; de ahí que se pueda afirmar que en los CG se exige la intencionalidad como un elemento subjetivo del delito que debe ser valorado. En términos generales, para la configuración de los denominados CG se requiere que estos se lleven a cabo bajo la modalidad dolosa, es decir, que no admiten de modalidad culposa, como lo manifestó la CPI en los casos objeto de estudio.
Entonces, varias han sido las propuestas para atribuir responsabilidad por los daños que pueda cometer un SAAL. Una de estas corrientes propone que el ser humano que tiene bajo su dominio el mando del SAAL debería tener algún grado de responsabilidad por las decisiones de este sistema, del mismo modo que actualmente se considera reprochable la conducta del comandante por las faltas que puedan llegar a cometer sus subordinados en contra del DIH (Margulies, 2016). Ahora bien, otra corriente propone que los SAAL, independientemente si son robots, drones, etc., estos son armas o máquinas de las cuales los Estados que hacen uso de ellas son responsables por los daños causados (Melzer, 2013).
A partir de este contexto resulta necesario analizar si resulta posible aplicar las reglas existentes sobre la autoría y participación en Colombia en torno a la comisión de los CG relacionados con los SAAL. Pues estos sistemas de armas podrían seleccionar y atacar objetivos sin participación humana, de la cual resulta relevante entrar a determinar la responsabilidad penal.
ESTUDIO DE LA AUTORÍA Y PARTICIPACIÓN EN LOS CG COMETIDOS POR LOS SAAL
En virtud de la ratificación del Estatuto de Roma (en adelante, ER) el 6 de enero de 2002, que entró en vigor el 1 de noviembre de este mismo año bajo la ley 742 de 2002, a partir de esta fecha, la CPI adquiere competencia para investigador y condenar los delitos más atroces que ocurran en el territorio colombiano, siempre y cuando el Estado de Colombia no haya iniciado las respectivas investigaciones de los presuntos responsables de estos graves atentados o, habiéndolas iniciado, estas no se ajusten a los lineamientos definidos por los estándares internacionales. Sin embargo, Colombia adoptó una cláusula de exclusión de competencia de la CPI sobre los CG por un lapso de 7 años; de ahí que los CG que se comentan desde la entrada en vigor del ER hasta el 1 de noviembre de 2009, la CPI no podrá conocer de los CG que ocurran en el territorio colombiano, quedando esta potestad en la legislación nacional.
Colombia incorporó de manera parcial las disposiciones sustanciales del ER en el Código Penal (en adelante, CP); de ahí que se haya establecido un título denominado "Delitos contra personas y bienes protegidos por el DIH", dentro del cual se establecen como CG las Infracciones graves de los Convenios de Ginebra de 12 de agosto de 1949, violaciones graves de las leyes y usos aplicables en los conflictos armados de índole no internacional e internacional y las violaciones graves del artículo 3 común a los cuatro Convenios de Ginebra, entre los cuales encontramos la utilización de medios y métodos de guerra ilícitos; tratos inhumanos y degradantes y experimentos biológicos en persona protegida; la toma de rehenes, entre otros.
Desde que comenzó el debate sobre el empleo de los SAAL se han logrado identificar riesgos reales como el empleo indebido de estos sistemas por grupos armados al margen de la ley, los cuales por intermedio de los SAAL logren poner en grave peligro la seguridad nacional e internacional. A partir de este escenario, resulta necesario entrar a determinar si la legislación penal interna de Colombia está preparada para hacer frente a estas nuevas realidades en que se puedan desarrollar las hostilidades en un futuro cercano e imponer las respectivas sanciones cuando los SAAL cometan algún CG. Uno de los principales puntos neurálgicos de debate se relaciona con la autoría y participación; esto es, de presentarse un hecho delictivo en el cual se vea inmerso un SAAL en la comisión de un grave CG, en qué calidad este puede responder o, en su defecto, quién respondería penalmente por este hecho, a saber: el fabricante, el proveedor, etc.
En la legislación interna se dejó previamente definido por el legislador que la conducta punible se puede llegar a cometer bajo tres modalidades: dolosa, culposa y preterintencional. En cuanto a la calidad que se le puede atribuir al victimario de la conducta, se precisó que existen dos grupos: los autores y los partícipes. Entre los autores se ubican el autor inmediato, el autor mediato, la coautoría, en su clase de propia e impropia, y el que actúe en representación de otro, esto según lo contemplado en el artículo 29 del CP. En cambio, los partícipes son el determinador y el cómplice, en los términos del artículo 30 del CP. No obstante, al final del citado artículo, el legislador consagró una forma bajo la cual se puede participar en la conducta punible, la cual fue denominada "el interviniente".
El autor inmediato, en los términos del artículo 29 del CP, se presenta cuando este lleva a cabo la ejecución de la conducta por sí mismo descrita en el tipo penal, es decir, cuando este ostenta las riendas de la conducta punible. En contraposición, aparece la autoría mediata, pues esta se presenta cuando se utiliza a otro como medio para cometer el delito o en los términos del artículo en mención como "instrumento" para la ejecución de la conducta punible. Entre la legislación penal interna de Colombia se partió de la hipótesis que no todos los delitos son cometidos por solo una persona, sino que pueden llegar a concurrir varias, de ahí que se haya establecido la coautoría. En los términos del artículo 29 del CP, estamos en presencia de una coautoría cuando existe o media un acuerdo previo a la comisión del delito, cada uno de los que interviene en la ejecución de la conducta punible ostenta un rol dentro del objetivo común que en este caso sería el delito y el aporte que cada uno realice debe tener cierto grado de importancia.
A pesar de que expresamente pareciera que el legislador no hubiese contemplado la coautoría propia, el desarrollo doctrinario y jurisprudencial han establecido que esta se presenta cuando varios sujetos llevan a cabo en un mismo momento el verbo rector descrito en el tipo penal. En cuanto a la última forma de autoría consagrada en el inciso final del artículo en mención, esto es, al actuar por otro, esta forma de autoría se presenta cuando una persona actúa en representación de una persona jurídica y/o natural, es decir, en nombre de la representada puede llegar a cometer una conducta punible descrita en la norma, de las cuales pueden ser delitos comunes.
Dentro de los partícipes se encuentra consagrado el determinador y el cómplice. El primero se encuentra en la capacidad de generar en otro la idea criminal de cometer una conducta punible. Sin embargo, no solo basta con incitar a cometer un delito, sino que debe estar en la capacidad de acompañarlo a que cometa esta conducta contraria a la ley. Por su parte, el cómplice es aquel sujeto que presta una ayuda, bien sea previa a la realización de la conducta punible o posterior. Dentro de la revisión preliminar a las calidades bajo las cuales se puede participar en la conducta punible, no existe figura alguna a partir de la cual se le pueda endilgar responsabilidad penal a los SAAL. Sin embargo, se puede proponer una regulación para la IA a partir del ordenamiento y lograr dar un sentido armónico al derecho penal vigente en Colombia.
Partimos de considerar que los SAAL, al no estar permeados de la natural subjetividad que identifica a los seres humanos, es decir, la intencionalidad como elemento subjetivo del tipo penal, existe un alto grado de probabilidad que algún humano le proporcione a los SAAL información inoportuna, inadecuada e ilegal y sean programados estos sistemas para cometer CG en contra de personas y bienes protegidos por normas internacionales y nacionales. Esta es, sin lugar a duda, una de las principales barreras que se puede presentar al momento de querer reconocer como sujetos de responsabilidad penal a la IA, y especialmente a los SAAL, cuando cometen graves CG, pues este sería el primer elemento necesario para debatir sobre la probable responsabilidad de la IA en materia penal.
A partir de lo antes mencionado se evidencia una necesaria y obligada actualización de la norma penal ante las nuevas demandas de las nuevas tecnologías en un mundo globalizado, donde ante la imposibilidad de atribuir responsabilidad penal de forma directa a la IA, es necesario explorar otras posibilidades para no generar impunidad cuando se utilicen estos sistemas para cometer graves atentados; de ahí que a la luz del artículo 29 del CP ya existe la posibilidad de que una persona pueda ser responsable penalmente si esta utiliza a otra como instrumento (autoría mediata) o actuando en nombre de otra (actuar por otro), siempre y cuando haya logrado iniciar actos ejecutivos o consumativos para la comisión de una conducta punible.
La autoría mediata sería aplicable cuando se utilicen los SAAL para la selección de objetivos militares y se terminen cometiendo CG; en este caso, perfectamente un ser humano puede emplear un SAAL como instrumento para cometer algún CG en medio de las hostilidades. Al haber tenido la posibilidad el ser humano de diseñar y/o programar un SAAL para que este lleve a cabo una conducta punible, este sería un autor mediato, pues se estaría valiendo de otro, que para el caso sería un SAAL. Ante la imposibilidad de atribuir responsabilidad al instrumento por una causal de ausencia de responsabilidad penal o atipicidad, en este caso la falta del elemento subjetivo que requieren los CG, que sería el dolo, como se señaló en líneas precedentes, no es razón suficiente para generar impunidad, pues por intermedio de la autoría mediata resulta viable atribuir responsabilidad al hombre de atrás, que sería la persona que diseñe o programe un SAAL para cometer algún delito.
Una aproximación similar para lograr atribuir responsabilidad sería el actuar por otro; en este caso resulta necesario reconocerle a la IA la calidad de una persona jurídica. Con este reconocimiento, resulta viable que cuando un SAAL actúa en nombre de una persona natural o jurídica se le pueda atribuir responsabilidad penal. Si bien es cierto, estas son aproximaciones que considera pertinentes el autor para suplir los vacíos normativos que se pueden llegar a presentar en un futuro, sí es necesario que se comiencen a hacer modificaciones a la política criminal y normati-vidad, que permitan en un futuro cercano, cuando se presente algún hecho similar, imponer las sanciones respectivas en contra de los presuntos responsables de estos delitos.
Sin embargo, es necesario tener en cuenta que existen desafíos teórico-prácticos para lograr imputar un CG causado por un SAAL a la luz del derecho penal internacional. Pues existen tres bases para atribuir responsabilidad, a saber: (i) un vínculo causal entre el acto de un individuo y el resultado, (ii) un deber legal de actuar o abstenerse de un acto, y (iii) un deber moral de actuar o abstenerse de realizar un acto (Krupiy, 2018). A pesar de lo complejo que resultaría en la práctica demostrar este vínculo con los SAAL, este hecho no puede quedar impune; de ahí que exista una fuerte postura en torno a que la responsabilidad penal la debe asumir el individuo que programa el sistema, el encargado de la custodia y/o uso del SAAL, o, en su defecto, el diseñador o el fabricante (Noone y Nadia,2015; Marauhn, 2014).
Reconocerle personalidad a la IA sería uno de los primeros pasos que se deben dar en Colombia, esto con la finalidad de lograr atribuir responsabilidad penal. Si bien es cierto, es un tema que actualmente genera bastante polémica y discusión en varios sectores, debemos dar este primer paso para lograr articular nuestro ordenamiento jurídico y cerrar las lagunas jurídicas que se puedan llegar a presentar cuando estos hechos ocurran. Para este tipo de situaciones en las que se pueden llegar a ver inmersos daños en la población civil, es necesario adoptar medidas previas y no esperar que los daños se consumen para adoptar medidas que resarzan posteriormente los daños causados.
La anterior propuesta es adecuada para los sistemas automatizado en los cuales el humano introduce algoritmos en los SAAL y debe responder por los daños que estos causen. Sin embargo, a esta misma postura no se puede arribar para los sistemas autónomos, pues como se señaló atrás, estos sistemas sí pueden llegar a gozar de autonomía y toma de propias decisiones. Ante la falta de reconocimiento de personalidad jurídica a la IA, es imperiosa la regulación penal que supla estos vacíos legales que se pueden llegar a presentar en un futuro cercano, cuando se logren desarrollar sistemas autónomos que estén en capacidad de seleccionar objetivos militares y atacarlos sin intervención del humano.
CONCLUSIONES
El empleo de la IA en las hostilidades es una realidad que se vive hoy en día y de la cual no nos podemos alejar. Esta ha traído consigo grandes avances para los seres humanos, pero a su vez ha traído grandes interrogantes sobre las consecuencias negativas que pueda ocasionar en contra de la población civil. Uno de los aspectos más neurálgicos y de debate se relaciona en medio de los conflictos bélicos nacionales o internacionales que se puedan presentar en un futuro cercano, pues el empleo de los SAAL en medio de la selección de objetivos para posteriormente ser atacados puede tener consecuencias nefastas para la población, cuando estos sistemas terminan cometiendo CG. De ahí que surge una necesidad de determinar responsabilidad penal de estos sistemas.
La atribución de responsabilidad penal por las eventuales vulneraciones del DIH cometidas a través de los SAAL es, sin lugar a duda, uno de los mayores interrogantes que ha generado discusión, pues ante esta nueva realidad se debe revisar si el ordenamiento jurídico vigente interno está preparado para afrontar un caso en donde se vean inmersos los SAAL por la presunta comisión de un delito que vaya en contra del DIH. Tomando como punto de partida los pronunciamientos de la CPI se arribó a la conclusión de que los CG para su consumación requieren de un elemento subjetivo como lo es la intencionalidad; en este escenario, los SAAL carecen de este elemento subjetivo, por tal razón no podrían cometer este tipo de delitos, lo cual puede llegar a generar impunidad.
Una aproximación a la autoría y participación para lograr encontrar un sentido armónico y que estos graves atentados en contra del DIH no queden en la impunidad cuando se empleen los SAAL evidencia que nuestro ordenamiento jurídico no está preparado para afrontar estos nueves escenarios en los cuales se pueden desarrollar las operaciones militares. Pues una vez revisada la legislación interna de Colombia, especialmente en el artículo 29 del CP, no existe una calidad bajo la cual se le pueda atribuir responsabilidad directa a los SAAL. Sin embargo, aparece la posibilidad de atribuir responsabilidad penal a quien utilice a otro como instrumento o actúe en nombre de otro, pero esta solución se podrá emplear en sistemas automatizados más no en sistemas que gocen de total autonomía.
Desde que se comenzaron a diseñar, construir y poner en funcionamiento los SAAL se han logrado identificar riesgos reales sobre el empleo de estas nuevas tecnologías, pero lo que más preocupa a los Estados es que estos sistemas sean utilizados de manera indebida por grupos armados al margen de la ley, los cuales por intermedio de los SAAL puedan poner en grave peligro la seguridad nacional e internacional. Ante el inevitable hecho de que los SAAL pueden llegar a cometer CG al momento de seleccionar objetivos militares y atacarlos, resulta importante que se le reconozca personería jurídica a la IA con el fin de lograr adecuar a los SAAL, especialmente a los sistemas autónomos, en una de las formas en que se puede participar en un comportamiento típico descrito en la norma.
Esto con la finalidad de suplir el vacío jurídico que ha traído consigo la cuarta revolución industrial, la cual no debe ser satanizada sino, por el contrario, debe ser vista como una oportunidad de mejorar; por lo tanto, debemos comenzar a preparar a la justicia especialmente al derecho penal ante las nuevas demandas de las sociedades posindustriales. Pues está demostrado que La IA puede desempeñar un papel importante en la automatización de tareas complejas de forma autónoma, lo cual trae como consecuencia que se minimicen los riesgos y se logre aumentar la eficiencia en las operaciones militares. No obstante, es fundamental regular y establecer límites claros en el uso de la IA en contextos militares, para garantizar su aplicación responsable.
Mientras no se adopte una legislación fuerte en torno al uso de los SAAL, se debe partir del presupuesto que se debe responsabilizar a un ser humano cuando se violan los principios del DIH; de ahí que la investigación deberá determinar si el daño causado por el SAAL de culpa del humano que empleó el SAAL o el programador que lo diseñó, pues este debe garantizar un correcto desarrollo (Del Re, 2017). Es decir, alguno de los anteriores deberá asumir la responsabilidad dolosa o culposa, pero esta responsabilidad no encajara fácilmente en el DIH. De manera similar, resulta poco probable que los Estados acepten su responsabilidad por una violación del DIH (Gerry, 2016).
* Este artículo es resultado de la investigación de la Facultad de Derecho vinculada al proyecto "Inteligencia artificial y Derecho Militar", del Grupo de investigación en Ciencias Militares de la Escuela Militar de Cadetes General "José María Córdova" (ESMIC).
REFERENCIAS
Aluja Gil, J. (2020). De la razón artificial a la inteligencia artificial. Encuentros multidisciplinares, 22(64), 1-10.
Bernal-Castro, C. y Moya-Vargas, M. (2018). Principios del derecho internacional humanitario (DIH). Editorial Universidad Católica de Colombia.
Block, J. (2017). A laws of war review of contemporary land-based missile defence system 'Iron Dome'. Scientia Militaria - South African Journal of Military Studies, 45(2). https://doi.org/10.5787/45-2-1207
Pérez, J. (2020). Debate internacional en torno a los sistemas de armas autónomos letales. Consideraciones tecnológicas, jurídicas y éticas. Revista general de marina, 278, 457-469.
Comité Internacional de la Cruz Roja (CICR). (2007). El derecho internacional humanitario consuetudinario Volumen I: Normas. Centro de Apoyo en Comunicación para América Latina y el Caribe. https://www.icrc.org/es/doc/assets/files/other/icrc_003_pcustom.pdf
Comité Internacional de la Cruz Roja (CICR). (2016). Convention on Certain Conventional Weapons (CCW) Meeting of Experts on Lethal Autonomous Weapons Systems (LAWS). https://www.icrc.org/en/document/views-icrc-autonomous-weapon-system
Del Re, A. (2017). Lethal Autonomous Weapons: Take the Human Out of the Loop. Naval War College Newport United States.
Díaz, P. (2009). Principios fundamentales del derecho internacional humanitario. Revismar, 230 - 238.
Docherty, B. (2012). Losing humanity: The case against killer robots. International Human rights clinic.
Ejército Nacional de Colombia. (2017). Manual fundamental de referencia del ejército MFRE 6-27 derecho operacional terrestre público. www.cedoe.mil.co
Gerry, R. (2016). Making Laws for LAWs: The Legality of Lethal Autonomous Weapons Systems (pp. 1-51). Victoria University of Wellington.
Goldman, R. K. (2000). Derecho internacional humanitario y actores no gubernamentales. Pensamiento Jurídico, 13, 129-147.
Agreda, A. (2021). Sistemas de Armas Autónomos Letales. Revista Española de Derecho Aeronáutico y Espacial, 1, 129-137.
Gutiérrez, C. y Cervell, M. (2013). Sistemas de armas autónomas, drones y derecho internacional. Revista del Instituto Español de Estudios Estratégicos, 2, 27-57.
Horowitz, C. & Scharre, P. (2015). Meaningful Human Control in Weapon Systems: A Primer (pp. 1-15). Center For A New American Security.
International Criminal Court (ICC). (2012). The prosecutor vs. Thomas Lubanga Dyilo. N°. ICC-01/04-01/06.
International Criminal Court (ICC).(2014). The prosecutor vs. Germain Katanga. N°. ICC-01/04-01/07. International Criminal Court (ICC).(2016). The prosecutor vs. Jean-Pierre Bemba Gombo. N°. ICC-01/05-01/08
International Criminal Court (ICC). (2019). The prosecutor vs. Bosco Ntaganda. N°. ICC-01/04-02/06.
International Criminal Court (ICC). (2021). The prosecutor vs. Dominic Ongwen. N°. ICC-02/04-01/15.
Krupiy, T. (2018). Regulating a Game Changer: Using a Distributed Approach to Develop an Accountability Framework for Lethal Autonomous Weapon Systems. Georgetown Journal of International Law, 50(1), 45-112.
Martínez Alcañiz, A. (2015). El principio de justicia universal y los crímenes de guerra. Doppel, S.L.
Marauhn, T. (2014). An analysis of the potential impact of lethal autonomous weapons systems on responsibility and accountability for violations of international law. In CCW Expert Meeting on Lethal Autonomous Systems, Geneva, May 13-16.
Margulies, P. (2016). Making Autonomous Weapons Accountable: Command Responsibility for Computer-Guided Lethal Force in Armed Conflicts. Legal Studies Research Paper Series, 166, 1-26.
Melzer, N. (2013). Human rights implications of the usage of drones and unmanned robots in warfare. European Union.
Noone, G. y Nadie, D. (2015). The debate over autonomous weapons systems. Case W. Res. J. Int'lL., 47, 25. Pellerano, F. (2019). Sistemas de Armas Autónomos Letales (LAWS). Reflexiones para un debate. Revista Política y Estrategia, 134, 147-170.
Salmon, E. (2016). Introducción al derecho internacional humanitario. Instituto de Democracia y Derechos Humanos Pontificia Universidad Católica del Perú.
Sticca, M A. (2017). El rol del principio de proporcionalidad en el derecho internacional público. Revista de la Facultad, 8(1), 1-20.
World Economic Forum (WEF). (2016). The Future of Jobs Employment, Skills and Workforce Strategy for the Fourth Industrial Revolution. http://www.weforum.org/reports/the-future-of-jobs