Sinopsis

El derecho, como la política y nuestra propia vida, afronta enormes interrogantes que se originan en las crecientes y novedosas aplicaciones científico-tecnológicas. Tal es el caso abordado en esta obra: los desafíos planteados por las armas autónomas letales, un avance armamentístico que hace años era impensable, casi de ciencia ficción, y que hoy se ha convertido en una realidad. Se trata del empleo de tecnologías emergentes para el diseño de armamento letal con propósitos militares y de seguridad, dotado de una autonomía casi absoluta para ejecutar funciones críticas (como la selección y el ataque de objetivos) y, por tanto, con poco ?o ningún? nivel de control humano realmente significativo.
Con el tiempo, las armas autónomas letales han ocupado cada vez más espacios en los medios de comunicación, en el cine y, progresivamente, en el estudio y la reflexión especializada. Hoy, incluso, sus implicaciones en lo jurídico, estratégico, moral y ético son objeto de intensas discusiones entre los gobiernos, el sector privado, la academia y la sociedad civil en general. Por ello, este libro cobra especial relevancia, ya que ofrece a su lector un análisis interdisciplinar, transversal y prospectivo sobre las promesas y los riesgos que estas armas representan para la humanidad. Su desarrollo argumental abre cuestiones importantes, polémicas y novedosas, muchas de las cuales siguen pendientes de resolución, que provocan y enriquecen el debate poniendo el foco de atención en el examen de la afectación que estas armas representan para los derechos humanos, el derecho internacional humanitario, la seguridad y el desarme internacionales.

Índice

AGRADECIMIENTOS 7
RESUMEN 9
ABSTRACT 11
RESUM 13
PRESENTACIÓN 15
Concepción Escobar Hernández
ABREVIATURAS 21
PRÓLOGO 27
Antonio Madrid Pérez
Jordi Bonet Pérez
INTRODUCCIÓN 33
Capítulo 1. El uso de SAAL en conflictos armados internacionales: definición del campo de trabajo y del marco jurídico aplicable 43
1.1. Los drones: el arma de moda para las ejecuciones extrajudiciales, sumarias o arbitrarias 48
1.1.1. ¿Qué son los drones? 48
1.1.2. Los drones en los campos de batalla: inicio y desarrollo de su uso militar 52
1.1.3. La vinculación entre los RPAS y los SAAL 68
1.2. Aproximaciones conceptuales de la comunidad internacional acerca de los SAAL 76
1.3. Definición de trabajo de los SAAL bajo un enfoque funcional centrado en el control humano 93
1.3.1. ¿Qué son los SAAL? Una propuesta de aproximación funcional 96
1.3.2. La «letalidad» como un criterio diferenciador de los SAAL: ¿error o acierto en la definición de trabajo propuesta? 110
1.3.3. El «control humano» como un criterio diferenciador de los SAAL 114
1.4. Marco jurídico aplicable al uso de SAAL en conflictos armados internacionales 126
Capítulo 2. Primeras discusiones en el Sistema de Naciones Unidas sobre el impacto de los SAAL en el contexto de los derechos humanos, la seguridad internacional y el desarme 137
2.1. Informes de la Relatoría Especial sobre ejecuciones extrajudiciales, sumarias o arbitrarias de 2010 y 2013 139
2.1.1. Informes Alston 140
2.1.2. Informe Heyns 148
2.2. Sesiones de la Primera Comisión de la Asamblea General de Naciones Unidas 154
2.3. Reunión anual de 2013 de las Altas Partes contratantes de la CCW 161
2.4. Desafíos para reflexionar acerca de las tecnologías emergentes en el ámbito de los SAAL 164
2.4.1. Dudas sobre la inexistencia de los SAAL 169
2.4.2. Falta de claridad acerca de qué puede ser un arma autónoma 172
2.4.3. La complejidad de un enfoque prospectivo acerca de los SAAL 175
2.5. La idoneidad de la CCW para debatir sobre los SAAL 178
Capítulo 3. El valor estratégico de las tecnologías emergentes en el área de los SAAL y su impacto en la agenda internacional de desarme de la ONU 183
3.1. Las tecnologías emergentes en el área de los SAAL: una prioridad en la política de seguridad y de defensa de los Estados 184
3.1.1. Estados Unidos de América 188
a) The Third Offset Strategy 188
b) Seven Defense Priorities for the New Administration 193
c) National Security Strategy of the United States of America 196
d) The National Defense Strategy of the United States of America 199
e) AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense 202
3.1.2. Federación de Rusia 212
3.1.3. República Popular China 220
3.1.4. La OTAN 228
3.1.5. La UE 234
a) Iniciativas sobre derecho, robótica e IA en la UE 236
b) Resoluciones del Parlamento Europeo sobre SAAL 249
c) Los SAAL y la estrategia global para la política exterior y de seguridad de la UE 250
3.2. «Asegurando nuestro futuro común»: la nueva agenda internacional de desarme de la Secretaría General de Naciones Unidas 262
Capítulo 4. Los SAAL y su impacto potencial en la seguridad internacional y el desarme 267
4.1. La potencial afectación a la seguridad internacional y el desarme en virtud de los avances científicos y tecnológicos vinculados a los SAAL 268
4.1.1. Informe de 2018 elaborado por la Secretaría General de la ONU 269
4.1.2. La investigación, el desarrollo y la innovación de los SAAL: ¿es ciencia ficción o una realidad? 274
4.2. Iniciativas internacionales en contra de la investigación, el desarrollo y la innovación de las tecnologías emergentes en el área de los SAAL 294
4.2.1. ICRAC 295
4.2.2. CSKR 298
4.2.3. HRW 300
4.2.4. CICR 304
4.2.5. Activismo en contra de los SAAL por parte de expertos en robótica e IA 314
a) Carta abierta firmada por investigadores en robótica e IA en la que se propone la prohibición de los SAAL 315
b) Carta abierta firmada por los Chief Executive Officer de compañías especializadas en IA en la que solicitan a la ONU la prohibición de los SAAL 317
c) Compromiso de no participar en el desarrollo de SAAL firmado por organizaciones y personas vinculadas al área de la IA 318
4.2.6. La Iniciativa Global del IEEE sobre ética de los sistemas autónomos e inteligentes 319
4.2.7. Carta abierta suscrita por especialistas en IA y robótica, líderes de la industria, expertos en derecho, medicina y ética de la UE dirigida a la Comisión Europea 322
Capítulo 5. Discusiones sobre las tecnologías emergentes en el área de los SAAL en la CCW: reflexiones sobre el estado de la cuestión 331
5.1. Reuniones oficiosas de expertos sobre los SAAL en la CCW 332
5.1.1. Primera reunión de expertos 332
5.1.2. Segunda reunión de expertos 334
5.1.3. Tercera reunión de expertos 337
5.1.4. Reunión de la Quinta Conferencia de Examen de las Altas Partes contratantes en la CCW 352
5.2. GEG sobre los SAAL en el marco de la CCW 354
5.2.1. Primer período de reuniones 355
a) Principales documentos de trabajo 356
b) Conclusiones y recomendaciones aprobadas 363
5.2.2. Segundo período de reuniones 365
a) Principales documentos de trabajo 365
b) Conclusiones y recomendaciones aprobadas 380
5.2.3. Tercer período de reuniones 383
a) Principales documentos de trabajo 384
b) Conclusiones y recomendaciones aprobadas 389
5.2.4. Cuarto período de reuniones 393
a) Principales documentos de trabajo 394
b) Conclusiones y recomendaciones: diferidas por la pandemia 401
5.2.5. Quinto período de reuniones 402
a) Principal documento de trabajo: informe preliminar de la presidencia del GEG 403
b) Conclusiones y recomendaciones (pendientes de elaboración y aprobación final) 407
Capítulo 6. Implicaciones jurídicas del desarrollo y el uso de SAAL en conflictos armados internacionales 411
6.1. Aplicación de las reglas sustantivas del DIH a los SAAL 412
6.1.1. Los SAAL y el Weapons Law 413
a) Principio consuetudinario 1: prohibición de las armas que causen daños superfluos y/o sufrimientos innecesarios 414
b) Principio consuetudinario 2: proscripción de armas indiscriminadas por naturaleza 418
6.1.2. Los SAAL y el Targeting Law 433
a) Principio de distinción 436
aa) Los SAAL y la aplicación general del principio de distinción 444
ab) Los SAAL ante casos en los que tradicionalmente es difícil la aplicación del principio de distinción 451
b) Principio de proporcionalidad 462
ba) Los SAAL y la aplicación general del principio de proporcionalidad 468
c) Principio de precaución 474
ca) Los SAAL y la aplicación general del principio de precaución 477
d) La prohibición de no dar cuartel y la protección de las personas fuera de combate 482
da) Los SAAL y la aplicación general de la prohibición de no dar cuartel y la protección de las personas fuera de combate 484
6.2. La revisión de los SAAL según el artículo 36 del API 488
Capítulo 7. La responsabilidad y la rendición de cuentas por la comisión de violaciones al DIH realizadas a través de SAAL en conflictos armados internacionales 503
7.1. Los SAAL y la cláusula Martens 515
7.1.1. El principio de humanidad y los dictados de la conciencia pública frente al uso de SAAL 517
7.1.2. La decisión de matar en los conflictos armados internacionales: ¿tiene que ser humana? 529
7.2. Posibles marcos de responsabilidad por el uso de SAAL en conflictos armados internacionales 561
7.2.1. Desafíos que plantean los SAAL para la aplicación de un régimen de responsabilidad penal individual 563
7.2.2. La responsabilidad de mando ante la comisión de CDI realizados a través de SAAL 588
7.2.3. Responsabilidad estatal por los hechos internacionalmente ilícitos cometidos a través de SAAL 608
CONCLUSIONES 617
Glosario de términos 631
Bibliografía 647
1. Referencias bilbiográficas 647
2. Resoluciones judiciales 686
3. Documentos oficiales 690
4. Tratados internacionales 712
5. Documentos de consulta 716
5.1. Documentos de trabajo 716
5.2. Documentos de investigación y análisis 730
5.3 Discursos y declaraciones públicas 734
5.4. Otros recursos en línea 742