Sinopsis

La magia digital, los datos, los algoritmos y las estructuras computacionales, los artefactos, los robots, entre otros, han irrumpido en nuestras vidas, en nuestras sociedades, en nuestra economía, nuestras relaciones y nuestro derecho. Los grados de interacción ser humano-máquina varían, de menos a más, y las manifestaciones de esta nueva sociedad híbridada nos inundan, nos rodean, nos ofrecen, nos arrastran y nos permiten ?también? sentir una vida más fácil.
Fascinación y negación son dos posiciones extremas ante esta volcánica irrupción de la vida digital, de la sociedad algorítmica, que incide también en las relaciones jurídicas, en las instituciones jurídicas, en la Justicia, en el modus operandi, en las estrategias de defensa, en los protagonistas en el sistema de tutela, en las reglas de la prueba, en la motivación de las resoluciones y en el sistema jurídico en su conjunto.
La autora de esta obra arrastra al lector desde la imbricación de la Ciencia, Tecnología y Sistema jurídico a lo largo de las diversas Revoluciones industriales (hasta la 4.0.), desde una visión histórica, filosófica, conceptual y jurídica, eminentemente crítica positiva y negativa, con referencias a las políticas públicas especialmente supranacionales, aproximándose a manifestaciones del uso y abuso de estos modelos computacionales, de los Big Data y los algoritmos en el mundo del derecho, y de la Justicia. Un hábitat cibernético, los Smart contracts, el ecosistema de Justicia, la aparición de la Artificial Legal Intelligence, los sistemas de expertos, la justicia predictiva (data mining, hotspots), los sesgos, la vigilancia predictiva, entre otros, sin olvidar el camino hacia la robotización judicial, y las respuestas a la cuestión de si los sistemas algorítmicos pueden pensar, responder, argumentar y decidir como juristas ? son todas ellas inquietudes de la autora que quedan expuestas con rigor científico en esta obra.

Índice

Prólogo 15
Capítulo I
TECNOLOGÍA E INTELIGENCIA ARTIFICIAL: ENTRE LA RAZÓN Y EL SENTIMIENTO
1. CIENCIA, TECNOLOGÍA Y SISTEMA JURÍDICO, UNA FUSIÓN A LO LARGO DE LA HISTORIA 27
2. ESPECIAL REFERENCIA HISTÓRICA A LAS REVOLUCIONES INDUSTRIALES (PRIMERA, SEGUNDA Y TERCERA) 42
2.1. Primera Revolución Industrial 43
2.2. Segunda Revolución Industrial 53
2.3. Tercera Revolución Industrial 55
3. CUARTA REVOLUCIÓN INDUSTRIAL (4.0.) E IRRUPCIÓN DE LA INTELIGENCIA ARTIFICIAL 58
3.1. Escenario adecuado para el 4.0.: la Globalización, la sociedad de masas y la sociedad de consumo, bajo el paraguas neoliberal 60
3.2. Retrato de la Revolución Industrial 4.0. 67
4. PENSAMIENTO, INTELIGENCIA Y ALGUNAS REFLEXIONES EN TORNO AL ORIGEN Y FUNDAMENTO DE LAS MÁQUINAS INTELIGENTES 76
4.1. Reflexiones previas 78
4.2. Pensadores y pensamientos 83
5. INTELIGENCIA ARTIFICIAL EN LA ACTUALIDAD. ACLARACIONES CONCEPTUALES Y ALGUNOS EXPONENTES DE LA MISMA 92
5.1. Del término genérico a su concreción paulatina 92
5.1.1. No existe única definición 93
5.1.2. Máquinas emuladoras de funciones cognitivas humanas. “Maschine learning” 95
5.1.3. ¿Cómo aprenden las máquinas? Los algoritmos 99
5.2. Modalidades y aplicaciones de la Inteligencia Artificial: débil o fuerte 105
5.3. Acciones humanas de la Inteligencia Artificial. Múltiples manifestaciones y tres niveles de interacción máquina-Humanidad 109
5.4. De la Smart City a la Smart Vida. Su anverso y reverso 120

Capítulo II
POLÍTICAS PÚBLICAS NACIONALES Y SUPRANACIONALES: PRINCIPIOS DE ACTUACIÓN DE LA INTELIGENCIA ARTIFICIAL
1. POLÍTICAS PÚBLICAS Y ESTRATEGIAS, NECESIDAD INELUDIBLE 125
2. ORGANIZACIÓN PARA LA COOPERACIÓN Y DESARROLLO ECONÓMICOS (OCDE) 128
2.1. Principios para la administración responsable de una Inteligencia Artificial confiable 130
2.2. Políticas nacionales y de cooperación internacional 132
3. OMPI E INTELIGENCIA ARTIFICIAL 134
4. CONSEJO DE EUROPA. DOCUMENTOS DEL CEPEJ 137
4.1. Guidelines on how to drive change towards Cyberjustice 2016 141
4.2. European ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their environment 2018 (Código ético europeo del Consejo de Europa) 143
5. INTELIGENCIA ARTIFICIAL EN LA UNIÓN EUROPEA 148
5.1. Normas sobre protección de datos en la Unión Europa; especial referencia a la Directiva (UE) 2016/689 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, y al Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 154
5.2. Dictamen del Comité Económico y Social Europeo sobre IA de 2017 158
5.3. Plan coordinado para fomentar el desarrollo y la utilización de la inteligencia artificial en Europa de 2018 159
5.4. Conclusiones del Consejo relativas al Plan Coordinado (2019) 161
5.5. Más esfuerzos desde las diversas instituciones europeas 166
5.5.1. Agencia Europea de Robótica e Inteligencia Artificial 168
5.5.2. Código de Conducta ética y referencia a los sesgos 169
5.5.3. Estatuto de persona electrónica o e-persona 174
5.5.4. ¿Responsabilidad? 177
5.5.5. Registro Europeo de robots inteligentes 186
5.6. Estrategia Digital Europea 186
5.7. El Libro Blanco sobre la Inteligencia Artificial: un enfoque europeo orientado a la excelencia y la confianza 190
Capítulo III
SOFTWARE, ALGORITMOS Y DERECHO
1. REFLEXIONES GENERALES SOBRE LA APARICIÓN DE LOS DATOS Y LAS APLICACIONES (App) 209
1.1. Punto de partida: Los datos y su tratamiento. Protección y responsabilidad 211
1.2. Exponentes anejos a los datos y su fascinante y polimorfa aplicación. De las cookies a las “Apps” 221
1.2.1. Aplicaciones en el mundo laboral; especial referencia a la gig economy 223
1.2.2. En el mundo empresarial 225
1.2.3. En el sector público 226
1.2.4. En el ámbito de ocio 228
1.2.5. En el sector de la comunicación y relación interpersonal 228
1.2.6. En sede educativa 229
1.3. Especial referencia al sector sanitario. Reflexiones en torno a sus aplicaciones en casos como el del coronavirus. Dilema derechos versus salud pública 230
1.3.1. Artefactos, aplicaciones y Big data 231
1.3.2. ¿Avances a cualquier precio? 235
1.3.3. Dilema entre derechos y libertades versus salud pública: esquizofrenia entre la resistencia y la fascinación 238
2. NUEVOS CONCEPTOS JURÍDICOS Y NUEVAS RELACIONES JURÍDICAS CON LOS MODELOS COMPUTACIONALES 248
2.1. De las tecnologías de la información al heterotópico ciberespacio 250
2.2. Desafíos de las máquinas en el mundo laboral 255
2.3. Naturaleza jurídica de la inteligencia artificial, la inquietante figura del “cyborg”, responsabilidad, fiscalidad, contratación, registro. Smart-contract, Bitcoin, Blockchain, mercados y modelos de gobernanza 260
2.3.1. Naturaleza jurídica y estatuto de la máquina inteligente. Algunas reflexiones acerca de su responsabilidad, obligaciones fiscales y registro 260
2.3.2. Cyborg (cybernetic organism) y la aparición del transhumanismo 272
2.3.3. En el ámbito específico de la contratación. De la contratación con o entre agentes inteligentes a los Smart contracts 284
Capítulo IV
NUEVO HABITAT CIBERNÉTICO, CADA VEZ MÁS ALGORÍTMICO
1. PROBLEMAS DE GOBERNANZA JURÍDICA DEL CIBERESPACIO. LA INCIDENCIA DEL PREFIJO “CIBER” EN EL MUNDO JURÍDICO 299
2. NECESIDAD DE COORDINACIÓN INTERNACIONAL. ALGUNOS INSTRUMENTOS INTERNACIONALES 308
3. CIBERCRIMINALIDAD Y CIBERDELITOS 315
3.1. Ciberamenazas y los ciberriesgos en la ciberdelincuencia 317
3.2. ¿Qué debe considerarse ciberdelito? 322
3.3. Consecuencias de la ciberdelincuencia 331
4. Métodos y técnicas para prevenir y combatir la cibercriminalidad 333
5. REFERENCIA ESPECIAL AL CIBERTERRORISMO 337
Capítulo V
METAMORFOSIS DE LA JUSTICIA Y SUS OPERADORES EN EL ECOSISTEMA DIGITAL
1. REFLEXIONES GENERALES 344
2. PRIMERA FASE: DE CÓMO LA TECNOLOGÍA IRRUMPIÓ EN LA JUSTICIA EN LA GESTIÓN Y ORGANIZACIÓN 349
3. Y LLEGARON LOS ALGORITMOS A LA PROFESIÓN JURÍDICA 357
3.1. Primeras manifestaciones computacionales asistenciales al Derecho. Aparición de la Artificial Legal Intelligence 363
3.2. Jurimetría o Legal Decision Support System. Hacia una función predictiva 365
3.3. Sistemas expertos (Legal Expert Systems). De la función asistencial a la función sustitutoria. Alarma y acción. 374
3.3.1. Modelos computacionales con o sin asistencia de expertos humanos en el mundo jurídico. Función argumentativa y cognitiva 375
3.3.2. Posibles actividades realizadas en el mundo jurídico por sistemas computacionales 380
3.3.3. Y de nuevo la responsabilidad del operador jurídico asistido o sustituido por la máquina inteligente 388
4. ¿PUEDEN LOS ALGORITMOS Y LA INTELIGENCIA ARTIFICIAL ALTERAR LOS PRINCIPIOS DEL PROCESO Y DEL PROCEDIMIENTO? 390
4.1. En los principios del procedimiento 391
4.1.1. En relación con la oralidad-escritura 392
4.1.2. La inmediación como garantía procedimental 398
4.1.3. Principio de concentración 402
4.1.4. Principio de publicidad 403
4.2. En los principios del proceso 405
4.2.1. Fundamentos de la existencia del proceso 406
4.2.2. Principios del proceso 411
4.2.2.1. Posible adecuación y adaptación a los principios del proceso civil 411
4.2.2.2. Inquietante mutación de algunos de los principios del proceso penal 415
Capítulo VI
JUSTICIA PREDICTIVA Y MAXIMIZACIÓN DE LA PREVENCIÓN Y LA SEGURIDAD, BUEN MARIDAJE CON LA INSTRUMENTAL INTELIGENCIA ARTIFICIAL POLICIAL
1. PRIMERA PREMISA: LA SOCIEDAD DEL MIEDO AL MIEDO Y EL CONTROL SOCIAL, MARCO ADECUADO PARA LA PANDEMIA PREDICTIVA Y PREVENTIVA 424
2. SEGUNDA PREMISA: PRINCIPIO PRECAUTORIO (Y SÍ) Y MEDIDAS DE SEGURIDAD CIUDADANA 435
3. DE LA FUNCIÓN PREDICTIVA ALGORÍTMICA A LA FUNCIÓN PREVENTIVA 443
3.1. El método predictivo, Data Mining, Hotspots y sesgos. Anverso y reverso 445
3.2. Predicción y prevención, principio precautorio y algoritmos. Retrato de la “hipervigilancia” algorítmica en la sociedad COVID-19 462
4. Y CON ELLOS LLEGÓ EL ESCÁNDALO Y/O LA FASCINACIÓN: LOS DATOS BIOMÉTRICOS DE RECONOCIMIENTO DE PERSONAS: ¿PREDICCIÓN, PREVENCIÓN, INVESTIGACIÓN? 476
4.1. Datos biométricos: Noción, usos y aplicaciones 476
4.2. Tipología de técnicas biométricas. Especial referencia al reconocimiento facial 479
4.3. Protección de datos biométricos 495
Capítulo VII
Y TAMBIÉN INVESTIGACIÓN PENAL CON VIGILANCIA POLICIAL PREDICTIVA Y SISTEMAS INTELIGENTES ACTIVOS: NUEVOS PROTAGONISTAS, NUEVAS DILIGENCIAS O REFORMULADAS Y NUEVO MODUS OPERANDI
1. NUEVOS PROTAGONISTAS: POLICÍA, SERVICIOS SECRETOS ESTATALES Y TERCEROS INVESTIGADOS 504
1.1. Policía, servicios de inteligencia y secretos estatales y “prueba pericial inteligente”, ¿quiebra de un proceso con todas las garantías? 504
1.2. Extensión del ámbito subjetivo de investigación 509
2. VIGILANCIA POLICIAL, AGENTE ENCUBIERTO, SOFTWARE DE MONITORIZACIÓN, ENTRE LOS ELEMENTOS DEL NUEVO PARADIGMA EN LA INVESTIGACIÓN PENAL (ALLENDE PREVENTIVA) 511
2.1. Vigilancia policial preventivo-investigadora y el agente encubierto 512
2.2. En consecuencia…llegaron la tecnología y los algoritmos a la investigación penal. Medidas de investigación tecnológica 519
3. EL SIEMPRE COMPLEJO EQUILIBRIO CON LOS DERECHOS. LA ABSOLUTA NECESIDAD DEL CONTROL JUDICIAL Y RESPETO A LOS PRINCIPIOS CONSTITUCIONALES Y LEGALES 534
Capítulo VIII
ARGUMENTACIÓN JURÍDICA, PRUEBA, JUDICIAL DECISIÓN Y ROBOTIZACIÓN JUDICIAL: HACIA LA SMART JUSTICE
1. ARGUMENTACIÓN JURÍDICA O EN BUSCA DE UN “PENSAR COMO JURISTA” (ATIENZA DIXIT) 550
1.1. De las reglas heurísticas al pensar como jurista, punto de partida 550
1.2. ¿Piensan como juristas los sistemas asistenciales con o sin argumentación, con o sin motivación? 554
1.3. Algunas reflexiones sobre el significado de “pensar como jurista” 563
1.3.1. Argumentar. Clases 563
1.3.2. El lenguaje y el pensamiento 578
1.3.3. Conclusión: ¿sistemas algorítmicos como pensadores jurídicos inteligentes? 585
2. PRUEBA 587
2.1. Triada subjetiva en la prueba 589
2.2. La prueba científica y su intrínseca relación con los sistemas algorítmicos con eficacia procesal 595
2.3. Valoración de la prueba y motivación judicial, con especial referencia a la prueba científica. Relevancia y fiabilidad 602
3. ROBOTIZACIÓN JUDICIAL O LA BÚSQUEDA DEL SUPERYÓ, SADIN DIXIT 610
3.1. Factores que inciden en la decisión judicial 612
3.1.1. La norma, y su aplicación al caso concreto, y los “precedentes”. Referencia a la presunción de inocencia y a la regla del in dubio pro reo 612
3.1.2. Predisposición subjetiva del juez: de los afectos a los sesgos 620
3.2. Decisión judicial = valoración probatoria + argumentación + motivación + proporcionalidad y derechos 625
3.3. Manifestaciones de inteligencia artificial soft en la función jurisdiccional: de las Guidelines a la predictibilidad 628
3.4. Un paso más hacia la robotización judicial 642
3.5. Imperfección o divinidad. ¿Cómo garantizar la aplicación del derecho al caso concreto desde la proporcionalidad, la imparcialidad y la independencia? 652
4. SMART EJECUCIÓN Y SMART PRISONS 664
4.1. Inteligencia artificial y ejecución civil 665
4.2. Ejecución penal y Smart prisons 675
4.2.1. Ejecución penal computacional 676
4.2.2. Smart prisons 683
BIBLIOGRAFÍA 687