Sinopsis

Aborda, desde una perspectiva académica y forense, tres grandes temáticas que constituyen en la actualidad importantes retos para nuestro sistema judicial: la digitalización y el uso de algoritmos en los procesos; el uso de los datos personales en el proceso penal; y los límites que la Administración tiene en el uso de la información.

• Análisis práctico de las cuestiones que se plantean en torno al uso de la inteligencia artificial y de los datos personales en los procesos.
• Tratamiento interdisciplinar de la problemática analizada.
• Diversa capacitación profesional de los autores (profesores de universidad, abogados, fiscales y jueces).
Ignacio Colomer Hernández es Catedrático de Derecho Procesal. Universidad Pablo de Olavide de Sevilla.
Destinado a abogados hasta jueces y fiscales.

Extracto:

En esta obra el lector encuentra un estudio completo, multidisciplinar, y marcadamente práctico de los problemas que se plantean en relación con el uso de la información y los datos personales en diferentes procesos y procedimientos. En particular, se estudian y analizan los problemas que surgen en la utilización de algoritmos en los procesos y los datos de los que se nutren para su funcionamiento. Se aborda también la problemática del uso de los datos personales en el proceso penal, tanto en la fase de investigación como en la de enjuiciamiento. Para ello, se analizan los límites existentes para el uso de esta clase de datos personales para garantizar que el tratamiento de estos respete adecuadamente los derechos de los sujetos afectados, así como el derecho de defensa de los que sean parte en los procesos o procedimientos en que se usen. Por último, en la obra se encuentra también un análisis sobre el alcance y los límites en el uso de la información y los datos personales obtenidos por las Administraciones Públicas en el ejercicio de sus competencias.

Índice

LISTADO AUTORES

PRESENTACIÓN
HACIA UN NUEVO PARADIGMA EN EL USO DE LOS DATOS PERSONALES Y DE LA INFORMACIÓN EN LOS PROCESOS

IGNACIO COLOMER HERNÁNDEZ

PARTE PRIMERA
DIGITALIZACIÓN, ALGORITMOS Y PROCESO

CAPÍTULO 1
LOS DATOS EN EL SISTEMA DE JUSTICIA Y LA PROPUESTA DE REGLAMENTO UE SOBRE INTELIGENCIA ARTIFICIAL

VÍCTOR MORENO CATENA

I.   El marco de desarrollo de la inteligencia artificial

II.  La propuesta de Reglamento del Parlamento Europeo y del Consejo sobre uso de IA

III.  Los datos de la Justicia

IV.  La inteligencia artificial en el sistema de Justicia

1. Predicciones y prevención de delitos

2. Investigaciones y pruebas

3. Resoluciones

CAPÍTULO 2
LA DIGITALIZACIÓN Y LA ALGORITMIZACIÓN, CLAVES DEL NUEVO PARADIGMA DE JUSTICIA EFICIENTE Y SOSTENIBLE

SILVIA BARONA VILAR

I.   Reflexiones iniciales: estrecha conexión entre la justicia y la sociedad global en latente estado de mudanza

II.  De la Justicia “con manguitos” a la Justicia digital

III.  De la catarsis de la revolución 4.0. A la incorporación de manifestaciones algorítmicas en la Justicia

1. Punto de partida: la catarsis de la Cuarta Revolución Industrial (4.0.)

2. Herramientas algorítmicas en la Justicia. Manifestaciones

IV.  De los sistemas algorítmicos predictivos policiales (PredPol) y la hipervigilancia a la incorporación de los algoritmos en la investigación y sus transformaciones

1. Los sistemas de predictive policing o PredPol y la hipervigilancia policial

2. Incorporación de los algoritmos en la investigación penal

3. La incorporación de los modelos biométricos

V.  ¿Puede algoritmizarse el oficio de ser Juez (judge Craft)? El dilema del robot-juez

1. Herramientas algorítmicas asistentes y complementarias del juez

2. La senda hacia la automatización y robotización judicial

VI.  Una reflexión general

VII.  Bibliografía

CAPÍTULO 3
EL PROCESO EN LA EUROPA DIGITAL: ENTRE RECUPERAR LIDERAZGOS Y PROTEGER DERECHOS

TERESA ARMENTA DEU

I.   Un posible punto de partida

1. Primer aspecto: lo digital, números, computarización, estadística, datos y previsión

2. Segundo: transformaciones geopolíticas

3. Tercero: Medidas tecnológicas y algunas aplicaciones jurídicas: de la justicia digital en España. Fuentes de investigación y vigilancia legítima

3.1. Fuentes de investigación y prueba: “investigar para prevenir”

3.2. Vigilancia legítima y vigilancia ilícita

4. Cuarto: Problemas emergentes: sesgo y patrones, control, lenguaje servidumbre, gestión y colaboración público-privada, infalibilidad, subjetividad y opacidad

4.1. El problema del sesgo y la creación de patrones discriminatorios

4.2. La falta de control democrático sobre el desarrollo e implantación de la tecnología, claramente liderada hasta la fecha en el ámbito privado

4.3. El obstáculo del lenguaje jurídico

4.4. El impacto en los modelos organizativos de gestión pública y la colaboración público-privada

4.5. Crisis del jurista técnico, sumisión pericial, ecosistemas digitales y externalización (Entidades certificadoras)

4.6. Una justicia sin personas

4.7. Una justicia infalible

4.8. Los problemas inherentes a la subjetividad y al sentido común

4.9. La opacidad y el efecto caja-negra. Necesidad de regular la IA: las lecciones de SyRI y el programa BOSCO

4.10. El impacto de las plataformas de alojamiento de contenidos

II.  ¿Qué hacer ante el innegable atraso y la preservación de los derechos?

1. Primera dificultad: la marginación de la norma jurídica y algunos problemas en las soluciones basadas en “soft law”: “grupos de expertos”, códigos éticos, “guide lines”, y “códigos de buenas prácticas”

2. Iniciativas de la Unión Europea para la digitalización y en materia de IA

3. Algunos aspectos destacables en las propuestas sobre futuras regulaciones de la IA y la protección de los derechos

III.  A modo de breve reflexión final

IV.  Bibliografía

CAPÍTULO 4
¿QUÉ ES LO QUE NO FUNCIONA EN LOS ALGORITMOS DE INTELIGENCIA ARTIFICIAL?

JUAN JOSÉ MURILLO FUENTES

I.   Introducción

II.  Inteligencia Artificial

1. Qué es Inteligencia Artificial

2. Machine Learning

2.1. Datos

2.2. Modelo

2.3. Algoritmo

2.4. Función de coste o pérdidas

3. Deep Learning

III.  Alcance de la AI

IV.  Taxonomía de los problemas del Machine Learning

1. Problemas de ML en los datos

1.1. Representatividad

1.2. Sesgos en los datos

1.3. Mezcla de criterios en el etiquetado

1.4. Errores en el etiquetado

1.5. Diferencias de formatos

1.6. Datos sustitutivos

2. Problemas en los modelos y algoritmos

2.1. Modelos

2.2. Algoritmos y función de pérdidas

2.3. Selección de características

V.  Transparencia

VI.  Conclusiones

VII.  Bibliografía

CAPÍTULO 5
LÍMITES EN EL USO DE ALGORITMOS PREDICTIVOS DEL COMPORTAMIENTO DE LA PARTE PASIVA DEL PROCESO EN LA JUSTICIA PENAL DE MENORES

ESTHER PILLADO GONZÁLEZ

I.   Consideraciones generales sobre algoritmos predictivos del comportamiento de la parte pasiva en el proceso penal

II.  Riesgos de la utilización de algoritmos predictivos del comportamiento

1. Derecho a la protección de datos y privacidad

2. Sesgos y principio de igualdad

3. Derechos y garantías procesales

III.  Posible aplicación de algoritmos predictivos del comportamiento en el proceso penal de menores

1. Medidas cautelares

2. Manifestaciones del principio de oportunidad

3. Medidas definitivas y su ejecución

IV.  Límites en la utilización de los algoritmos predictivos en el proceso penal de menores

V.  Conclusiones

VI.  Referencias bibliográficas

CAPÍTULO 6
LA PREVISIBILIDAD JUDICIAL Y LA APLICACIÓN DE LA INTELIGENCIA ARTIFICIAL A LA ADOPCIÓN DE LAS RESOLUCIONES JUDICIALES

VICENTE PÉREZ DAUDÍ

I.   Introducción

II.  Premisas para la aplicación de la inteligencia artificial a la decisión judicial: la vinculación al precedente judicial

1. La igualdad en la aplicación de la ley por los órganos jurisdiccionales

2. La jurisprudencia, la vinculación con la decisión de los tribunales superiores y la independencia judicial

3. La vinculación del órgano jurisdiccional a sus criterios jurisdiccionales previos

4. La vinculación de los Tribunales a las sentencias del Tribunal Constitucional, del Tribunal de Justicia de la Unión Europea y del Tribunal Europeo de Derechos Humanos

III.  El precedente judicial, la previsibilidad de la respuesta judicial y el tratamiento procesal de las cláusulas abusivas en los contratos de préstamo hipotecario

1. El fracaso de la función nomofiláctica del Tribunal Supremo

2. Los procedimientos testigo

3. Los ataques a la previsibilidad de las resoluciones judiciales

IV.  Bibliografía

CAPÍTULO 7
BLOCKCHAIN Y SMART CONTRACTS: ¿UN ECOSISTEMA DIGITAL SEGURO AL MARGEN DE LA LEY?

SONIA CALAZA LÓPEZ

I.   Introducción

II.  Blockchain

III.  Smart Contracts

IV.  ¿Ecosistema digital seguro?

V.  Bibliografía

CAPÍTULO 8
LA INTELIGENCIA ARTIFICIAL COMO NUEVA ESTRATEGIA DE PREVENCIÓN EN LOS DELITOS DE VIOLENCIA SEXUAL

MERCEDES LLORENTE SÁNCHEZ-ARJONA

I.   Inteligencia artificial y perspectiva de género

II.  Herramientas de justicia predictiva en los delitos de naturaleza sexual

1. Inteligencia artificial contra la violencia de género. Especial referencia a VIOGEN

2. Inteligencia artificial contra agresores sexuales en serie

3. Inteligencia artificial contra la pornografía infantil en Red

4. Herramientas de Inteligencia Artificial contra la Trata de personas

III.  Los derechos fundamentales: la barrera de protección

IV.  Bibliografía

CAPÍTULO 9
UTILIZACIÓN DE ALGORITMOS EN PROCEDIMIENTOS ADMINISTRATIVO-SANCIONADORES: GARANTÍAS QUE EL CASO SYRI NOS RECUERDA

SABELA OUBIÑA BARBOLLA

I.   Administración Pública, Inteligencia Artificial y Derechos de los Ciudadanos

1. La sentencia del Tribunal de Distrito de la Haya, de 5 de febrero de 2020, en el caso SyRI

1.1. SyRI: concepto, finalidad y funcionamiento

1.2. Cuestiones preliminares

1.3. Las conclusiones de fondo: SyRI a la luz del derecho fundamental a la vida privada

1.3.1. Previsión legal

1.3.2. La suficiencia de la norma

1.3.3. La perspectiva general de la necesidad de la injerencia en una Sociedad democrática

1.3.4. La necesidad en sentido estricto: la proporcionalidad y los principios generales de protección de datos

a) Transparencia versus opacidad y posible discriminación

b) Limitación de la finalidad

c) Minimización de datos

II.  Aproximación al nuevo procedimiento administrativo-sancionador automatizado en el ámbito de la Inspección de Trabajo y Seguridad Social al hilo del caso SyRI

1. El nuevo procedimiento sancionador promovido por actuación administrativa automatizada en el ámbito de la Administración General del Estado

2. Algunas reflexiones a través de los ojos del caso SyRI

III.  Bibliografía

PARTE SEGUNDA
DATOS PERSONALES Y PROCESO PENAL

CAPÍTULO 10
PRINCIPIO DE DISPONIBILIDAD Y LIBRE CIRCULACIÓN DE EVIDENCIAS Y DATOS PERSONALES EN EUROPA. NUEVAS GARANTÍAS Y NUEVOS RIESGOS PARA LOS DERECHOS INDIVIDUALES

STEFANO RUGGERI

I.   Los pilares de la cooperación probatoria e informativa en Europa: los principios de disponibilidad y de libre circulación

II.  Circulación probatoria, principio de contradicción y derecho de defensa

1. Límites a la obtención y libertad de transferencia de evidencias entre procedimientos

2. Principio de disponibilidad y free movement of evidence en el proyecto de armonización del derecho probatorio en la Unión europea

2.1. Límites y potencialidades de la Directiva sobre la euroorden de investigación

2.2. Los aportes de la jurisprudencia nacional y europea

III.  Cooperación informativa y libre circulación de datos. Un fenómeno de enorme magnitud y múltiples riesgos para los derechos individuales

IV.  Conclusiones

CAPÍTULO 11
PRUEBA PENAL GENERADA AUTOMÁTICAMENTE: EL NUEVO LÍMITE DE LA IGUALDAD DE ARMAS

SERENA QUATTROCOLO

I.   Introducción. La prueba penal en Europa

1. El concepto de prueba digital

2. Lo que escapa al concepto de prueba digital

II.  La prueba generada automáticamente

1. Transparencia y explicabilidad

2. El límite de la igualdad de armas

III.  Investigaciones digitales ‘extremas’

1. ¿Una paradoja?

IV.  Algunas conclusiones

CAPÍTULO 12
LA INVESTIGACIÓN EN LA EMPRESA, ILICITUD DE LA PRUEBA Y USO DE DATOS EN EL PROCESO PENAL

FERNANDO SOTO PATIÑO

I.   Introducción

II.  Los canales de denuncia

III.  La introducción legal de los canales de investigación interna

IV.  La investigación. Fases

1. El inicio de la investigación. Anonimato vs confidencialidad

2. Fase preliminar. El Juicio de suficiencia

3. Estructura de la investigación

4. Apertura de investigación

4.1. La investigación en sí. Los medios

4.2. Resultados y consecuencias

V.  El valor y riesgo de las investigaciones empresariales

1. El riesgo de afectación a derechos fundamentales

2. Evolución jurisprudencial de la sala cuarta del Tribunal Supremo

VI.  El estado de la cuestión en materia de ilicitud de la prueba obtenida en investigación interna

1. Evolución y apartamiento

VII.  Doctrina penal de la sala segunda acerca de la validez de las investigaciones internas corporativas

1. Consagración en el ámbito penal de un derecho a un entorno digital seguro. El derecho a la autodeterminación informativa

2. Eficacia horizontal de derechos fundamentales

3. Derechos de necesaria autorización judicial

4. La intimidad como derecho subsidiario

5. No aplicación de la regla de exclusión en particulares

6. Excepción a prefabricar la prueba para un proceso penal

7. Recepción de la doctrina del Juicio de proporcionalidad y puesta a disposición del social

VIII.  Bibliografía

CAPÍTULO 13
LA NUEVA DOCTRINA DEL TRIBUNAL SUPREMO FRENTE A LA JURISPRUDENCIA DEL TRIBUNAL DE JUSTICIA DE LA UNIÓN EUROPEA EN MATERIA DE CONSERVACIÓN PREVENTIVA DE DATOS DE TELECOMUNICACIONES

JOSÉ LUIS RODRÍGUEZ LAINZ

I.   Planteamiento

II.  El origen del problema: la incompatibilidad de los regímenes de conservación preventiva de datos por mandato directo de la Ley con el derecho de la Unión

III.  La defenestración de la Directiva 2006/24/CE: de la STJUE (gran sala) de 8 de abril de 2014 a la STJUE (gran sala) de 21 de diciembre de 2016

IV.  El punto de inflexión de la doctrina del Tribunal de Luxemburgo: la STJUE (Gran Sala), de 8 de octubre de 2020

V.  La influencia de la reciente jurisprudencia del Tribunal Europeo de Derechos Humanos en la evolución de la doctrina del Tribunal de Luxemburgo

VI.  La reacción del Tribunal Supremo: la STS 727/2020, de 23 de marzo de 2021

CAPÍTULO 14
LA LEY ORGÁNICA 7/2021, DE PROTECCIÓN DE DATOS EN MATERIA PENAL: ÁMBITO Y PRINCIPIO DE PROPORCIONALIDAD

JOSÉ ANTONIO COLMENERO GUERRA

I.   Introducción

II.  Aproximación a la regulación interna en materia de protección de datos

III.  Normas de la Unión Europea sobre protección datos, con incidencia en el ámbito penal

IV.  El Derecho al entorno virtual

V.  Sistema de protección de datos personales en el ámbito penal

1. Introducción

2. Fines de la Ley

3. Ámbito objetivo

3.1. Ámbito objetivo

3.1.1. Datos no automatizados

3.1.2. Materias sometidas al RGPD y la LOPDP

3.1.3. Materias de política exterior y de seguridad común

3.1.4. Materias no comprendidas en el ámbito de aplicación del Derecho de la UE

3.1.5. Materias clasificadas y tratamientos relativos a la Defensa Nacional

3.2. Ámbito subjetivo

3.2.1. Autoridades competentes

3.2.2. Categorías de interesados

4. Plazos de conservación y revisión de los datos personales

CAPÍTULO 15
LA DIALÉCTICA ENTRE DERECHOS FUNDAMENTALES Y SEGURIDAD EN EL USO PENAL DE LOS DATOS DE NUESTROS VUELOS EN LA UNIÓN EUROPEA

M.ª ÁNGELES CATALINA BENAVENTE

I.   Introducción

II.  La recogida de datos personales de quienes se desplazan en avión dentro de la Unión Europea

1. La recogida de los datos PNR

2. El Formulario de Localización de Pasajeros

III.  La finalidad para la que son recogidos los datos personales de los pasajeros

1. La prevención, detección, investigación y enjuiciamiento de los delitos de terrorismo y otros delitos graves, como fin de la recogida de los datos PNR

2. El control de la pandemia del COVID-19 como fin de la recogida de los datos personales incluidos en el PLF

IV.  La conservación de los datos personales de los pasajeros

1. La conservación de los datos PNR

2. La conservación de los datos incluidos en el PLF

V.  La posible utilización en el marco de un proceso penal de los datos personales de los pasajeros

1. La utilización de los datos PNR para la investigación y enjuiciamiento de delitos graves

1.1. Delitos graves en los que pueden ser utilizados los datos PNR

1.2. Transmisión de los datos PNR a las autoridades competentes para la investigación y enjuiciamiento de los delitos graves

1.3. Incorporación de los datos PNR al concreto proceso penal

2. La utilización de los datos incluidos en el PLF con fines penales

2.1. La posible persecución penal de los viajeros infectados

2.2. El derecho a la protección de datos de carácter personal y la utilización de los datos PLF con fines penales

CAPÍTULO 16
EL TRATAMIENTO DE LOS DATOS E INFORMACIONES GENERADOS COMO CONSECUENCIA DE LA EMISIÓN, RECONOCIMIENTO Y EJECUCIÓN DE UNA ORDEN EUROPEA DE INVESTIGACIÓN

RAÚL SÁNCHEZ GÓMEZ

I.   Introducción

II.  Sobre el concepto de orden europea de investigación

III.  Principales notas caracterizadoras de la orden europea de investigación

IV.  La protección de datos personales derivados de la emisión, reconocimiento o ejecución de una orden europea de investigación

1. El tratamiento de los datos personales obtenidos con la ejecución de una orden europea de investigación en la legislación española

2. El tratamiento de datos personales obtenidos tras la emisión de una orden europea de investigación por parte de la autoridad competente española

V.  El tratamiento de la confidencialidad del contenido de la orden europea de investigación

1. El acceso por los interesados a los datos generados como consecuencia de la emisión, reconocimiento o ejecución de una orden europea de investigación

2. El tratamiento de la confidencialidad en la emisión de una orden europea de investigación por parte de la autoridad competente española

3. El tratamiento de la confidencialidad en la ejecución de una orden europea de investigación por parte de la autoridad competente española

VI.  A modo de conclusión

VII.  Bibliografía

CAPÍTULO 17
LÍMITES PARA EL TRATAMIENTO DE LOS DATOS DE LOS NO INVESTIGADOS EN EL PROCESO PENAL

FRANCISCO JAVIER DE LEMUS VARA

I.   La inevitable acumulación de datos personales en la actividad propia de la administración de justicia

1. Situaciones y casos concretos

II.  El Derecho Constitucional afectado

III.  La normativa general de protección de datos: breve alusión a los derechos que se reconocen en la misma

IV.  El contenido de la Ley Orgánica 7/2021 de tratamiento de datos personales en el seno de un proceso penal

V.  Tratamiento de los datos que consistan en la tenencia de imágenes que capta la policía

VI.  Otros aspectos de la Ley

VII.  Conclusiones

CAPÍTULO 18
LÍMITES AL USO EN UN PROCESO PENAL DE LA INFORMACIÓN OBTENIDA EN UN REGISTRO ACORDADO EN UN PROCEDIMIENTO TRIBUTARIO

PABLO AZAÚSTRE RUIZ

I.   Introducción

II.  Límite de jurisdicción: supuesto de concurrencia de indicios racionales de criminalidad

1. Complicación en razón de la cuantía defraudada

2. Complicación en razón de la concurrencia de indicios racionales de criminalidad de otros delitos

III.  Límites relacionados con el propio procedimiento inspector

1. Subjetivos

2. Materiales

3. Temporales

4. Procesales

IV.  Límites resultantes de la propia autorización judicial de entrada y registro

V.  Límites desde la perspectiva del propio proceso penal

1. Cuestiones finalísticas o relacionadas con el principio de disponibilidad

2. Cuestiones procesales derivadas del diferente estándar de garantías

VI.  Conclusiones

VII.  Bibliografía

CAPÍTULO 19
LA VIDEOVIGILANCIA POR LAS FUERZAS Y CUERPOS DE SEGURIDAD DEL ESTADO: TRATAMIENTO DE LOS DATOS PERSONALES

RAQUEL LÓPEZ JIMÉNEZ

I.   Introducción

II.  Regulación

III.  Finalidades de la instalación y grabación de imágenes y sonido

1. Finalidad de prevención de los delitos

2. Finalidad de investigación de los delitos

IV.  Modalidades de los sistemas de grabación de la imagen y el sonido

1. Videocámaras fijas

2. Dispositivos móviles

V.  Régimen de tratamiento de los datos

VI.  Régimen disciplinario

VII.  Repercusión procesal de la grabación de imágenes y sonidos de las cámaras y videocámaras

1. Derechos de los interesados

2. Acceso a la información

3. Derecho a la rectificación, supresión y limitación del tratamiento

VIII.  Restricciones al derecho a la información, acceso, rectificación, supresión de datos personales y a la limitación de su tratamiento

IX.  Conclusiones

X.  Bibliografía

CAPÍTULO 20
LA OBTENCIÓN Y TRATAMIENTO DE DATOS DE CARÁCTER PERSONAL CON FINES PENALES POR LA POLICÍA JUDICIAL

JUAN ALEJANDRO MONTORO SÁNCHEZ

I.   La policía judicial: una autoridad competente para el tratamiento de datos con fines de investigación del delito

II.  Principios rectores del tratamiento de datos de carácter personal en el ámbito de la Ley Orgánica 7/2021

III.  El rol de la policía judicial en el organigrama del sistema de protección de datos

1. Breves notas sobre las figuras del responsable y encargado del tratamiento

2. La Policía Judicial: responsable y encargado del tratamiento simultáneamente

IV.  La obtención de datos de carácter personal por la Policía Judicial

1. Las diligencias policiales específicas de obtención de datos de carácter personal

1.1. Identificación de titulares o terminales o dispositivos de conectividad

1.2. Captación de códigos de identificación del aparato o de sus componentes

1.3. Diligencia de captación de imágenes en lugares o espacios públicos

Autores
Reseñas