Sinopsis

Los desarrollos tecnológicos basados en sistemas de Inteligencia Artificial están siendo incorporados a la organización productiva de las empresas con diversas finalidades. Se ha generalizado el uso de equipos robóticos avanzados, que incorporan sistemas de IA, con el fin de mejorar su eficacia y asegurar su adecuado mantenimiento y supervisión.

También comienza a ser frecuente la utilización de software, basado en IA, con fines de gestión de recursos humanos, de gestión preventiva o de vigilancia de la salud. La Unión Europea ha dado respuesta a estos nuevos desafíos con un paquete de propuestas legislativas de suma importancia para garantizar la viabilidad de los sistemas de IA, la seguridad de los productos a los que se incorporan y un régimen equilibrado de responsabilidades.

Partiendo de este incipiente marco legislativo, el propósito de la presente monografía es analizar las implicaciones jurídicas que la integración en la empresa de la Inteligencia Artificial plantea en el ámbito de la seguridad y salud en el trabajo desde una perspectiva interdisciplinar; tomando en consideración las nuevas propuestas normativas en materia de inteligencia artificial y de responsabilidad y la ya existente normativa en materia de prevención.

Índice

PRESENTACIÓN 17
PRIMERA PARTE
REGLAMENTO DE INTELIGENCIA ARTIFICIAL Y NORMATIVA DE SEGURIDAD DEL PRODUCTO: OBLIGACIONES Y RESPONSABILIDADES PARA EL FABRICANTE Y EMPRESARIO
Capítulo primero:
LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL EN EL ÁMBITO LABORAL Y EL MARCO REGULADOR EUROPEO DE SEGURIDAD DEL PRODUCTO 23
Beatriz Rodríguez Sanz de Galdeano
I. LA INCORPORACIÓN DE SISTEMAS DE IA EN LA EMPRESA Y SU IMPACTO EN MATERIA DE PREVENCIÓN DE RIESGOS LABORALES 24
1. Los avances tecnológicos determinantes de la industria 4.0 24
2. Aproximación a las principales aportaciones de la industria 4.0 en la empresa y sus implicaciones en materia de PRL 25
2.1.-Robótica avanzada 25
2.2. Sistemas de Gestión 27
2.3.- EPIS inteligentes 27
3. Algunas particularidades de estos nuevos equipos y los retos para el legislador 28
II. INSUFICIENCIA DEL MARCO NORMATIVO EXISTENTE Y PRIMEROS AVANCES EN EL SENO DE LA UE 31
1. Primeros pasos: el enfoque europeo en materia de IA 31
2. Creación de directrices éticas en materia de IA 32
3. Revisión de la normativa existente y formulación de propuestas legislativas 33
III. La propuesta de REGLAMENTO IA: una apuesta por una aproximación horizontal y coherente con el resto de bloques normativos 35
1. Amplitud de su ámbito de aplicación y apuesta por un planteamiento basado en niveles de riesgo 36
2. Enfoque horizontal y sistema entrelazado con el resto de normativa 38
3. Fijación de requisitos generales y remisión a las especificaciones técnicas 39
IV. Vuelta a lo concreto: los requisitos de seguridad de los nuevos sistemas de IA utilizados en el ámbito laboral 40
1. Robots-máquinas: normativa de máquinas y legislación de IA 40
1.1. Concepto de máquina y sistemas de IA 42
1.2. Procedimiento de evaluación y certificación de los sistemas de IA incluidos en el campo de aplicación de la normativa de máquinas 44
1.3. Requisitos esenciales de seguridad 46
1.4. Las normas técnicas y los organismos de normalización para las máquinas con sistemas de IA 48
2. Normativa de seguridad para la fabricación de EPIs inteligentes 49
3. Exoesqueletos: ni máquinas ni productos sanitarios 52
4. Vehículos guiados en el ámbito de la empresa 53
5. Drones 53
6. Software de gestión independiente 54
V. Las obligaciones del empresario respecto de productos que incorporan sistemas de IA 56
1. Integración en el ámbito laboral de productos seguros: obligación de evaluación de riesgos, de formación e información 57
2. La alteración y adaptación del equipo: el empresario como posible fabricante 58
3. El empresario como usuario de un sistema de IA 61
4. Las obligaciones del empresario como posible responsable de tratamiento de datos 62
VI. Algunos desafíos pendientes 67
VII. BIBLIOGRAFÍA 69
Capítulo segundo:
EL REGLAMENTO UE DE INTELIGENCIA ARTIFICIAL Y SU INTERRELACIÓN CON LA NORMATIVA DE SEGURIDAD Y SALUD EN EL TRABAJO 73
José Luis Goñi Sein
I. INTRODUCCIÓN: PROCESO DE REGULACIÓN DE LA LEY DE IA 73
II. COHERENCIA CON EL ACERVO SOCIAL EUROPEO: DIRECTIVA DE SEGURIDAD Y SALUD LABORAL. 77
III. DISEÑO EUROPEO DE INTELIGENCIA ARTIFICIAL: 82
1. Definición de IA 82
2. Pirámide de riesgos 83
3. Requisitos obligatorios para los sistemas de IA de “Alto Riesgo” 90
IV. SISTEMAS DE IA EN EL TRABAJO Y SU IMPACTO EN LA SEGURIDAD Y SALUD LABORAL: 93
1. Automatización por IA: dispositivos robóticos 95
2. Software de gestión algorítmica 98
3.Trabajo en plataformas digitales 101
V. LA IA DE ALTO RIESGO Y GESTIÓN DE RIESGOS DE SEGURIDAD Y SALUD LABORAL 103
1. Identificación de riesgos asociados a IA 106
2. Evaluación de riesgos 106
3. Medidas de gestión de riesgos 107
VI. TRANSPARENCIA ALGORÍTIMICA Y GOBERNANZA PARTICIPATIVA 110
1. La información como contenido previo de fiabilidad del sistema de IA 110
2. Sistemas de IA y participación sindical 112
3. Derecho de los trabajadores a una explicación de las decisiones automatizadas y a impugnarlas. 114
VII. CONCLUSIONES 116
VIII. BIBLIOGRAFÍA 119
Capítulo tercero:
Responsabilidad civil en materia de inteligencia artificial y su incidencia en el ámbito de reparación del daño derivado de Accidente de Trabajo y Enfermedad Profesional español 123
Julen Llorens Espada
I. Daños por sistemas de IA en el ámbito laboral 123
1. Robot con integración de sistemas de IA 127
2. Sistemas de IA integrados en aplicaciones dirigida a la gestión de la PRL 129
II. RETOS 132
1. Imputación y delimitación de la responsabilidad 132
2. ConJugar diversos bloques normativos 138
2.1. Responsabilidad civil adicional en materia de seguridad y salud en el trabajo 139
2.2. Responsabilidad del fabricante 143
a) Seguridad del producto 143
b) Prevención de Riesgos Laborales 145
2.3. Compatibilidad con la responsabilidad civil en protección de datos 145
2.4. Compatibilidad con el sistema de Seguridad Social 147
2.5. Responsabilidad penal 148
III. Las claves del nuevo sistema 149
1. Exhibición de pruebas 149
2. Presunción de relación de causalidad en caso de culpa 151
2.1. Sistemas de IA de no “alto riesgo” 151
2.2. Sistemas de IA de “alto riesgo” 154
a) Diligencia digital de los proveedores 155
b) Diligencia digital de las empresas que actúen como usuarias del sistema de IA 156
Bibliografía 157
SEGUNDA PARTE
LA INCORPORACIÓN DE SISTEMAS DE INTELIGENCIA ARTIFICIAL EN LA EMPRESA Y SU IMPACTO EN MATERIA DE PREVENCIÓN DE RIESGOS LABORALES
Capítulo Cuarto:
APORTACIONES DE LA INTELIGENCIA ARTIFICIAL EN MATERIA PREVENTIVA Y NUEVOS RIESGOS EMERGENTES 161
Mirentxu Marín Malo
I. INTRODUCCIÓN 161
II. LOS SISTEMAS DE IA COMO HERRAMIENTA PARA LA MEJORA DE LAS CONDICIONES DE SEGURIDAD Y SALUD EN EL TRABAJO 166
1. El uso de sistemas de IA para la gestión de la prevención en la empresa 167
1.1. La adopción de medidas preventivas basadas en sistemas de IA 167
1.2. La IA como medio para facilitar el cumplimiento de ciertas obligaciones específicas del empresario en materia preventiva. 168
1.3. Los sistemas de IA como medio para dar cumplimiento a obligaciones empresariales que exigen la presencia de personal especializado en el centro de trabajo 169
2. La IA como garantía de una formación en materia preventiva suficiente y adecuada 171
3. Los sistemas de IA como herramienta para la mejora de las condiciones de seguridad y salud del centro de trabajo 173
3.1. La mejora de la ergonomía 174
3.2. Las posibles mejoras en condiciones ambientales del centro de trabajo 175
3.3. La IA como herramienta para aumentar los niveles de seguridad y salud generales de los trabajadores 177
III. RIESGOS LABORALES EMERGENTES ASOCIADOS A LA INTELIGENCIA ARTIFICIAL 177
1. Los riesgos psicosociales vinculados a la implantación de sistemas de IA en la prestación de servicios a través de plataformas digitales 178
1.1. Riesgos derivados del uso de la digitalización del medio laboral como medio de control 179
1.2. La IA como medio para el seguimiento y valoración del trabajo prestado 181
1.2.1. La evaluación por parte de la empresa 181
1.2.2. La evaluación por parte del cliente 184
2. La robotización “inteligente” como origen de nuevos (y viejos) riesgos laborales 185
2.1 La deshumanización del trabajo 190
2.2. Los riesgos mecánicos derivados de la robotización del medio laboral 192
IV. BIBLIOGRAFÍA 193
Capítulo quinto:
INTELIGENCIA ARTIFICIAL Y SALUD LABORAL 197
Julen Llorens Espada
I. INTRODUCCIÓN: INTELIGENCIA ARTIFICIAL DESDE EL ÁMBITO DE LA SALUD 197
II. APLICACIÓN DE LA IA Y VIGILANCIA DE LA SALUD 201
1. Diagnósticos de salud a través de modelos predictivos y vigilancia de la salud en la empresa 201
2. Diagnósticos predictivos y reconocimientos médicos obligatorios para cubrir puestos de trabajo con riesgo de enfermedades profesionales 203
III. MONITORIZACIÓN DE LA SALUD DE LOS TRABAJADORES A TRAVÉS DE SISTEMAS DE IA Y GESTIÓN DE PRL 209
1. Wereables e IoT con fines de prevención de riesgos laborales 211
2. Equipos de Protección Individual inteligentes 215
3. Plataformas de gestión de la prevención de riesgos laborales 220
4. Riesgos de la gestión de la PRL a través de IA 224
IV. SISTEMAS DE IA Y PROTECCIÓN DE DATOS PERSONALES EN EL ÁMBITO DE LA SALUD LABORAL 226
1. Vigilancia de la salud mediante IA y protección de datos personales 227
2. Garantías del marco legal de prevención de riesgos laborales ante la vigilancia de la salud a través de sistemas de IA 230
2.1. Voluntariedad y derecho de información 231
2.2. Finalidad y proporcionalidad 233
2.3. Confidencialidad y personal habilitado 234
3. Garantías del marco legal de protección de datos en el tratamiento de datos de salud 238
3.1. Legitimación en el tratamiento de datos personales de salud con fines de prevención de riesgos laborales 238
3.2. Tratamiento automatizado de datos de salud: bases de legitimación 240
3.3. Tratamiento semi-automatizado de datos de salud: bases de legitimación 244
4. Principios generales de protección de datos 245
V. BIBLIOGRAFÍA 248
Capitulo sexto:
UTILIZACIÓN DE NUEVAS TECNOLOGIAS CON FINES DE GESTION PREVENTIVA. POSIBILIDADES A LA LUZ DE LA NORMATIVA EN MATERIA DE SEGURIDAD Y SALUD LABORAL 253
Luis Pérez Capitán
I. INTRODUCCIÓN 254
II. LAS NUEVAS TECNOLOGÍAS EN EL ÁMBITO FORMATIVO DE PREVENCIÓN DE RIESGOS LABORALES 256
1- Una breve reflexión previa. 256
2 Las plataformas digitales: ¿instrumentos adecuados para la formación preventiva? 258
III.- LA ADECUACIÓN DEL USO DEL SISTEMA DE VIGILANCIA A DISTANCIA COMO INSTRUMENTO DEL CUMPLIMIETNO DE LAS OBLIGACIONES DE VIGILANCIA ESTABLECIDAS EN LA REGULACIÓN PREVENTIVA. 268
1 Los sistemas de control remoto y la obligación general de vigilancia empresarial. 269
1.1. Una breve referencia a la obligación de vigilancia empresarial. 269
1.2. Supuestos específicos de vigilancia: los medios de protección personal y otras situaciones. 271
2 La adecuación de los sistemas de control remoto para el cumplimiento de esta obligación general. 272
3. La vigilancia ante las situaciones de riesgo agravado: los recursos preventivos. Examen de la adecuación de los sistemas de control remoto al cumplimiento de esta obligación. 274
3.1. Una introducción acerca del recurso preventivo. 274
3.2. La adecuación de los sistemas de control remoto para suplir la presencia física del recurso preventivo. 277
4. La adecuación de los sistemas de control remoto para el cumplimiento de la obligación de vigilancia en los casos de concurrencia de actividades empresariales. 279
4.1. La adecuación de los medios de control remoto para el cumplimiento de la obligación de vigilancia del empresario principal. 279
4.2. El encargado de coordinación y las posibilidades del cumplimiento de sus obligaciones de vigilancia a través de sistema de control remoto. 281
5. Los sistemas de control remoto y la obligación de vigilancia en el ámbito de las obras de construcción. 284
5.1. Las herramientas de control remoto y su conciliación con las obligaciones de vigilancia del coordinador en materia de seguridad y de salud durante la ejecución de la obra. 285
5.2. Algunas menciones específicas al deber de vigilancia: director de obra y director de ejecución de obra. 289
6. Los Servicios de Prevención como sujetos obligados a efectuar una actividad de vigilancia. 290
IV. CONCLUSIONES 291
V. BIBLIOGRAFÍA 292
TERCERA PARTE
RESPONSABILIDAD CIVIL POR DAÑOS DERIVADOS DE LA INTELIGENCIA ARTIFICIAL
Capítulo séptimo:
MARCO NORMATIVO GENERAL Y PROPUESTAS DE REGULACIÓN EN LA RESPONSABILIDAD CIVIL 297
Mª Ángeles Egusquiza Balmaseda.
I. CONSIDERACIONES PREVIAS. 297
II. COMPLEMENTARIEDAD NORMATIVA COMO AXIOMA EN LA REGULACIÓN FUTURA DE LA UE SOBRE RESPONSABILIDAD CIVIL POR IA. 302
III. PROPUESTA DE DIRECTIVA SOBRE RESPONSABILIDAD CIVIL EN MATERIA DE IA. 308
1. Planteamiento general. 308
2. Objeto y ámbito de aplicación. 308
3. Contenido de la armonización en materia de responsabilidad civil extracontractual por IA. 313
3.1. Aspectos generales. 313
3.1.1. La exhibición de pruebas y presunción refutable de incumplimiento en los sistemas de IA de alto Riesgo. 315
3.1.2. La presunción refutable de la relación de causalidad. 323
IV. A MODO DE CONCLUSIÓN. 327
V. BIBLIOGRAFÍA 328
Capítulo octavo:
EL CONCEPTO LEGAL DE PRODUCTO A LA LUZ DE LA NUEVA PROPUESTA DE DIRECTIVA SOBRE RESPONSABILIDAD POR LOS DAÑOS CAUSADOS POR PRODUCTOS DEFECTUOSOS 331
María Jorqui Azofra
I. INTRODUCCIÓN 331
II. RAZONES QUE JUSTIFICAN LA REVISIÓN DEL ACTUAL CONCEPTO LEGAL DE PRODUCTO PARA SU ADAPTACIÓN A LA ERA DIGITAL 339
III. LA DEFINICIÓN DE PRODUCTO EN LA NUEVA PROPUESTA DE DIRECTIVA SOBRE RESPONSABILIDAD POR LOS DAÑOS CAUSADOS POR PRODUCTOS DEFECTUOSOS 360
IV. CONSIDERACIONES FINALES 374
V. BIBLIOGRAFÍA 386
Capítulo noveno:
RESPONSABILIDAD CIVIL POR EL SUMINISTRO DE CONTENIDOS Y SERVICIOS DIGITALES 391
Raquel Luquin Bergareche
I. INTRODUCCION. DIGITALIZACION Y SERVICIOS 391
II. RESPONSABILIDAD CIVIL POR EL SUMINISTRO DE SERVICIOS DIGITALES: ENCUADRE NORMATIVO. 398
1. La “Directiva de servicios digitales” y su transposición mediante Real Decreto-Ley 7/2021, de 27 de abril. 398
1.1. Ámbito normativo. 400
1.2. Precisiones terminológicas. 401
1.3. Responsabilidad civil contractual derivada de la prestación de servicios digitales. 403
1.3.1. La Directiva (UE) 2019/770 del Parlamento Europeo y del Consejo de 20 de mayo de 2019 relativa a determinados aspectos de los contratos de suministro de contenidos y servicios digitales (“Directiva de servicios digitales”). 403
1.3.2. El Real Decreto-Ley 7/2021, de 27 de abril: modificaciones en la normativa española relativa al suministro de productos y servicios digitales a consumidores. 408
III. EL REGLAMENTO RELATIVO A UN MERCADO ÚNICO DE SERVICIOS DIGITALES O LEY DE SERVICIOS DIGITALES (“DIGITAL SERVICES ACT” O DSA). 428
1. Marco normativo para el proceso europeo de digitalización. 428
2. Los servicios de intermediación en línea: intermediación, alojamiento de datos y plataformas en línea. 429
3. Nuevo régimen de responsabilidad de los prestadores de servicios digitales que actúan como intermediarios. 432
3.1. Ámbito de aplicación: la “conexión sustancial” del intermediario con la Unión Europea. 432
3.2. Precisiones terminológicas. 435
3.3. La exención de responsabilidad horizontal de los prestadores de servicios de la sociedad de la información: los “safe harbours” o puertos seguros. 438
3.4. Régimen de responsabilidad de los intermediarios. 445
3.4.1. Exención de responsabilidad de los intermediarios de mera transmisión o alojamiento de datos (“caching” y “hosting”) y por investigaciones por iniciativa propia o voluntarias para detectar, identificar y retirar contenidos ilícitos o inhabilitar el acceso a los mismos . 445
3.4.2. Actuaciones contra contenidos ilícitos. 447
3.4.3. Ordenes de entrega de información por las autoridades nacionales judiciales o administrativas. 449
3.4.4. El indeterminado criterio de la “diligencia debida” de los prestadores de servicios intermediarios para crear un entorno en línea transparente y seguro. 449
3.4.5. Notificación y acción frente a contenidos ilícitos. 453
4. Régimen de responsabilidad de las plataformas en línea. 455
5. Plataformas en línea de muy gran tamaño: obligaciones adicionales y régimen reforzado. 461
IV. BIBLIOGRAFÍA 463