Sinopsis

La inteligencia artificial (IA) es una realidad cotidiana que afecta a todos los ámbitos. Supone un enorme potencial de mejora de los servicios públicos y de progreso económico. Su desarrollo es una apuesta estratégica en todos los países avanzados.

La aplicación de la IA en el sector público tiene una problemática específica, especialmente cuando se emplea como soporte para la toma de decisiones: otorgamiento de ayudas o de derechos, acceso a servicios públicos, controles de cumplimiento, inicio de inspecciones o de expedientes sancionadores. En tales casos se ven involucrados derechos fundamentales y garantías específicas previstas en la legislación aplicable al sector público, exigibles aunque no se hayan dictado normas específicas sobre IA.

Esta obra reúne a especialistas en la materia con el fin de determinar el marco jurídico al que se sujeta la aplicación de soluciones de IA en el sector público. Los autores proceden tanto del ámbito académico y científico, como profesionales involucrados en el diseño e implantación de sistemas de IA, combinando así todas las dimensiones necesarias para el provechoso análisis de la problemática desde el profundo conocimiento que cada uno de ellos ostenta en la materia.
Esta obra es indispensable para conocer la realidad contemporánea del sector público, e interesa a todos los operadores jurídicos, en sus respectivas ramas de actividad.

Índice

Abreviaturas y acrónimos 25
Prefacio 31
Eduardo Gamero Casado, Francisco L. Pérez Guerrero
PRIMERA PARTE:
LA INTELIGENCIA ARTIFICIAL Y SUS APLICACIONES
EN EL SECTOR PÚBLICO
Capítulo I
¿Qué es la Inteligencia Artificial?
Francisco González Cabanes
Norberto Díaz Díaz
1.- INTRODUCCIÓN a la inteligencia artificial 38
1.1.- Conceptos Previos y Aclaraciones 38
1.2.- Historia 43
1.3.- Casos de Uso de la Inteligencia Artificial 45
2.- El Proceso de Extracción de Conocimiento: KDD 47
2.1.- Mecanismos de Aprendizaje 49
2.2.- Generalización del Conocimiento 50
3.- Algoritmos clásicos de aprendizaje 51
3.1.- Aprendizaje Supervisado 51
3.1.1.- Arboles de Decisión 51
3.2.- Aprendizaje No Supervisado 54
3.2.1.- Clustering 54
3.2.2.- Biclustering 56
3.3.- Redes Neuronales 57
4.- La Revolución Digital y del Dato 61
4.1.- La Importancia de Los Datos 63
5.- Algoritmos modernos de aprendizaje: Deep Learning 64
5.1.- Redes Neuronales Profundas: Deep Learning 64
5.2.- Diferencias entre Machine Learning y Deep Learning 64
5.3.- Transversalidad del Deep Learning 67
5.4.- Transfer Learning 68
6.- El presente y futuro de la Inteligencia articicial 69
7.- Conclusiones 70
8.- BIBLIOGRAFÍA CITADA 71
Capítulo II
¿Para qué sirve la Inteligencia Artificial en el sector público? Casos de uso y perspectivas de aplicación
Carlos Torrecilla-Salinas, Luca Tangi, Peter Ulrich, Marina Manzoni, Sven Schade, Eva Martínez-Rodríguez, Francesco Pignatelli
1.- ¿Cómo definir la inteligencia artificial? 74
2.- ¿Por qué es importante la inteligencia artificial para el sector público? 76
3.- ¿Cómo se utiliza actualmente la Inteligencia Artificial en el sector público? 79
4.- Conclusiones y recomendaciones 88
BIBLIOGRAFÍA CITADA 90
SEGUNDA PARTE:
RÉGIMEN JURÍDICO
Sección primera: Algoritmos y Derecho
Capítulo III
La naturaleza jurídica de los algoritmos
Antonio David Berning Prieto
1.- INTRODUCCIÓN 96
2.- Conceptualización de los algoritmos y distinción de figuras afines 97
3.- Posiciones doctrinales existentes 101
4.- La verdadera problemática que subyace: la necesidad de dotar de garantías jurídicas suficientes al uso de algoritmos por parte de la Administración 104
4.1.- La única solución posible: dotar a los algoritmos de un régimen jurídico adecuado 104
4.3.- Del control de las decisiones adoptadas por los poderes públicos mediante el uso de algoritmos predictivos 113
4.4.- De los diversos sesgos a que pueden dar lugar la actividad administrativa al hacer uso de los algoritmos 115
4.4.1.- Posibles sesgos derivados del empleo de algoritmos en el procedimiento administrativo 116
4.4.2.- Posibles sesgos derivados del empleo de algoritmos en la prestación de servicios públicos 119
4.4.3.- Posibles sesgos en usos algorítmicos relacionados con el ejercicio de las potestades de investigación o comprobación de las administraciones públicas 121
4.5.- De la necesidad de prever, en las licitaciones públicas, la cesión en favor de la Administración de los derechos de propiedad intelectual o industrial inherentes a los algoritmos que se desarrollen o se utilicen 124
5.- Conclusiones 127
BIBLIOGRAFÍA CITADA 129
Capítulo IV
La aplicación del principio de transparencia a la actividad administrativa algorítmica
Isaac Martín Delgado
1.- A MODO DE INTRODUCCIÓN 132
1.1.- El gran reto para el jurista 132
1.2.- Algunas preguntas previas 136
2.- CONCEPTO Y CONTEXTO 140
3.- PRETEXTO 146
4.- LA TRANSPARENCIA DE LA ACTIVIDAD ADMINISTRATIVA ALGORÍTMICA 153
4.1.- Premisa 153
4.2.- Un ejercicio práctico: regular la transparencia de la actividad administrativa algorítmica 154
4.3.- Publicidad activa y derecho de acceso en relación con el uso de IA en el sector público 162
5.- A MODO CONCLUSIÓN: ALGUNAS GARANTÍAS NECESARIAS 172
BIBLIOGRAFÍA CITADA 188
Capítulo V
Seres humanos e inteligencia artificial: discrecionalidad artificial, reserva de humanidad y supervisión humana
Juli Ponce Solé
1.- INTRODUCCIÓN: OBJETO DE ESTE ANÁLISIS 196
2.- HUMANOS, EMPATÍA, INTELIGENCIA ARTIFICIAL, DISCRECIONALIDAD 199
3.- RESERVA DE HUMANIDAD Y “DISCRECIONALIDAD ARTIFICIAL” 206
3.1.- Reserva de humanidad general 207
3.2.- Reserva de humanidad referida al ejercicio de la discrecionalidad 209
4.- SUPERVISIÓN HUMANA DE LA IA: THE HUMAN IN THE LOOP 213
5.- CONCLUSIONES Y TEMAS PARA CONSIDERAR EN EL FUTURO 218
BIBLIOGRAFÍA CITADA 224
Capítulo VI
Responsabilidad administrativa por el uso de la Inteligencia Artificial
Rubén Martínez Gutiérrez
1.- PLANTEAMIENTO GENERAL 228
2.- ASPECTOS CONCEPTUALES DE LA RESPONSABILIDAD ADMINISTRATIVA POR EL USO DE LA IA 229
2.1.- Concepto de Inteligencia Artificial a los efectos del presente estudio 229
2.2.- Concepto legal de responsabilidad administrativa 232
3.- BREVE REFERENCIA A LAS ESPECIALIDADES DEL PROCEDIMIENTO PARA EXIGIR RESPONSABILIDAD ADMINISTRATIVA 235
3.1.- Iniciación del procedimiento 235
3.1.1.- Inicio de oficio. Una modalidad de inicio con buen encaje en supuestos de daño por IA 235
3.1.2.- Inicio a solicitud de las personas interesadas 236
3.2.- Instrucción del procedimiento 237
3.2.1.- Los informes y dictámenes en los procedimientos de responsabilidad patrimonial 237
3.2.2.- Las especialidades del trámite de audiencia en materia de responsabilidad patrimonial 239
3.3.- Terminación del procedimiento 239
3.3.1.- Los órganos competentes para resolver procedimientos de responsabilidad patrimonial 239
3.3.2.- La resolución de los procedimientos de responsabilidad patrimonial. Especialidades 240
4.- EL PARÁMETRO DE CALIDAD Y LOS ELEMENTOS PARA LA EXIGIBILIDAD DE LA RESPONSABILIDAD ADMINISTRATIVA POR IA 241
4.1.- Elementos para la exigibilidad de la responsabilidad administrativa 241
4.2.- Parámetro de la calidad en el uso de tecnologías de IA en el sector público 244
5.- SUPUESTOS DE POSIBLE APLICACIÓN DE LA RESPONSABILIDAD ADMINISTRATIVA POR INTELIGENCIA ARTIFICIAL 247
6.- CONCLUSIONES 249
BIBLIOGRAFÍA CITADA 251
Sección Segunda: Los derechos y la legislación administrativa como límites a la IA
Capítulo VII
Discriminación, sesgos e igualdad de la inteligencia artificial en el sector público
Lorenzo Cotino Hueso
1.- Sesgos y discriminación algorítmica ¿De qué hablamos? y algunos ejemplos 260
1.1.- Sesgos, errores y discriminación algorítmica y la conveniencia de abordarlos conjuntamente 260
1.2.- Algunos ejemplos de discriminación algorítmica pública 262
2.- ¿Por qué se generan la discriminación y los sesgos algorítmicos? 269
3.- ¿Respecto de qué IA pública es exigible la no discriminación? 272
3.1.- La igualdad es exigible respecto de los sistemas de IA públicos, sus usos y sus efectos, aunque resulte difícil su categorización 272
3.2.- El grado de legalidad exigible para diseño, implantación y uso del sistema de IA público 276
4.- ¿Cuándo el uso público de un sistema de IA tiene impacto y suficiente relevancia jurídica y puede constituir una discriminación algorítmica? 277
4.1.- Los criterios y variables para determinar el impacto, nivel de riesgo y relevancia jurídica de los sistemas algorítmicos públicos 277
4.2.- ¿Cuándo el sesgo y el error algorítmico es relevante para constituir una discriminación? Datos estadísticos en discriminaciones indirectas y la necesidad de “recalibrarlos” a la baja para la IA pública 283
5.- Discriminaciones algorítmicas por error, directas, indirectas, intereseccionales y acciones positivas algorítmicas 285
5.1.- La discriminación o sesgo algoritmo será en la mayoría de supuestos “discriminación por error” 286
5.2.- Discriminaciones algorítmicas directas, interseccionales y por asociación 286
5.3.- La complejidad de las discriminaciones algorítmicas indirectas 287
5.4.- Acciones positivas algorítmicas, deber de diferenciación y modulaciones y compensaciones para la minimización de la discriminación 289
6.- ¿Cuándo un sistema algorítmico público que NO tiene en cuenta circunstancias especialmente sospechosas es discriminatorio? 291
6.1.- La igualdad “en” la ley o norma que habilite el uso del sistema de IA y el control laxo de la posibilidad de establecer diferencias de tratos razonables y no arbitrarios 291
6.2.- Control de discriminación y arbitrariedad y exigencias de motivación en los casos de aplicación algorítmica de la ley. Decisiones automatizadas discrecionales y supuestos no especialmente sospechosos 294
7.- ¿Cuándo un sistema algorítmico público que SÍ tiene en cuenta circunstancias especialmente sospechosas es discriminatorio? 298
7.1.- Las garantías frente a las discriminaciones algorítmicas especialmente prohibidas se superponen por lo general a las garantías de los tratamientos de datos especialmente protegidos 298
7.2.- En la mayoría de casos será necesaria una ley de calidad y con garantías que habilite a que un sistema de IA pueda diferenciar en razón de datos especialmente sospechosos de discriminación. Y no la hay 299
7.3.- Un canon de control “mucho más” estricto, e incluso excepcionalmente estricto 302
7.4.- La necesidad de regular legalmente el uso de datos especialmente protegidos para poder evaluar y minimizar la posible discriminación 303
8.- Zonas grises. Garantías ante el uso por el sistema de IA público de “proxies” y grupos algorítmicos 304
8.1.- Tratamientos diferentes a partir de “proxies” o datos afines o indirectos de grupos especialmente protegidos 304
8.2.- Creación dinámica de grupos y colectivos humanos y la privacidad y no discriminación colectiva y de grupo 305
9.-¿Cómo probar la discriminación algorítmica pública? Inversión general de la carga de la prueba y la necesidad de la transparencia y explicabilidad 307
9.1.- Los indicios que debe aportar la persona afectada por el sistema de IA público. Inversión general de la carga de la prueba y sus excepciones 308
9.2.- Lo que debe probar el proveedor o el usuario del sistema de IA público 311
10.- Más vale prevenir que discriminar. ¿Cuáles son los remedios y mejores prácticas para evitar la discriminación algorítmica pública? 313
11.- La (creciente) obligación de diseño y estudios de impacto frente a la discriminación algorítmica de los sistemas de IA públicos 320
11.1.- Los deberes de responsabilidad proactiva, privacidad en el diseño o estudio de impacto ya son exigibles en general a los usos públicos de la IA 320
11.2.- Los usos públicos de IA de alto riesgo habrán de cumplir, además, los deberes del RIA 323
11.3.- La extensión de estudios de impacto y la obligatoriedad de medidas para la no discriminación de los sistemas de IA públicos 325
11.4.- La necesidad de una visión social y colectiva y de integrar garantías de calidad de datos y de participación 329
12.- Y si los remedios no valen, ¿qué pasa cuando se detecta una discriminación algorítmica pública? 330
12.1.- Obligaciones de mitigación, rectificación, corrección e incluso cese de uso del sistema de IA público 330
12.2.- Nulidad, anulabilidad e inderogabilidad de los sistemas de IA público y sus efectos 332
12.3.- Los efectos de la discriminación algorítmica en el contexto de la contratación administrativa 334
12.4.- Responsabilidad por el uso de IA público 335
13.- ¿Quiénes pueden reaccionar ante una discriminación algorítmica y qué autoridades deben actuar? 336
BIBLIOGRAFÍA CITADA 338
Capítulo VIII
Las singularidades del tratamiento de datos de carácter personal en entornos de inteligencia artificial en el sector público
Julián Valero Torrijos
1.- El uso de datos personales por las administraciones públicas y la inteligencia artificial 354
2.- El contexto tecnológico y regulatorio 357
2.1.- La singularidad de la tecnología y su proyección sobre el objeto de estudio: el planteamiento del RGPD 357
2.2.- La regulación sobre las garantías y medidas de seguridad que deben adoptarse con relación al uso de medios electrónicos en la actividad administrativa 362
3.- Las bases jurídicas para el tratamiento de los datos de carácter personal 364
3.1.- Las limitaciones del consentimiento como base jurídica para el tratamiento de datos personales en el sector público 364
3.2.- Las singularidades de los datos de categoría especial: el caso de los datos biométricos 366
3.3.- El sentido y alcance de la habilitación legal para el tratamiento de los datos personales sin consentimiento: una moneda de dos caras 368
4.- Las condiciones para la licitud del tratamiento 372
4.1.- El alcance de los principios generales y su proyección en los tratamientos basados en IA por parte de las Administraciones Públicas 372
4.1.1.- La singular eficacia del principio de transparencia en la normativa sobre protección de datos personales 374
4.1.2.- El alcance de las limitaciones impuestas por el principio de minimización 376
4.1.3.- La prohibición de usos incompatibles y la limitación del tiempo de conservación de los datos 377
4.2.- El efectivo cumplimiento de las normas de seguridad: la relevancia del análisis de riesgos y la evaluación de impacto 379
4.3.- La externalización en la gestión de las herramientas basadas en el uso de IA: las condiciones jurídicas en el encargo del tratamiento de datos personales 384
5.- lA INCIDENCIA DEL INCUMPLIMIENTO DE LA REGULACIÓN en materia de PROTECCIÓN DE DATOS PERSONALES SOBRE LA VALIDEZ DE LA ACTUACIÓN ADMINISTRATIVA 388
6.- REFLEXIÓN FINAL 391
BIBLIOGRAFÍA Y OTRAS REFERENCIAS CITADAS 392
Capítulo IX
Las garantías de régimen jurídico del sector público y del procedimiento administrativo común frente a la actividad automatizada y la inteligencia artificial
Eduardo Gamero-Casado
1.- INTRODUCCIÓN 398
1.1.- Acotación material: sistemas de IA para soporte a la toma de decisiones 398
1.2.- Las especialidades de la IA en el sector público y su sujeción al Derecho administrativo general sin necesidad de disposiciones que lo establezcan expresamente 400
2.- ACTIVIDAD ADMINISTRATIVA AUTOMATIZADA: PREVISIONES EN LA LEY 40/2015, DE RÉGIMEN JURÍDICO DEL SECTOR PÚBLICO 403
2.1.- El concepto de “actuación administrativa automatizada” y los grados de automatización 404
2.2.- La aprobación de la implantación del sistema 407
2.3.- El órgano competente para implementar los sistemas de IA y atribuirle su actividad. Firma electrónica de decisiones automatizadas 409
2.4.- La supervisión, control de calidad y auditoría del sistema y de su código fuente 411
2.4.1.- Encuadre general. El deber legal de implantar estos controles de la IA 411
2.4.2.- Control de calidad y auditoría del sistema de información y de su código fuente 413
2.4.3.- Supervisión humana. La necesidad de compliance jurídico 416
2.4.4.- Incumplimiento del requisito de mantenimiento, supervisión y control de calidad y, en su caso, auditoría del sistema: invalidez de la actuación automatizada por vulneración del art.48.2 LPAC 421
3.- INTELIGENCIA ARTIFICIAL Y PROCEDIMIENTO ADMINISTRATIVO: GARANTÍAS DEL PROCEDIMIENTO ADMINISTRATIVO COMÚN 423
3.1.- Encuadre: la pérdida de derechos ante la administración digital 423
3.2.- El derecho a subsanar la presentación de escritos 427
3.3.- El derecho de audiencia 428
3.4.- La motivación de los actos administrativos adoptados mediante sistemas de IA 430
3.4.1.- La motivación como requisito de validez de los actos dictados mediante IA 430
3.4.2.- Alcance y medio de la motivación: reglas especiales en relación con la IA 433
3.4.3.- La omisión de motivación genera indefensión y determina la invalidez de los actos dictados con sistemas de IA. Jurisprudencia nacional, comparada y del TJUE 439
3.4.4.- Consecuencia: prohibición de algoritmos de caja negra en la toma de decisiones por el sector público. ¿Posibilidad de articular en el futuro una manera distinta de motivar, cuando se trata de decisiones sustentadas en IA? 445
3.5.- Inteligencia artificial y discrecionalidad administrativa 448
4.- FINAL: LA INACEPTABLE TENSIÓN ENTRE PROGRESO TECNOLÓGICO Y GARANTÍAS DE LA CIUDADANÍA; LUCES Y SOMBRAS DE LA REGULACIÓN ESPECÍFICA DE LA IA EN EL SECTOR PÚBLICO 452
BIBLIOGRAFÍA CITADA 455
TERCERA PARTE:
MEDIOS PARA LA IMPLEMENTACIÓN DE LA INTELIGENCIA ARTIFICIALEN EL SECTOR PÚBLICO
Capítulo X
Reutilización de la información del sector público e inteligencia artificial
Agustí Cerrillo i Martínez
1.- DATOS e Inteligencia artificial 466
2.- El impulso europeo de la reutilización de datos públicos y su contribución aL desarrollo de la inteligencia artificial 469
3.- La reutilización de datos para el desarrollo de la inteligencia artificial 475
3.1.- La reutilización de datos públicos 475
3.1.1.- La apertura de datos públicos 475
3.1.2.- La reutilización de determinadas categorías de datos públicos protegidos por la confidencialidad 483
3.2.- El intercambio de datos 489
3.2.1.- Los servicios de intermediación de datos 489
3.1.2.- La cesión altruista de datos 492
3.3.- La obtención de datos necesarios para el desempeño de las tareas realizadas en interés público 494
4.- REFLEXIONES FINALES: DISPONIBILIDAD y CALIDAD DE LOS DATOS como fundamento Del desarrollo de la inteligencia artificial 498
BIBLIOGRAFÍA CITADA 500
Capítulo XI
La contratación de soluciones de inteligencia artificial
Isabel Gallego Córcoles
1.- LA CONTRATACIÓN PÚBLICA COMO IMPULSOR Y GARANTE DEL USO DE SOLUCIoNES BASADAS EN INTELIGENCIA ARTIFICIAL 504
2.- CUESTIONES CLAVE EN EL DISEÑO Y PREPARACIÓN DEL PROCEDIMieNTO DE CONTRATACIÓN 511
2.1.- La conformación del equipo que impulsará la licitación 511
2.2.- La determinación de las necesidades a satisfacer y la delimitación del objeto del contrato: ¿cuándo adquirir una solución de inteligencia artificial? 513
2.2.1.- Planteamiento 513
2.2.2.- El conocimiento del mercado: la posibilidad de realizar consultas preliminares 515
2.2.3.- Evaluación preliminar de los riesgos 517
2.2.4.- ¿Existen datos de calidad? 518
2.3.- La elección del procedimiento de licitación 519
2.4.- Algunos aspectos a valorar en las ofertas 522
2.5.- La adecuada delimitación del equipo de trabajo: la necesaria incorporación de juristas 523
2.6.- La necesidad de prever posibles incidencias en la ejecución 524
3.- ASPECTOS RELEVANTES DEL CONTENIDO DEL CONTRATO 527
3.1.- La necesidad de cumplir las exigencias de transparencia, motivación y libre competencia: ¿debe exigirse la cesión de la titularidad del código fuente? 527
3.1.1.- Planteamiento 527
3.1.2.- El eventual acceso al código fuente en las Guías sobre contratación de soluciones de inteligencia artificial 530
3.1.3.- El principio de competencia y entrega del código fuente 538
3.1.4.- La regulación de la eventual cesión de derechos de propiedad intelectual en la LCSP 544
3.2.- Mecanismos para garantizar la supervisión, auditoria y control de los sistemas algorítmicos 547
3.2.1.- Planteamiento 547
3.2.2.- Supervisión humana de los algoritmos 548
3.2.3.- Control y auditoría del sistema 552
3.3.- Cláusulas relativas a la protección de datos 559
4.- CONCLUSIONES 562
BIBLIOGRAFÍA CITADA 564
Capítulo XII
Empleo público e inteligencia artificial
Ramon Galindo Caldés
1.- Tres grados, diferentes afectaciones 570
1.1.- El impacto de la automatización en el empleo público: destrucción y redefinición de puestos y tareas 570
1.2.- El uso de datos en la toma de decisiones 573
1.3.- La sustitución del empleado en la toma de decisiones 574
1.3.1- La sustitución de las decisiones por un sistema de IA 574
1.3.2.- ¿Hay una reserva de intervención de los empleados públicos? 575
2.- ¿HACIA UNA NUEVA SEGMENTACIÓN DE LOS EMPLEADOS PÚBLICOS? 578
2.1.- Un impacto a diferentes niveles 579
2.1.1.- Redefinición de puestos y tareas 579
2.1.2.- Cambios necesarios en los empleados actuales 580
2.1.3.- Nuevos empleados públicos 581
2.2.- La contratación pública: ¿personal especializado o recurso al sector privado? 582
2.3.- ¿Dos clases de empleados? Si no es posible transformar a todos los empleados…. ¿Lo hacemos con una parte? 584
3.- CUATRO PRESUPUESTOS NECESARIOS PARA LA ADAPTACIÓN DEL EMPLEO PÚBLICO 586
3.1.- Planificación 587
3.2.- Selección 589
3.3.- Transformación 590
3.4.- Los datos en la gestión de los recursos humanos 591
BIBLIOGRAFÍA CITADA 593
CUARTA PARTE:
ORGANIZACIÓN Y GOBERNANZA
Capítulo XIII
Organización y gobernanza de la inteligencia artificial: marco general
Juan Carlos Hernández Peña
1.- EL MARCO DE LA GOBERNANZA DE LA IA: UN TRINOMIO NORMATIVO BAJO UN ENFOQUE BASADO EN RIESGOS Y DERECHOS 600
2.- ALGUNOS PRINCIPIOS QUE CONDICIONAN LA ACTUACIÓN DE LOS PODERES PÚBLICOS Y EL MODELO DE GOBERNANZA 603
2.1.- Principio de neutralidad tecnológica 604
2.2.- Principio de innovación 605
2.3.- Principio de precaución 607
2.4.- Principio de competencia por diseño 608
4.- ESTRUCTURAS DE GOBERNANZA DE LA IA 612
4.1.- El Comité Europeo de Inteligencia Artificial. Composición, competencias y funciones 613
4.2.- Autoridades nacionales. Designación y competencias 615
4.3.- Organismos notificados y organismos de evaluación de la conformidad 624
BIBLIOGRAFÍA CITADA 627
Capítulo XIV
Organización y gobernanza de la inteligencia artificial en la Junta de Andalucía: la Estrategia Andaluza de IA y la Agencia Digital de Andalucía
María Pérez Naranjo
1.- LA AGENCIA DIGITAL DE ANDALUCÍA 632
1.1.- Contextualización 632
1.2.- Un nuevo modelo de gestión TIC 633
1.3.- Plan inicial de actuación 634
1.3.1.- Líneas y objetivos estratégicos 635
1.3.2.- Siete planes estratégicos 637
2.- estrategia de inteligencia artificial de andalucía 639
2.1.- La inteligencia artificial en Andalucía 642
2.2.- Misión y visión de la Estrategia 644
2.3.- Comité de expertos 644
2.4.- Metodología 646
2.5.- Modelo de gobernanza 648
Capítulo XV
Organización y gobernanza de la Inteligencia Artificial en las entidades locales
M. Ascensión Moro Cordero
1.- INTRODUCCIÓN 652
2.- EL RETO DE LA TRANSFORMACIÓN DIGITAL DE LA ADMINISTRACIÓN LOCAl ¿Un proceso ad infinitum? 656
3.- LA NECESARIA GOBERNANZA MULTINIVEL Y MULTIDIMENSIONAL 662
3.1.- Un modelo de gestión inteligente 666
3.2.- Un modelo de gobernanza de los datos 669
3.3.- Una metodología 676
4.- POSIBLES USOS DE LA INTELIGENCIA ARTIFICIAL Y DESAFÍOS 677
5.- CONCLUSIONES 680
BIBLIOGRAFÍA CITADA 681
QUINTA PARTE:
DERECHO EUROPEO Y PROPUESTAS REGULATORIAS DE FUTURO
Capítulo XVI
Algoritmos, inteligencia artificial y procedimiento administrativo: principios comunes en el Derecho de la Unión Europea
Oriol Mir Puigpelat
1.- INTRODUCCIÓN 686
2.- EL PAPEL CENTRAL DEL PROCEDIMIENTO ADMINISTRATIVO EN LA ADMINISTRACIÓN ANALÓGICA Y DIGITAL 688
2.1.- Actos administrativos 688
2.2.- Normas reglamentarias 691
3.- DISTINCIONES RELEVANTES RELATIVAS AL USO DE ALGORITMOS EN EL MARCO DEL PROCEDIMIENTO ADMINISTRATIVO 692
3.1.- Distinción en función de la fase del procedimiento en que se emplea el algoritmo y de su grado de incidencia sobre la decisión final 692
3.2.- Distinción en función del tipo de algoritmo empleado 694
3.3.- Distinción en función del carácter favorable o desfavorable de la decisión automatizada 696
3.4.- Distinción en función del carácter discrecional o reglado de la decisión automatizada 697
4.- ADAPTACIONES PROCEDIMENTALES NECESARIAS EN CASO DE UTILIZACIÓN DE ALGORITMOS 698
4.1.- La necesidad de informar adecuadamente a los interesados y al público sobre los sistemas automatizados empleados 699
4.2.- El establecimiento de un principio de supervisión humana 701
4.3.- La necesidad de realizar evaluaciones de impacto antes y después de automatizar la toma de decisiones administrativas 704
5.- ANEXO: EL USO DE IA POR PARTE DE LA ADMINISTRACIÓN DE LA UNIÓN: UN ESTUDIO DE CAMPO 709
5.1.- Finalidad del estudio y casos examinados 709
5.1.1.- Caso 1 (DG-Agri/ESA) 712
5.1.2.- Caso 2 (EFSA) 713
5.1.3.- Caso 3 (EUIPO) 715
5.1.4.- Caso 4 (eu-LISA) 716
5.2.- Algunas conclusiones que cabe extraer del estudio de campo realizado 720
BIBLIOGRAFÍA CITADA 722
Capítulo XVII
Hacia un marco regulatorio holístico de la Inteligencia Artificial fiable en la Unión Europea: una perspectiva científico-técnica
Emilia Gómez, Isabelle Hupont Torres, Ignacio Sánchez, David Fernández Llorca
1.- EL ENFOQUE EUROPEO PARA LA INTELIGENCIA ARTIFICIAL 728
2.- CARACTERISTICAS DE LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL 730
3.- LA LEY DE INTELIGENCIA ARTIFICIAL (AI ACT) 732
3.1.- Definición de IA 732
3.2.- Niveles de riesgo y sus requisitos 733
4.- LA DIRECTIVA SOBRE RESPONSABILIDAD EN MATERIA DE INTELIGENCIA ARTIFICIAL (AI LIABILITY DIRECTIVE) 736
5.- LA REVISIÓN DE LA DIRECTIVA DE RESPONSABILIDAD POR PRODUCTOS DEFECTUOSOS 738
6.- Conclusiones 739
BIBLIOGRAFÍA CITADA 740
Capítulo XVIII
Hacia la regulación europea de la inteligencia artificial
Alejandro Huergo Lora
1.- Introducción 743
2.- De qué estamos hablando 745
3.- La importancia del contexto 749
4.- Sesgos, errores y límites de las predicciones algorítmicas 755
5.- El encaje jurídico de las predicciones algorítmicas: algunas tendencias del Reglamento europeo de Inteligencia Artificial 759
Capítulo XIX
Inteligencia artificial y reconocimiento biométrico en el procedimiento administrativo
Ignacio Alamillo Domingo
1.- INTRODUCCIÓN 764
2.- PRECISIONES TERMINOLÓGICAS PREVIAS 765
2.1.- Precisiones desde la perspectiva tecnológica 765
2.2.- Precisiones desde la perspectiva jurídica 769
3.- ALGUNOS CASOS DE USO DEL RECONOCIMIENTO BIOMÉTRICO BASADO EN INTELIGENCIA ARTIFICIAL EN EL PROCEDIMIENTO ADMINISTRATIVO 775
3.1.- Reconocimiento biométrico en la asistencia por canal telefónico 776
3.2.- Reconocimiento biométrico en la asistencia por videoconferencia 778
3.3.- La captura electrónica de firma manuscrita 779
4.- PROPUESTAS PARA EL USO DEL RECONOCIMIENTO BIOMÉTRICO BASADO EN INTELIGENCIA ARTIFICIAL EN EL PROCEDIMIENTO ADMINISTRATIVO 780
BIBLIOGRAFÍA CITADA 784