Ley 2/2025, de 2 de abril, para el desarrollo e impulso de la inteligencia artificial en Galicia

EXPOSICIÓN DE MOTIVOS

I

A lo largo de la historia, los avances tecnológicos han aumentado la eficiencia de los medios para producir, cambiado la forma de consumir y disminuido barreras de espacio y tiempo. Sin embargo, ninguno de estos avances ha tenido la capacidad transformadora de las tecnologías inteligentes en términos de su potencial para incrementar la competitividad en todas las áreas de desarrollo y contribuir a dar respuesta a algunos de los desafíos a que se enfrenta la humanidad.

Las tecnologías inteligentes están cambiando nuestra vida cotidiana, nuestra forma de trabajar, educar y hacer negocios y nuestra forma de viajar, así como nuestra forma de relacionarnos.

De acuerdo con la definición acuñada por el Grupo independiente de expertos de alto nivel sobre inteligencia artificial de la Unión Europea, el término «inteligencia artificial» se aplica a todos aquellos «sistemas que manifiestan un comportamiento inteligente al analizar su entorno, realizando acciones, con cierto grado de autonomía, para conseguir un objetivo específico». Estos sistemas pueden consistir simplemente en un programa informático –por ejemplo, asistentes de voz, programas de análisis de imágenes, motores de búsqueda, sistemas de reconocimiento facial y de voz– o bien estar incorporados en dispositivos de hardware –por ejemplo, robots avanzados, automóviles autónomos, vehículos aéreos no tripulados o aplicaciones de internet de las cosas–.

La definición de «sistema de inteligencia artificial» empleada por las instituciones europeas se alinea con la propuesta por la Organización para la Cooperación y el Desarrollo Económico en mayo de 2019, que lo define como «un sistema basado en máquinas que, para objetivos explícitos o implícitos, infiere, a partir de la entrada que recibe, cómo generar salidas como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales. Diferentes sistemas de inteligencia artificial varían en sus niveles de autonomía y adaptabilidad tras la implementación».

Si bien el origen de la inteligencia artificial se remonta al año 1950, hoy en día vivimos una de sus épocas de mayor auge. La inteligencia artificial está presente en la industria desde, al menos, la década de 1980, aunque ha sido durante los últimos años cuando confluyeron tres elementos, entre otros, que han permitido dar un salto cualitativo del dato común al dato inteligente, gracias al rendimiento y la aplicabilidad de los métodos de aprendizaje por ordenador basados en datos. En primer lugar, la disponibilidad de cantidades ingentes de datos –conocidos como big data– que son el resultado de la actividad humana generada en plataformas digitales y de procesos de digitalización del mundo físico; en segundo lugar, el desarrollo de algoritmos de aprendizaje por ordenador capaces de encontrar patrones de comportamiento y dar así utilidad a estas cantidades de datos; finalmente, el incremento exponencial de la capacidad de procesamiento de los ordenadores y de almacenamiento de estas cantidades masivas de datos. La convergencia entre supercomputación e inteligencia artificial es imprescindible para impulsar avances significativos en la resolución de problemas complejos y el desarrollo de modelos de inteligencia más precisos.

No obstante, no debemos olvidar los retos y las limitaciones técnicas, éticas, legales y sociales sobre el uso que se brinde a esa ingente cantidad de datos generados, a pesar de ser este el punto donde reside la oportunidad de una transformación digital, no solamente real, sino inevitable.

La inteligencia artificial puede generar un amplio abanico de beneficios económicos y sociales en todos los sectores y actividades sociales. Su uso puede proporcionar ventajas competitivas esenciales a las empresas y facilitar la obtención de resultados positivos desde el punto de vista social y ambiental en los ámbitos de la mejora de la salud, la agricultura, la educación y la formación, la administración de infraestructuras, la energía, el transporte y la logística, los servicios públicos, la seguridad, la justicia, la eficiencia de los recursos y la energía y la mitigación del cambio climático y la adaptación al mismo. También puede contribuir a mejorar la predicción, optimizar las operaciones y la asignación de los recursos y personalizar las soluciones digitales que se encuentran a disposición de la población y las organizaciones. Es, por tanto, necesario garantizar su buen gobierno a fin de aprovechar todas las oportunidades que esta tecnología ofrece, a la vez que se garantizan el control y la limitación de los riesgos derivados de un uso indebido.

En consecuencia, la Administración pública está en la obligación de aplicar la inteligencia artificial para ofrecer mejores servicios de conformidad con las necesidades y las demandas de la ciudadanía y las empresas.

II

La creciente dependencia de tecnologías y sistemas desarrollados fuera de las fronteras de la Unión Europea plantea importantes desafíos en términos de soberanía tecnológica y digital. La inteligencia artificial ocupa un lugar preeminente en el marco estratégico y legislativo mundial. En particular, la Organización para la Cooperación y el Desarrollo Económico adoptó un planteamiento de «Principios sobre la inteligencia artificial» en la Recomendación sobre inteligencia artificial adoptada por el Consejo de la Organización para la Cooperación y el Desarrollo Económico el 22 de mayo de 2019, donde estableció el respeto del Estado de derecho, los derechos humanos, los valores democráticos y la diversidad a través del cumplimiento de los principios de transparencia, divulgación responsable, robustez, fiabilidad y seguridad durante todo el ciclo de vida de los sistemas de inteligencia artificial.

Por su parte, a lo largo de los últimos años, Europa ha promovido un enfoque centrado en el fortalecimiento de sus capacidades tecnológicas internas, impulsando una inteligencia artificial segura, ética y centrada en los derechos fundamentales. Para ello, la Unión Europea adoptó un planteamiento coordinado con el objetivo de aprovechar al máximo las oportunidades que brindan las tecnologías inteligentes, fijándose un objetivo claro: incrementar la inversión en más de 20.000 millones de euros anuales durante la próxima década. La pandemia del COVID-19 provocó que la Comisión Europea haya reforzado y organizado su apuesta por la inteligencia artificial, otorgando un lugar privilegiado como una de sus prioridades 2019-2024 a «una Europa adaptada a la era digital», así como la recién aprobada hoja de «El compás digital de Europa».

En enero de 2020, la Resolución del Parlamento Europeo sobre un marco de aspectos éticos de la inteligencia artificial, la robótica y las tecnologías relacionadas recomienda expresamente que la Comisión proponga medidas legislativas para explotar las oportunidades y los beneficios de la inteligencia artificial y también para garantizar la protección de los principios éticos.

También, en noviembre de 2021 se publica la Recomendación de la Unesco sobre la ética de la inteligencia artificial por los 193 estados miembros como una reflexión normativa sistemática, basada en un marco integral, global, multicultural y evolutivo de valores, principios y acciones interdependientes, que puede guiar a las sociedades a la hora de afrontar de manera responsable los efectos conocidos y desconocidos de las tecnologías de inteligencia artificial en los seres humanos, las sociedades y el medio ambiente y los ecosistemas, ofreciéndoles una base para aceptar o rechazar las tecnologías de inteligencia artificial.

Así, la Comisión Europea publica en abril de 2021 una propuesta de reglamento para afrontar el reto de gestionar la inteligencia artificial sin que los derechos de la ciudadanía, así como los valores europeos, se vean menoscabados. El objetivo es establecer un marco legal uniforme para el desarrollo, comercialización y uso de la inteligencia artificial, en línea con los valores de la Unión Europea.

Esta propuesta fue aprobada por el Parlamento Europeo en marzo de 2024, convirtiéndose en la primera regulación en inteligencia artificial del mundo, de conformidad con los valores de la Unión consagrados en el artículo 2 del Tratado de funcionamiento de la Unión Europea y los derechos y libertades fundamentales consagrados en los tratados y de conformidad con el artículo 6 de la Carta de derechos fundamentales de la Unión Europea. El 12 de julio de 2024 se publicó en el «Diario Oficial de la Unión Europea» dicho reglamento, el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y se modifican los reglamentos (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144, y las directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de inteligencia artificial). En particular, establece unas normas comunes para los sistemas de inteligencia artificial de alto riesgo al objeto de garantizar un nivel elevado y coherente de protección de los intereses públicos en lo que respecta a la salud, la seguridad y los derechos fundamentales. También debe tener en cuenta la Declaración europea sobre los derechos y principios digitales para la década digital y las Directrices éticas para una inteligencia artificial fiable del Grupo independiente de expertos de alto nivel sobre inteligencia artificial.

Asimismo, el Consejo de Europa adoptó en mayo de 2024 el Convenio marco sobre inteligencia artificial y derechos humanos, democracia y Estado de derecho, el cual proporciona un marco jurídico común a nivel mundial para aplicar las obligaciones jurídicas internacionales y nacionales existentes que son de aplicación en la esfera de los derechos humanos, la democracia y el Estado de derecho y sus objetivos, a fin de garantizar que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial por parte de actores públicos y privados cumplan con estas obligaciones, estándares y compromisos.

III

En el caso de la Comunidad Autónoma de Galicia, esta cuenta con una trayectoria destacable en el desarrollo y despliegue de tecnologías inteligentes. Galicia fue pionera en la aprobación de la Estrategia gallega de inteligencia artificial 2030, aprobada por el Consello de la Xunta en su sesión de 10 de junio de 2021, con una inversión de más de 330 millones de euros públicos de la Xunta de Galicia en el periodo 2021-2030, que generará un impacto en la creación de riqueza de unos 472 millones de euros en ese periodo. Esta estrategia contempla una inversión per cápita en inteligencia artificial superior al promedio de la Unión Europea.

Galicia cuenta con un ecosistema de inteligencia artificial fortalecido en torno a tres fases de generación de valor. En la primera fase de ideación destacan, además de las tres universidades públicas de Galicia, que imparten el Grado en Inteligencia Artificial y el Máster Interuniversitario en Inteligencia Artificial, los centros tecnológicos y los centros de investigación. En la fase de oferta, Galicia posee un potencial significativo para desempeñar un rol protagonista en el desarrollo de inteligencia artificial, no limitándose únicamente a la adopción de tecnologías de otras regiones, sino generando conocimiento y soluciones tecnológicas propias. Esta capacidad de crear tecnología avanzada no solo refuerza la competitividad de Galicia en la economía digital, sino que también asegura su autonomía tecnológica, fomentando el crecimiento sostenible y la creación de empleo cualificado. Además, Galicia cuenta con una infraestructura de computación de altas prestaciones de referencia: el Centro de Supercomputación de Galicia, como agente fundamental en el impulso de la investigación e innovación en el ámbito de la inteligencia artificial, consolidándose como un laboratorio natural para la integración de la supercomputación en el desarrollo de la inteligencia artificial, factor clave para alcanzar avances significativos en la resolución de retos complejos y en el perfeccionamiento de modelos de inteligencia artificial. Ello contribuirá, de forma determinante, al impulso de la investigación e innovación en inteligencia artificial, facilitando el avance de proyectos tanto científicos como empresariales, además de dar apoyo a las empresas en el desarrollo de casos de uso y la formación de modelos, poniendo sus recursos al servicio de soluciones innovadoras y el progreso tecnológico relacionadas con el desarrollo de esta tecnología. En cuanto a la fase de demanda, en Galicia se está experimentando una creciente inversión en inteligencia artificial por parte de los ámbitos públicos, así como por parte de la industria y los servicios. De hecho, de acuerdo con datos recientes del Instituto Nacional de Estadística, en Galicia el 10,2 por ciento de las empresas de diez o más personas trabajadoras con sede y/o actividad en esta comunidad emplean inteligencia artificial, superando en 1,9 puntos porcentuales el promedio estatal. En el caso de las microempresas, el empleo de la inteligencia artificial alcanza el 7,6 por ciento de las empresas y supera también el promedio estatal en 4,1 puntos porcentuales.

Esta propuesta responde a la recomendación sobre inteligencia artificial adoptada por el Consejo de la Organización para la Cooperación y el Desarrollo Económico el 22 de mayo de 2019, en la cual se establece que los gobiernos han de desarrollar un entorno de políticas que facilite el camino para la adopción de sistemas de inteligencia artificial fiables, capacitar a las personas con competencias en inteligencia artificial y apoyar a las personas trabajadoras con miras a asegurar una transición equitativa. Asimismo, establece el fomento de ecosistemas de inteligencia artificial accesibles con tecnologías e infraestructura digitales y mecanismos para el intercambio de datos y conocimientos. Se asienta también en el informe «Gobernando con inteligencia artificial», publicado por la Organización para la Cooperación y el Desarrollo Económico el 13 de junio de 2024, en el cual se afirma que la aplicación de normativas en todas las instituciones del sector público puede ayudar a promover el desarrollo de enfoques basados en el riesgo contemplado en el Reglamento de inteligencia artificial.

La propuesta contempla las conclusiones y recomendaciones emitidas por un grupo de personas expertas del ámbito universitario de Galicia en el «Estudio sobre el marco ético y normativo y el potencial impacto de la inteligencia artificial en Galicia», presentado en marzo de 2023, donde se expone que «hay margen para que los estados de la Unión Europea y las comunidades autónomas refuercen los objetivos de la Ley de inteligencia artificial de la Unión Europea (AI Act), incluso desde antes de su entrada en vigor». En este sentido, «la comunidad autónoma podría regular ya la utilización de las tecnologías basadas en inteligencia artificial por el propio sector público autonómico y, en su caso, por las entidades locales gallegas, en el ejercicio de sus competencias de autoorganización (artículos 27.1 y 28.2 del Estatuto de autonomía de Galicia) y sobre el régimen local (artículo 27.2 del Estatuto). Para ello, podría modificarse la Ley 4/2019, de 17 de julio, de administración digital de Galicia, y, en su caso, la Ley 5/1997, de 22 de julio, de Administración local de Galicia, a fin de introducir los principios que deben regir la implantación de las tecnologías basadas en la inteligencia artificial tanto en el sector público autonómico como en el local. Asimismo, las competencias de la comunidad autónoma de desarrollo legislativo y ejecución en materia de contratos y concesiones administrativas (artículo 28.2 del Estatuto de autonomía) permitirían introducir las especificaciones generales exigibles a toda aplicación, producto o servicio basado en inteligencia artificial que las Administraciones públicas adquieran del sector privado, respetando en todo caso las reglas de carácter básico sobre el establecimiento de prescripciones técnicas que contemplan el artículo 126 y siguientes de la Ley 9/2017, de 8 de noviembre, de contratos del sector público. Del mismo modo, la comunidad autónoma también podría desarrollar una política propia de fomento del desarrollo de las tecnologías basada en la inteligencia artificial en Galicia, sobre la base de sus competencias estatutarias en materia de fomento de la actividad económica. Y, en la medida en que la actividad de fomento permite a la Administración orientar los fines de interés general a que debe dirigirse la actuación privada beneficiaria de aquella, las medidas autonómicas de impulso del desarrollo de las tecnologías basadas en la inteligencia artificial se tendrían que condicionar al cumplimiento por estas tecnologías de los estándares éticos que, en defecto de un marco regulador, son generalmente admitidos en la actualidad».

También responde, asimismo, a las peticiones explícitas del Parlamento de Galicia, que solicitó a la Xunta de Galicia, en el mes de abril de 2023, el impulso de las actuaciones necesarias para que la Administración general de la Comunidad Autónoma de Galicia y su sector público adopten, como marco de actuación, el establecido por el Reglamento europeo de inteligencia artificial, previamente a su entrada en vigor, prevista para el año 2024, así como el desarrollo de la normativa necesaria para la aplicación de la inteligencia artificial en la Administración autonómica. El Parlamento de Galicia también ha llevado a cabo importantes acciones en el ámbito de la inteligencia artificial, como la Declaración institucional del Parlamento de Galicia en favor de una inteligencia artificial ética y centrada en el ser humano, firmada en junio de 2022.

También responde a la oportunidad que supone la ubicación de la Agencia Española de Supervisión de Inteligencia Artificial en A Coruña. El Reglamento europeo de inteligencia artificial establece las «autoridades nacionales de supervisión» que se encarguen de supervisar la aplicación y ejecución de lo dispuesto en el mencionado reglamento, así como de coordinar las actividades encomendadas a dichos estados miembros, actuar como el punto de contacto único para la Comisión y representar al estado miembro en cuestión ante el Comité Europeo de Inteligencia Artificial. Esta agencia, creada por Real decreto 729/2023, de 22 de agosto, por el que se aprueba el Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial, es la primera agencia de este tipo que se crea en Europa.

Responde, asimismo, al compromiso para la legislatura 2024-2028 de desarrollar la normativa necesaria para facilitar la adopción de tecnologías digitales de alto impacto, tanto en el sector público como en los diferentes sectores económicos, a través de mecanismos que favorezcan la atracción de inversiones y talento digital, garantizando que la incorporación de tecnologías disruptivas se lleve a cabo bajo los criterios éticos y de seguridad.

Por último, responde a las recomendaciones emitidas por el Consejo de Europa en el Convenio marco sobre inteligencia artificial y derechos humanos, democracia y Estado de derecho, adoptado en mayo de 2024, en lo relativo a los principios relacionados con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial.

IV

Atendiendo al Reglamento por el que se establecen las normas armonizadas en materia de inteligencia artificial, se contempla que su fundamento jurídico radica en el artículo 114 del Tratado de funcionamiento de la Unión Europea, que permite al Parlamento adoptar medidas apropiadas para establecer el funcionamiento del mercado común. Con ello se pretende avanzar hacia una regulación europea sólida para conseguir una inteligencia artificial fiable, que garantice la igualdad, proteja a las personas y fomente la competitividad industrial.

En el plano normativo estatal, la aprobación durante los últimos años de leyes que prevén dar respuesta a los retos que implican este gran cambio y la demanda de seguridad jurídica en el desarrollo y ejercicio de los derechos de la ciudadanía es notable. En materia de procedimiento administrativo común y régimen jurídico del sector público, la Ley 39/2015, de 1 de octubre, del procedimiento administrativo común de las Administraciones públicas, y la Ley 40/2015, de 1 de octubre, del régimen jurídico del sector público, introducen con carácter transversal el empleo de los medios electrónicos en las relaciones entre la Administración y la ciudadanía. La tecnología también impacta notablemente en la protección de datos de carácter personal; así, el regulador europeo introduce el Reglamento (UE) 2016/679, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales. En lo referente a la ciberseguridad, el Real decreto 311/2022, de 3 de mayo, por el que se regula el Esquema nacional de seguridad, establece los principios básicos y requisitos mínimos que aplican a aquellos sistemas de información de entidades públicas, garantizando una adecuada seguridad de la información tratada. En lo referente a la innovación en materia de inteligencia artificial, el Real decreto 817/2023, de 8 de noviembre, que establece un entorno controlado de pruebas para el ensayo del cumplimiento de la propuesta de reglamento del Parlamento Europeo y del Consejo por la que se establecen normas armonizadas en materia de inteligencia artificial, establece espacios de pruebas para ensayar el cumplimiento de ciertos requisitos por parte de algunos sistemas de inteligencia artificial que pudieran suponer riesgos para la seguridad, la salud y los derechos fundamentales de las personas.

En el marco de la Estrategia España digital 2026 y con el objetivo de liderar el desarrollo y la integración de la inteligencia artificial en la sociedad y la economía española, se aprobó la Estrategia nacional de inteligencia artificial. Alineado con esta estrategia, se elaboró la Carta de derechos digitales, que recoge en su apartado XXV la base de los derechos de las personas ante la inteligencia artificial, en virtud de garantizar la no discriminación, transparencia y supervisión humana en las decisiones tomadas por tecnologías inteligentes. En línea con ello, se aprobó la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación, que regula el uso de algoritmos en la toma de decisiones por parte de las Administraciones públicas y obliga a implementar medidas que minimicen sesgos y garanticen la rendición de cuentas, buscando así un uso ético y responsable de la inteligencia artificial para fomentar la confianza en la tecnología, así como garantizar lo establecido en el artículo 41.2 de la Ley 40/2015, de 1 de octubre.

En el ámbito autonómico, las bases de la regulación del desarrollo de la inteligencia artificial en Galicia ya cuentan con un cuerpo legal, integrado por la Ley 16/2010, de 17 de diciembre, de organización y funcionamiento de la Administración general y del sector público autonómico de Galicia, reguladora de la organización y del régimen jurídico de la Administración general de la Comunidad Autónoma de Galicia y de las entidades instrumentales integrantes del sector público autonómico; la Ley 14/2013, de 26 de diciembre, de racionalización del sector público autonómico, que promovió la optimización de los recursos públicos, la eficacia en la gestión y el logro de la máxima coordinación de los distintos órganos y unidades administrativas como principios básicos que guían la actuación del sector público autonómico; la Ley 1/2015, de 1 de abril, de garantía de la calidad de los servicios públicos y de la buena administración, que consagra legalmente el derecho de la ciudadanía a la buena administración y a que se le presten unos servicios públicos de calidad, así como a participar en la evaluación de la calidad de los servicios públicos, como parte imprescindible del ciclo de las políticas públicas; y la Ley 4/2019, de 17 de julio, de administración digital de Galicia.

Más recientemente, la Ley 7/2022, de 27 de diciembre, de medidas fiscales y administrativas, recoge en el artículo 52 una nueva disposición adicional en la Ley 5/2013, de 30 de mayo, de fomento de la investigación y de la innovación de Galicia, por la cual la Administración autonómica, en su ámbito de competencias, podrá establecer bancos de pruebas regulatorias que permitan la ejecución de proyectos piloto de I+D+i con arreglo a un marco normativo y administrativo adecuado para garantizar el respeto a la legalidad y la competitividad internacional.

Por tanto, resulta clave dotar al ordenamiento jurídico autonómico de una regulación única, coherente, actualizada y ordenada, contando con una ley que sistematice en un único cuerpo toda la regulación relativa al desarrollo y uso de la inteligencia artificial en la Administración general de la Comunidad Autónoma de Galicia y su sector público.

V

En lo que respecta al fundamento competencial, la presente ley se dicta en el ejercicio de las competencias autonómicas exclusivas en materia de organización de las instituciones de autogobierno y en materia de procedimientos administrativos que se deriven del específico derecho gallego o de la organización propia de los poderes públicos gallegos, así como de la competencia autonómica de desarrollo legislativo y ejecución de la legislación del Estado en materia de régimen jurídico de la Administración pública de Galicia, recogidas, respectivamente, en el artículo 27, apartados 1 y 5, y en el artículo 28.1 del Estatuto de autonomía de Galicia. Junto a estos títulos competenciales, también procede invocar, en atención a las previsiones en materia de empleo público y de contratación contempladas en la ley, las competencias autonómicas de desarrollo legislativo y ejecución de la legislación del Estado en materia de régimen estatutario de sus funcionarios y en materia de contratos, previstas en el artículo 28, apartados 1 y 2, del Estatuto de autonomía de Galicia.

Por todo lo expuesto, el proceso de diseño, desarrollo, implementación y uso de sistemas de inteligencia artificial tiene que disponer de una norma, con la legitimidad que solo confiere el Parlamento, que ofrezca instrumentos suficientes y adecuados que permitan un diseño y desarrollo sostenible y un uso seguro. Esta tarea es abordada con el respaldo de un estado de opinión colectivo: el convencimiento de que Galicia puede y debe asumir el papel de liderazgo que le corresponde en la conformación de una «Galicia inteligente» a través de la ordenación y gestión de una de las tecnologías que marcará el futuro de la humanidad: la inteligencia artificial.

VI

La presente ley se estructura en un título preliminar y cinco títulos, una disposición adicional, una disposición transitoria y tres disposiciones finales.

El título preliminar contempla las disposiciones generales, referidas al objeto, ámbito de aplicación y fines de la ley y a los principios para una gestión responsable de la inteligencia artificial, así como a los derechos de la ciudadanía.

La presente ley define por primera vez los principios generales que deben regir la actuación de la Administración autonómica en el diseño, desarrollo, implementación y uso de la inteligencia artificial. Estos principios están en plena conexión con las ideas ya trasladadas por organismos multilaterales como la Organización para la Cooperación y el Desarrollo Económico, la Comisión Europea o el Consejo de Europa, que animaban a los gobiernos a desarrollar un entorno de políticas que haga posible la adopción de sistemas de inteligencia artificial de un modo fiable y seguro. También lo están con los principios y obligaciones contemplados en el Reglamento de inteligencia artificial, no suponiendo requisitos adicionales para los sistemas de alto riesgo a los ya previstos en la norma comunitaria.

Como principios para una gestión responsable de la inteligencia artificial, se enuncian los principios de buena administración digital y diligencia debida; de auditabilidad, trazabilidad y explicabilidad; de transparencia; de claridad; de imparcialidad y de ausencia de sesgos; de seguridad y privacidad; de reserva de humanidad y de revisión humana; de proactividad y personalización; de universalidad y accesibilidad; de fiabilidad y responsabilidad; de evaluación del impacto organizativo, económico, social y medioambiental; de evaluación continua; de precaución; de formación continua; de colaboración y transferencia; y de capacidad técnica, proporcionalidad y suficiencia financiera.

Como derechos de la ciudadanía, se enuncian los derechos de transparencia y supervisión humana, los derechos de igualdad y los derechos de tutela.

El título I regula la organización administrativa y los sujetos intervinientes en los procesos de diseño, adquisición, implementación y uso de la inteligencia artificial y la planificación para el impulso y desarrollo de la inteligencia artificial en Galicia; los órganos promotores funcionales y los responsables tecnológicos; la coordinación, a través de la creación de la Oficina de Inteligencia Artificial y el apoyo de la Comisión estratégica para el asesoramiento estratégico en inteligencia artificial, cuando el nivel de riesgo, el impacto y su complejidad así lo requieran; el Consejo Gallego de Inteligencia Artificial, como máximo órgano colegiado de participación, consulta y asesoramiento en materia de inteligencia artificial; y la esencial participación de los centros de investigación, el tejido empresarial, los colegios profesionales y la sociedad civil en el desarrollo ético y seguro de la inteligencia artificial.

En lo relativo a la planificación, la ley articula un sistema en cascada que toma como punto de partida la búsqueda de un impulso y desarrollo de la inteligencia artificial ordenado, tanto en el ámbito público como en el ámbito privado. Así, se regula la Estrategia gallega de inteligencia artificial, con la finalidad de establecer los objetivos generales y particulares que se pretenden conseguir en el ámbito de la inteligencia artificial en Galicia en un periodo temporal definido, así como la coordinación de la participación de la Comunidad Autónoma de Galicia en los programas y estrategias nacionales e internacionales, el fomento de la innovación y del desarrollo tecnológico y de su gestión y la medición y evaluación de los resultados obtenidos en relación con los objetivos propuestos.

Se regulan los programas sectoriales de inteligencia artificial propuestos por las consejerías competentes por razón de la materia. El sistema de planificación en cascada se cierra con la regulación de los proyectos de inteligencia artificial que definirán para su ejecución las características esenciales de un sistema de inteligencia artificial y el establecimiento de las características y especificaciones técnicas del sistema de inteligencia artificial, así como el plan de gestión de datos, o la cuantificación de los medios humanos, económicos y materiales necesarios para su puesta en marcha.

Esta planificación completará la que hasta ahora venía llevándose a cabo a través de la Estrategia gallega de inteligencia artificial y otros instrumentos contemplados en la legislación sectorial, que serán revisados para adaptarse a esta nueva regulación.

El título II regula los instrumentos para la gestión de los sistemas de inteligencia artificial y las fórmulas para garantizar la colaboración entre Administraciones públicas y de estas con el sector privado.

El Inventario de sistemas de inteligencia artificial será el elemento central de la gestión y reflejará todo el ciclo de vida de los sistemas de inteligencia artificial, desde su diseño hasta su desactivación.

La ley establece una nueva figura: las personas comisionadas de inteligencia artificial, que velarán por el cumplimiento de los principios y obligaciones en materia de prevención, detección y eliminación de riesgos y de resultados negativos de la implementación de sistemas de inteligencia artificial, constituyendo estos un elemento crucial en el mecanismo de gobierno interno de la Administración autonómica, en su rol de proveedor y responsable del despliegue de sistemas de inteligencia artificial.

En lo relativo a la cooperación interadministrativa y la colaboración público-privada, se establece una constante comunicación y colaboración con la Oficina de Inteligencia Artificial en la Unión Europea, la Agencia Española de Supervisión de la Inteligencia Artificial y otros organismos análogos, nacionales o internacionales, con el objetivo de intercambiar conocimientos y experiencias en el ámbito de la regulación y supervisión de la inteligencia artificial en el marco de sus competencias.

Se regula también el repositorio de sistemas de inteligencia artificial, por el cual la Administración autonómica pone a disposición de las demás administraciones los sistemas de inteligencia desarrollados o adquiridos, con el objetivo de fomentar la reutilización de estos sistemas y promover la eficiencia en las Administraciones públicas.

El título III, relativo al procedimiento para la definición y puesta en marcha de proyectos de inteligencia artificial en la Administración general de la Comunidad Autónoma de Galicia y su sector público, contempla algunas de las novedades más destacables de la ley.

Se regula el informe del proyecto de inteligencia artificial como elemento nuclear del procedimiento y se establece su contenido mínimo: una identificación de las necesidades funcionales que han de ser cubiertas y una identificación de la necesidad y oportunidad de diseñar o adquirir, implementar y emplear concretos sistemas de inteligencia artificial; y la relación de características y especificaciones técnicas y el conjunto de datos propuesto para el entrenamiento, validación y prueba, especificando si este contiene una combinación de datos personales y no personales, así como un plan para su gestión. Es preciso destacar que incluye una evaluación de impacto relativa a los derechos fundamentales, de acuerdo con el modelo facilitado por la Oficina Europea de Inteligencia Artificial, con arreglo a la normativa vigente de aplicación.

El título IV, relativo al uso de sistemas de inteligencia artificial, contempla algunas novedades que están en sintonía con las iniciativas que se están promoviendo desde las instituciones europeas y que tienen por misión facilitar la adopción y el uso de los sistemas de inteligencia artificial por parte de las instituciones públicas. De este modo, se asegura la puesta a disposición de la Administración general de la Comunidad Autónoma de Galicia y su sector público de guías para el uso de sistemas de inteligencia artificial y dichas herramientas de autodiagnosis.

Por último, sobre la base de las competencias estatutarias en materia de fomento de la actividad económica, la inteligencia artificial requiere una política propia de fomento de su desarrollo. Por ello, se considerará que los proyectos cuya actividad tenga relación directa con la inteligencia artificial pertenecen a un sector estratégico alineado con los objetivos de la Unión Europea. Del mismo modo, se considerará al sector de la inteligencia artificial como de especial importancia, a los efectos de la valoración de la concurrencia de las circunstancias previstas en el artículo 75.1.a) de la Ley 3/2022, de 18 de octubre, de áreas empresariales de Galicia.

Así, el título V de la ley contempla las medidas para el impulso de la inteligencia artificial en Galicia, desde el punto de vista energético; de impulso empresarial, emprendimiento e inversión; de fiscalidad; en materia de I+D+i; y de apoyo a la formación, la capacitación y el empleo.

Se reconoce el uso de la inteligencia artificial para facilitar la consecución de impactos socioeconómicos positivos en el territorio y contribuir a alcanzar los objetivos de descarbonización y neutralidad climática fijados en los planes, programas y estrategias de transición elaborados por la Unión Europea, la Administración general del Estado y la propia Administración autonómica.

En primer lugar, se establece un conjunto de medidas innovadoras para la promoción del ecosistema empresarial de inteligencia artificial, con la creación de un sistema de vigilancia tecnológica en inteligencia artificial para las empresas en colaboración con los European Digital Innovation Hubs estratégicos.

En segundo lugar, se establece un conjunto de medidas para el fomento de la inversión en soluciones de inteligencia artificial, como la creación de programas de incubación, aceleración y consolidación de start-ups en inteligencia artificial y deep tech y la creación de un fondo de participación en empresas que desarrollen en Galicia sistemas de inteligencia artificial.

En tercer lugar, se establecen las medidas de fomento de la investigación e innovación en el ámbito de la inteligencia artificial y se contemplan algunas de las novedades más destacables de la ley. Se impulsan factorías de inteligencia artificial, en total sintonía con las recomendaciones de la Comisión Europea en esta materia, que contarán con el Centro de Supercomputación de Galicia como actor nuclear para dinamizar el ecosistema de inteligencia artificial de Galicia, facilitando el acceso a las empresas emergentes, así como a todos los agentes del ecosistema de inteligencia artificial que necesiten desarrollar, entrenar y validar sistemas de inteligencia artificial. Asimismo, se establece un espacio controlado de pruebas para el tejido investigador y empresarial.

Por último, se contemplan distintas medidas destinadas a promover la alfabetización en materia de inteligencia artificial, tanto para los empleados públicos como para la ciudadanía en su conjunto, lo cual contribuye al objetivo de la Comisión Europea de asegurar que las personas involucradas en el desarrollo y uso de la inteligencia artificial estén debidamente capacitadas, promoviendo así un uso responsable y ético de esta tecnología.

La ley finaliza con una disposición adicional, una disposición transitoria y tres disposiciones finales.

VII

La presente ley se ajusta a los principios de buena regulación previstos en el artículo 37.a) de la Ley 14/2013, de 26 de diciembre, de racionalización del sector público autonómico, en el cual se exige que «en todas las iniciativas normativas se justificará la adecuación de las mismas a los principios de necesidad, proporcionalidad, seguridad jurídica, transparencia, accesibilidad, simplicidad y eficacia».

De esta manera, el principio de necesidad de la presente iniciativa legislativa viene determinado por cuanto las medidas propuestas únicamente pueden ser introducidas mediante una norma con rango de ley, por afectar a materias que están reservadas a este tipo de norma.

Se respeta el principio de proporcionalidad, dado que para conseguir los objetivos de la ley se realiza un esfuerzo de simplificación e integración de la normativa vigente.

Se presta especial atención a la efectividad del principio de seguridad jurídica, directamente conectado con la integración coherente de la nueva norma en el ordenamiento jurídico vigente, de manera que el resultado sea un marco normativo estable, claro, integrado y de certidumbre; y al principio de transparencia, promoviendo la más amplia participación de la ciudadanía en general y, en particular, de los operadores técnicos y jurídicos implicados en la materia, tanto en la elaboración de la propia ley como en la fase de planificación, y sin menoscabo de los procedimientos de participación que pudieran estar previstos en otras normas, así como al principio de accesibilidad, garantizando el acceso a toda la información de que disponga la Administración en la materia objeto de regulación.

Finalmente, en virtud de los principios de simplicidad y eficacia, y dentro del objetivo de simplificación administrativa y de la normativa de aplicación, se evitan las cargas administrativas innecesarias o accesorias, lo cual supone la racionalización de los recursos públicos asociados a la tramitación de los procedimientos administrativos relacionados con ellas.

En la tramitación del anteproyecto de ley se observaron todas las garantías exigidas por la legislación vigente en materia de participación pública, promoviendo una participación pública real y efectiva a lo largo de todo el procedimiento de tramitación.

Por todo lo expuesto, el Parlamento de Galicia aprobó y yo, de conformidad con el artículo 13.2 del Estatuto de Autonomía de Galicia y con el artículo 24 de la Ley 1/1983, de 22 de febrero, de normas reguladoras de la Xunta y de su Presidencia, promulgo, en nombre del rey, la Ley para el desarrollo e impulso de la inteligencia artificial en Galicia.

TÍTULO PRELIMINAR

CAPÍTULO I. Disposiciones generales

Artículo 1. Objeto.

1. La presente ley tiene por objeto establecer el marco para el diseño, adquisición, implementación y uso de la inteligencia artificial en la Administración general de la Comunidad Autónoma de Galicia y su sector público de conformidad con la regulación de la Unión Europea y la normativa básica estatal en esta materia, de las cuales constituye su desarrollo y ejecución en la Comunidad Autónoma de Galicia.

2. A estos efectos, la ley regula el régimen jurídico del uso de la inteligencia artificial por el sector público gallego en el desarrollo de su actividad y en sus relaciones con la ciudadanía, empresas, entidades y demás Administraciones públicas, promoviendo la adopción de una inteligencia artificial centrada en el ser humano, segura, fiable, con un alto nivel de protección de la salud y de los derechos fundamentales y respetuosa con el medio ambiente.

3. Asimismo, la ley tiene por objeto impulsar el desarrollo de la inteligencia artificial en el tejido empresarial y el ecosistema de investigación e innovación de la Comunidad Autónoma de Galicia, con el fin de mejorar su productividad y competitividad.

Artículo 2. Finalidad.

Los fines de la presente ley son los siguientes:

1.º Garantizar que dichos sistemas sean fiables y respetuosos con los derechos fundamentales de la ciudadanía y otorgar una adecuada protección a esta en los procesos y procedimientos administrativos en los que se empleen tales sistemas.

2.º Garantizar la incorporación al funcionamiento de la Administración general de la Comunidad Autónoma de Galicia y en su sector público de sistemas de inteligencia artificial que promuevan la eficacia y eficiencia en la tramitación de los procedimientos administrativos y en la prestación de los servicios públicos, para un mejor servicio a la ciudadanía.

Artículo 3. Ámbito de aplicación.

1. Las disposiciones contenidas en la presente ley serán de aplicación a:

A estos efectos, las referencias a la ciudadanía en este apartado comprenderán a las personas físicas, las personas jurídicas y, cuando legalmente tengan reconocida capacidad de obrar ante las Administraciones públicas, en su caso, los grupos de afectados, las uniones y entidades sin personalidad jurídica y los patrimonios independientes o autónomos.

2. La presente ley no será de aplicación a los sistemas de inteligencia artificial o modelos de inteligencia artificial de uso general, incluidos sus resultados de salidas, desarrollados y puestos en servicio específicamente con el único fin de la investigación y el desarrollo científico por la Administración general de la Comunidad Autónoma de Galicia y su sector público, sin perjuicio de la aplicación de lo establecido en el capítulo II del título V.

Artículo 4. Definiciones.

A efectos de la presente ley, se entenderá por:

ñ) Actuación administrativa semiautomatizada: aquella actuación para que el sistema de información que puede ser producido por algoritmos genere una previsión, recomendación o borrador total o parcial y que puede constituir fundamento o apoyo a un acto de un empleado público u órgano administrativo.

CAPÍTULO II. Principios generales

Artículo 5. Principios para una gestión responsable de la inteligencia artificial.

1. Para la consecución de los fines enumerados en la presente ley, la Administración general de la Comunidad Autónoma de Galicia y su sector público adecuarán su actuación y funcionamiento, cuando diseñen, adquieran, implementen o empleen sistemas de inteligencia artificial, a los principios generales contemplados en el presente capítulo, así como a los demás principios y obligaciones exigidos en la correspondiente normativa europea y estatal que les resulte de aplicación.

2. En particular, en el supuesto de sistemas de inteligencia artificial de alto riesgo y modelos de inteligencia artificial de uso general serán de aplicación los principios y requisitos contemplados en el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial.

Artículo 6. Buena administración digital y diligencia debida.

1. El diseño, adquisición, implementación y uso de sistemas de inteligencia artificial por parte de la Administración general de la Comunidad Autónoma de Galicia y su sector público se hará con pleno respeto a la buena administración, así como a los principios y derechos previstos en la presente ley y normativa de aplicación.

2. La Administración general de la Comunidad Autónoma de Galicia y su sector público deberán ser capaces de facilitar una motivación comprensible de las decisiones propuestas o adoptadas en los procedimientos administrativos en los que se empleen sistemas de inteligencia artificial, contemplando, como mínimo, el marco jurídico de referencia, los criterios aplicados, los datos empleados y las características del propio sistema de inteligencia artificial.

3. La Administración general de la Comunidad Autónoma de Galicia y su sector público deberán ser capaces de identificar, trazar y gestionar de forma activa los riesgos relacionados con el diseño e implementación de los sistemas de inteligencia artificial, con participación, en su caso, de todos los agentes públicos y privados.

Artículo 7. Auditabilidad, trazabilidad y explicabilidad.

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público adoptarán las medidas necesarias para que los sistemas de inteligencia artificial que diseñen o empleen puedan ser revisados en cualquier momento de su ciclo de vida, a fin de comprobar el ajuste a lo establecido en la presente ley y normativa de aplicación.

2. Asimismo, la Administración autonómica diseñará y empleará sistemas de inteligencia artificial, cuyas decisiones habrán de ser trazables.

3. La Administración general de la Comunidad Autónoma de Galicia y su sector público deberán diseñar y emplear sistemas de inteligencia artificial que, de forma apropiada para el contexto y acorde con el estado de la tecnología, puedan proporcionar información sencilla y fácil de entender sobre las fuentes de datos/entradas, factores, procesos y/o lógica que llevaron a la predicción, contenido, recomendación o decisión, para permitir a los afectados por un sistema de inteligencia artificial comprender el resultado. Asimismo, habrán de proporcionar información que permita a aquellos afectados negativamente por un sistema de inteligencia artificial cuestionar su resultado.

Artículo 8. Transparencia.

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público deberán ofrecer en el Portal de Transparencia y Gobierno Abierto la información pertinente sobre la arquitectura y el funcionamiento de los sistemas de inteligencia artificial que desarrollen o empleen en su actividad, sin perjuicio de las limitaciones previstas en el artículo 14 de la Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno, y en el artículo 25 de la Ley 1/2016, de 18 de enero, de transparencia y buen gobierno.

2. En particular, habrán de indicar los procedimientos administrativos en los que se emplean, especificando los datos que utilizan, los parámetros de funcionamiento y precisión, el nivel de riesgo y el impacto de sus resultados en dichos procedimientos, en especial si son o no directamente decisorios de los mismos.

3. Se procurará, especialmente, que esta información sea fácilmente accesible para personas menores, mayores y grupos vulnerables.

Artículo 9. Claridad.

1. La información publicada en virtud del principio de transparencia, o notificada a consecuencia del derecho de acceso a la información, será facilitada en un lenguaje claro que permita que todas las personas, independientemente de sus capacidades o su situación socioeconómica, comprendan el procedimiento en el que interviene un sistema de inteligencia artificial y sus resultados.

2. Para el efectivo cumplimiento de lo dispuesto en el apartado anterior, se recurrirá al uso de expresiones concisas y claras, el empleo de estructuras lingüísticas efectivas e iconos estandarizados y el buen diseño de los documentos.

Artículo 10. Imparcialidad y ausencia de sesgos.

En los procesos de diseño, adquisición, implementación y uso de sistemas de inteligencia artificial se adoptarán las garantías necesarias a los efectos de mitigar cualquier resultado discriminatorio o cualquier tipo de sesgo.

Artículo 11. Seguridad y privacidad.

1. En los procesos de diseño, adquisición, implementación y uso de sistemas de inteligencia por parte de la Administración general de la Comunidad Autónoma de Galicia y su sector público habrá de garantizarse que estos aseguren la integridad, confidencialidad, disponibilidad y autenticidad de los datos e información tratada mediante el establecimiento de las oportunas medidas de seguridad, exigidas en la normativa de aplicación y los protocolos internos de actuación, que garanticen, además, que estos sistemas sean seguros y resilientes frente a terceros que intenten explotar sus vulnerabilidades.

2. Los datos personales serán tratados con arreglo a lo dispuesto en el Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, y en la Ley orgánica 3/2018, de 5 de diciembre, de protección de datos personales y garantía de los derechos digitales, así como en la restante normativa de aplicación, garantizando la seguridad y privacidad desde el diseño y por defecto y la aplicación de los principios rectores del tratamiento de datos personales. En particular, habrán de tenerse en cuenta en el tratamiento de los datos los principios de licitud, transparencia, lealtad, limitación de la finalidad, minimización de los datos, exactitud, seguridad, limitación del plazo de conservación y responsabilidad proactiva.

3. Todo ello se entenderá sin perjuicio de la necesidad de observar y proteger los derechos de propiedad intelectual e industrial, la información empresarial confidencial y los secretos comerciales, de conformidad con la normativa europea y estatal que le resulte de aplicación.

Artículo 12. Reserva de humanidad y de revisión humana.

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público podrán emplear sistemas de inteligencia artificial tanto en su actividad material o técnica como en la adopción de actos administrativos formalizados, tanto de trámite como resolutorios, de acuerdo con lo señalado en este artículo y de conformidad con lo establecido en la normativa europea y estatal de aplicación.

2. En caso de uso de sistemas de inteligencia artificial que sirvan de apoyo o fundamento para la adopción de actos o decisiones administrativas, se adoptarán las garantías necesarias a los efectos de mitigar cualquier sesgo por parte del órgano competente resolutorio. En ningún caso tales actuaciones en que se empleen sistemas de inteligencia artificial constituirán de por sí decisiones o actos administrativos sin validación por la persona titular del órgano competente.

3. En los supuestos de uso de sistemas de inteligencia artificial que sirvan para la adopción de actos administrativos formalizados, tanto de trámite como resolutorios, de manera automatizada sin intervención humana directa, de acuerdo con lo establecido en el artículo 76 de Ley 4/2019, de 17 de julio, deberá tratarse de actos administrativos que no requieran de una valoración subjetiva de las circunstancias concurrentes o una interpretación jurídica.

4. En caso contrario, no podrán realizarse actuaciones administrativas automatizadas a través del uso de sistemas de inteligencia, salvo que se cumplan todos los requisitos siguientes:

5. En la regulación de los procedimientos administrativos para la adopción de decisiones administrativas automatizadas en que se empleen sistemas de inteligencia artificial se preverá el momento, modo y alcance de la intervención de personas físicas para garantizar el cumplimiento de los principios y derechos contemplados en la presente ley.

En todo caso, en los casos en que las decisiones, previsiones o recomendaciones generadas por sistemas de inteligencia artificial tengan un impacto irreversible o de difícil reversión, o impliquen actuaciones que pudieran generar riesgos para la vida o la integridad física o psicosocial de los individuos, será necesaria una validación de una persona física en el proceso decisorio, así como una decisión humana final.

6. Sin perjuicio de los correspondientes recursos administrativos o acciones judiciales, se reconocerá el derecho a presentar sugerencias o quejas relativas al funcionamiento de los propios sistemas de inteligencia artificial empleados por la Administración autonómica y su sector público. El procedimiento o canal para la presentación de estas sugerencias o quejas será el previsto en el artículo 16 de la Ley 1/2015, de 1 de abril, de garantía de la calidad de los servicios públicos y de buena administración.

Artículo 13. Proactividad y personalización.

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público podrán diseñar procedimientos gestionados a través de sistemas de inteligencia artificial en el ejercicio de sus funciones y competencias para satisfacer las necesidades de las personas sin necesidad de que estas formulen una solicitud previa, lo cual se realizará de acuerdo con lo señalado en el artículo 25 de la Ley 4/2019, de 17 de julio, en relación con los servicios proactivos personalizados que pueden prestarse por la Administración autonómica.

2. Asimismo, se procurará que el diseño de tales procedimientos permita ofrecer a la ciudadanía prestaciones y servicios de forma individualizada, en atención a las características personales, sociales y económicas de cada persona, siempre que se apliquen las medidas adecuadas para la protección de los derechos, libertades e intereses legítimos de las personas destinatarias.

Artículo 14. Universalidad y accesibilidad.

La Administración general de la Comunidad Autónoma de Galicia y su sector público asegurarán que el diseño, adquisición, implementación y uso de los sistemas de inteligencia artificial cumple con los más altos estándares de accesibilidad y de diseño para todos los usuarios que, si son destinados a tener interactuaciones con la ciudadanía, sean accesibles a todas las personas, independientemente de sus circunstancias personales y socioeconómicas, estableciendo las medidas oportunas para superar las brechas digitales, en especial las determinadas por razones económicas, de edad y de discapacidad.

Artículo 15. Fiabilidad y responsabilidad.

1. Todos los sistemas de inteligencia artificial empleados por la Administración general de la Comunidad Autónoma de Galicia y su sector público habrán de contar con las debidas garantías que aseguren la más alta probabilidad de su buen funcionamiento.

2. Los daños causados por los sistemas de inteligencia artificial diseñados o empleados por la Administración general de la Comunidad Autónoma de Galicia y su sector público, independientemente de su grado de autonomía, deberán ser reparados íntegramente por ella, de acuerdo con lo establecido en la Ley 40/2015, de 1 de octubre, y en la Ley 39/2015, de 1 del octubre. Lo dispuesto anteriormente se entenderá sin perjuicio de la posibilidad de reclamar, en su caso, a los proveedores de tales sistemas. En todo caso, en estos extremos se estará a la normativa europea que resulte de aplicación.

Artículo 16. Evaluación del impacto organizativo, económico, social y medioambiental.

1. Sin perjuicio de la correspondiente evaluación de impacto relativa a derechos fundamentales para los sistemas de inteligencia artificial de alto riesgo, de acuerdo con lo dispuesto en el Reglamento (UE) 2024/1689, de 13 de junio, o, en su caso, la relativa a protección de datos de acuerdo con el Reglamento (UE) 2016/679, de 27 de abril, la Administración autonómica establecerá procesos dirigidos a evaluar los posibles riesgos asociados a los sistemas de inteligencia artificial que la propia Administración autonómica pretenda diseñar o emplear.

2. La finalidad de tales evaluaciones de impacto será determinar, con la antelación suficiente, cuáles son los potenciales riesgos que puede implicar la implantación de un concreto sistema de inteligencia artificial en relación con su efectividad, seguridad, uso de recursos y costes económicos e impacto organizativo, social y ambiental, así como los mecanismos de mitigación o compensación de sus efectos.

3. Las evaluaciones de impacto clasificarán los riesgos en función de su gravedad y probabilidad, proponiendo medidas adecuadas para mitigar, atenuar o compensar aquellos, de conformidad con los principios de capacidad técnica, proporcionalidad y suficiencia financiera.

Artículo 17. Evaluación continua.

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público habrán de realizar evaluaciones de forma continua de los sistemas de inteligencia artificial que empleen en respuesta a cambios normativos, sociales y tecnológicos y a los conocimientos adquiridos en el despliegue de dichos sistemas para asegurar su calidad y que las personas afectadas reciban un trato justo y no discriminatorio, de conformidad con la normativa de aplicación.

2. Asimismo, se evaluará que esos sistemas empleen energías renovables como fuente de energía, sean eficientes en su consumo y empleen, siempre que sea posible, recursos de origen sostenible.

Artículo 18. Precaución.

En caso de que una evaluación de impacto indique que el uso de un determinado sistema de inteligencia artificial pudiese causar daños de muy difícil reparación a las personas, la sociedad o el medio ambiente, deberá valorarse el abandono del uso de ese sistema. Con esta finalidad, se ponderará si las ventajas de su utilización o las desventajas de su no utilización son o no superiores a los eventuales daños que pudiera ocasionar.

Artículo 19. Formación continua.

La Administración general de la Comunidad Autónoma de Galicia y su sector público velarán porque el personal empleado público que interviene a lo largo del ciclo de vida de los sistemas de inteligencia artificial mantenga las capacidades precisas para que pueda garantizar un debido uso de los mismos.

Artículo 20. Colaboración y transferencia.

1. La Administración general de la Comunidad Autónoma de Galicia y su sector público promoverán mecanismos de colaboración público-pública y público-privada para el desarrollo de herramientas, tecnologías y servicios basados en sistemas de inteligencia artificial.

2. La Administración general de la Comunidad Autónoma de Galicia y su sector público velarán porque los conocimientos, técnicos, éticos y normativos, sobre sistemas de inteligencia artificial generados sean adecuadamente transferidos a la sociedad.

Artículo 21. Capacidad técnica, proporcionalidad y suficiencia financiera.

Las obligaciones establecidas en la presente ley para la Administración general de la Comunidad Autónoma de Galicia y su sector público serán interpretadas de forma razonable a la luz de las soluciones tecnológicas existentes relacionadas con la inteligencia artificial, el estado actual de la técnica generalmente reconocido y las disponibilidades presupuestarias para el cumplimiento de las mismas.

CAPÍTULO III. Derechos de la ciudadanía

Artículo 22. Los derechos de la ciudadanía.

Los procesos de diseño, adquisición, implementación y uso de sistemas de inteligencia artificial desarrollados por la Administración general de la Comunidad Autónoma de Galicia y su sector público respetarán todos los derechos reconocidos o atribuidos a la ciudadanía en la presente ley y demás normativa europea y estatal de aplicación.

Artículo 23. Transparencia y supervisión humana.

1. Toda persona en cuya relación con la Administración general de la Comunidad Autónoma de Galicia y su sector público intervengan sistemas de inteligencia artificial tendrá derecho a:

1.º El carácter automatizado de las interacciones y las decisiones, en particular a saber si está interactuando con un sistema de inteligencia artificial.