Las tecnologías que utilizan sistemas de inteligencia artificial representan una oportunidad sin precedentes para mejorar la calidad y eficacia de los servicios públicos y para agilizar y personalizar los tramites de las Administraciones. Al tratarse de una tecnología en proceso de desarrollo y que reduce de modo significativo la necesidad de intervención humana en los procesos de toma de decisiones, es necesario que las administraciones públicas garanticen su seguridad y fiabilidad y cuenten con la confianza de la ciudadanía.

La Unión Europea tomó la delantera mundial en este desafío de desarrollo de una inteligencia artificial ética y segura con la aprobación de un reglamento que establece el marco legal de ámbito general para la adopción de sistemas de IA en los Estados miembro e identifica diferentes niveles de riesgos.

Galicia se situó entre las primeras regiones europeas en adoptar el “enfoque europeo” para la implantación y uso de la IA con medidas como la aprobación de una estrategia propia, siguiendo las recomendaciones comunitarias; o la elaboración, junto con las tres Universidades públicas, de un estudio sobre el marco ético y normativo específico que se podría adoptar en Galicia para complementar la regulación europea.

Un trabajo pionero

Una de las conclusiones de aquel trabajo pionero fue que se podría avanzar en paralelo con la Unión Europea en una legislación propia, centrada en el uso de la IA en la Administración y en los servicios públicos autonómicos, así como en la promoción del uso de esta tecnología en los sectores productivos y por parte de la ciudadanía.

Gracias a ese trabajo adelantado y coordinado, Galicia es hoy la primera región europea que dispone de una ley que asegura la eficacia de los sistemas de IA que utiliza la Administración y garantizadora los derechos de las personas y su capacidad para hacer valer estos derechos.

Para cumplir con la ley, todos los sistemas de inteligencia artificial que se desarrollen o se utilicen en la Xunta o en el sector público autonómico estarán enmarcados en una estrategia global (la Estrategia Gallega de IA), en un programa sectorial (elaborado por cada consellería) y deberán estar precedidos de un informe de proyecto. Este informe, además de justificar la necesidad y oportunidad, deberá evaluar los beneficios y riesgos de cada iniciativa. Todos los sistemas estarán inventariados de una manera transparente y accesible.

La ley gallega crea además mecanismos concretos de defensa de los derechos de la ciudadanía ante lo uso de la IA. En primer lugar, Galicia dispondrá de una Oficina de Inteligencia artificial que coordinará y supervisará los procedimientos que impliquen el uso de esta tecnología. Esta oficina analizará todos los informes de proyectos y supervisará de una manera especial los riesgos. También ofrecerá apoyo a los diferentes departamentos e identificará y asesorará de manera continua sobre las tendencias.

La ley también crea la figura de los comisionados de inteligencia artificial, que serán los encargados de supervisar el uso de los sistemas de IA en los diferentes departamentos y servicios autonómicos, así como de canalizar en primera instancia las quejas o sugerencias que se reciban de las personas usuarias.

Principios y deberes

De acuerdo con la ley, los comisionados “velarán por el cumplimientos de los principios y deberes en materia de prevención, detección y eliminación de riesgos y resultados negativos de la implementación de sistemas de IA por los órganos competentes”.
Los comisionados serán personas con conoc

imientos técnicos, jurídicos, éticos, de normas de seguridad y de toma de decisiones automatizadas.

Además de estas figuras relacionadas con la fiabilidad de los sistemas de IA y defensa de los derechos de las personas, la ley crea otros órganos, como el Consello Galego de IA, que será el escenario de la colaboración público-privada.