El Ayuntamiento aplica un nuevo protocolo interno de Inteligencia Artificial

El Ayuntamiento de Barcelona se dota de un protocolo interno para implantar con garantías la Inteligencia Artificial en todos los servicios municipales

El Ayuntamiento ha aprobado un protocolo de Inteligencia Artificial. «Definición de metodologías de trabajo y protocolos para la implementación de sistemas algorítmicos», que tiene como finalidad crear un protocolo interno para la implementación de sistemas algorítmicos en el ámbito municipal.

Se trata de un documento pionero en lo que se refiere a la regulación y gobernanza de los sistemas algorítmicos en el ámbito local. Es aplicable a cualquier sistema algorítmico impulsado por el Ayuntamiento, ​​y tiene como objetivo garantizar que estos sistemas se utilizan de forma proporcionada, supervisada y fundamentada, de acuerdo con estándares legales, éticos y técnicos a través de la Inteligencia Artificial (IA).

Este documento define los mecanismos de salvaguarda de derechos que deben existir en cada etapa de la licitación e implementación de un sistema algorítmico por parte del Ayuntamiento de Barcelona, ​​y establece los órganos de gobernanza y supervisión que velarán por que el impacto del IA se alinee con los principios éticos.

El protocolo se basa en la propuesta de regulación Europea sobre la inteligencia artifcial y define, paso a paso, los mecanismos de garantía y salvaguarda de derechos que deben introducirse en cada momento de la implementación de un sistema de inteligencia artificial por parte del Ayuntamiento de Barcelona.

En concreto, el protocolo se basa en la clasificación de riesgos hecha por la Comisión Europea en el marco de la AI Act, y establece diferentes tipos de mecanismos de garantía en función del nivel de riesgo del sistema que se licita. Los sistemas algorítmicos de riesgo inaceptable -aquellos que suponen una clara amenaza para la seguridad y los derechos de las personas- serán rechazados automáticamente, mientras que para el resto de sistemas se establecerán mecanismos en función del nivel de riesgo.

Para los sistemas algorítmicos de alto riesgo -aquellos que tienen un impacto directo en los derechos fundamentales de las personas-, este protocolo prevé una serie de mecanismos de garantía más estrictos que para los considerados de riesgo limitado o mínimo, como los estudios de impacto algorítmico elaborados por un consejo asesor externo o la creación de mecanismos de comunicación y transparencia, como los registros de algoritmos.

Se trata de un documento pionero en lo que respecta a la regulación y gobernanza de los sistemas algorítmicos en el ámbito local, ya que es el primero en combinar el proceso de contratación pública, el ciclo de vida de un sistema algorítmico, los mecanismos existentes en el Ayuntamiento en cuanto a la protección de datos y los estándares éticos definidos por diversas administraciones y organizaciones.

Con este protocolo, el Ayuntamiento de Barcelona anticipa y adapta al contexto local la propuesta europea de regulación de la inteligencia artificial y hace accionables los principios éticos definidos en la “Medida de Gobierno de la estrategia municipal de algoritmos y datos por al impulso ético de la inteligencia artificial”.

Antecedentes: «Medida de Gobierno de la estrategia municipal de algoritmos y datos para el impulso ético de la inteligencia artificial»

El Ayuntamiento de Barcelona aprobó en abril de 2021 la “Medida de Gobierno de la Estrategia Municipal de Algoritmos y Datos para el Impulso Ético de la Inteligencia Artificial”, en el que se definían los principios éticos que debían regir la implementación de cualquier sistema algorítmico por parte del Consistorio.

La medida de gobierno preveía un conjunto de actuaciones (en total, veinte) que el Gobierno Municipal considera prioritarias para afrontar el despliegue de la inteligencia artificial. Una serie de acciones para introducir tecnología de IA en distintos servicios municipales. Entre ellas, la actuación 6 es la que contempla la definición de metodologías de trabajo y protocolos, que ahora se desarrolla con este protocolo interno.

Durante 2023 se activarán otras actuaciones contempladas en la Medida de Gobierno. En concreto se pondrá en marcha la creación del registro público de algoritmos y se creará el consejo asesor externo que, entre otras tareas, elaborará los estudios de impacto algorítmico definidos en el documento.