El Ayuntamiento de Barcelona crea un Consejo Asesor en Inteligencia Artificial y nombra a los expertos independientes que formarán parte del mismo
El Ayuntamiento de Barcelona ha aprobado, mediante dos decretos, la creación del Consejo Asesor en Inteligencia Artificial, Ética y Derechos Digitales y ha nombrado a los 15 expertos independientes que formarán parte.
Este órgano consultivo tiene como misión asistir y asesorar al Ayuntamiento en materia de uso de la inteligencia artificial para el bien común y proponer actuaciones y proyectos con el objetivo de que Barcelona se convierta en una ciudad referente del humanismo tecnológico con el impulso de políticas públicas innovadoras que garanticen los derechos digitales de la ciudadanía.
En pleno debate sobre el uso ético de la IA, este órgano contará con la participación de personas de amplia trayectoria en el ámbito académico, tanto de disciplinas científicas y tecnológicas como del campo de las ciencias sociales y las humanidades, y todas ellas una experiencia previa relacionada con la ética de la inteligencia artificial.
Este Consejo Asesor tendrá un papel clave a la hora de evaluar el impacto de los sistemas algorítmicos en los derechos fundamentales de las personas antes de implementarlos, puesto que una de sus funciones es la de emitir estudios de impacto algorítmico.
En estos estudios, el Consejo Asesor analizará las posibles inadecuaciones o errores del sistema, sus implicaciones en lo que se refiere a la privacidad de datos y las potenciales discriminaciones o vulneraciones de derechos humanos que se podrían producir, y propondrá medidas para corregirlos.
Los estudios serán preceptivos para los sistemas algorítmicos de alto riesgo que, según la propuesta de regulación europea de la inteligencia artificial, son aquéllos que se aplican en ámbitos sensibles como la educación, el empleo o los servicios públicos esenciales.
Con estos estudios, el Ayuntamiento de Barcelona consolidará una serie de garantías de derechos fundamentales que ya ha estado aplicando en casos concretos, como el despliegue de drones para mejorar la gestión del espacio público, en el que se han introducido técnicas de anonimización de las imágenes capturadas por los drones para garantizar el derecho a la privacidad de las personas.
El Ayuntamiento aplica un nuevo protocolo interno de Inteligencia Artificial
En concreto, las funciones del Consejo Asesor en Inteligencia Artificial, Ética y Derechos Digitales son:
- Asesorar al equipo de gobierno del Ayuntamiento de Barcelona en materia de uso de la Inteligencia Artificial para el bien común desde una visión amplia y global
- De acuerdo con el documento “ Definición de metodologías de trabajo y protocolos para la implementación de sistemas algorítmicos ”, emitir estudios de impacto algorítmico, a petición del Ayuntamiento de Barcelona, sobre los sistemas algorítmicos de alto riesgo que se quieran desarrollar o pujar
- Promover la colaboración con universidades, centros docentes, centros de investigación, empresas, fundaciones, instituciones públicas y privadas vinculadas a la inteligencia artificial y su dimensión ética
- Proponer actuaciones/proyectos con el objetivo de que Barcelona se convierta en una ciudad referente del humanismo tecnológico y proponer políticas públicas innovadoras para garantizar los derechos digitales de la ciudadanía
- Evaluar el desarrollo de la Estrategia Municipal de Algoritmos y Datos para el Impulso Ético de la Inteligencia Artificial y conocer y proponer mejoras para el cumplimiento de los objetivos y la realización de sus actuaciones
- Promover el debate y el conocimiento sobre el impacto de la inteligencia artificial en nuestra sociedad, conectando el mundo académico, las instituciones y la ciudadanía.
Por parte del Ayuntamiento de Barcelona, la tercera teniente de alcaldía, Laia Bonet, ostentará la presidencia del Consell y la vicepresidencia la ocupará el Comisionado de Innovación Digital, Administración Electrónica y Buen Gobierno, Michael Donaldson.
Los miembros del Consejo Asesor, 15 en total, son personas físicas de diferentes instituciones de investigación y conocimiento de la ciudad de Barcelona que trabajan en el desarrollo de la inteligencia artificial, en los aspectos humanísticos y de derechos humanos del desarrollo tecnológico.
El decreto de creación del consejo establece que se reunirán al menos dos veces al año en sesión ordinaria y que sus miembros serán nombrados por decreto de alcaldía para un plazo de cinco años, prorrogables, como máximo un mandato más.
