Inteligencia artificial en Barcelona para mejorar los servicios públicos garantizando el respeto a los derechos humanos
El Ayuntamiento de Barcelona apuesta por utilizar la inteligencia artificial como herramienta para la mejora de los servicios públicos y como una oportunidad para ser más eficaz y eficiente en la resolución de retos y en la gestión de las políticas públicas del Ayuntamiento.
La Tinència d’Àrea d’Agenda 2030, Transición Digital, a través del Comissionat d’Innovació Digital, Administració Electrònica i Bon Govern, ha elaborado la Medida de Gobierno Estrategia municipal de algoritmos y datos para el impulso ético de la inteligencia artificial que pretende fijar los mecanismos de gobernanza y impulso de la IA para que respete los derechos digitales de la ciudadanía.
Los sistemas de IA no están exentos de riesgos tecnológicos. La recolección y el tratamiento de los datos sobre los que se basan las decisiones de los algoritmos no siempre son respetuosos con el derecho a la privacidad de la ciudadanía y por ello el Ayuntamiento quiere fijar estos mínimos para garantizar un desarrollo de la inteligente inteligencia artificial y las tecnologías emergentes que respeten los principios del humanismo tecnológico, los derechos digitales y fomenten las tecnologías democráticas.
En el Ayuntamiento de Barcelona, el uso de tecnologías basadas en la inteligencia artificial se encuentra todavía en una fase incipiente pero ya se están haciendo pruebas piloto para contribuir a hacer los servicios municipales más eficientes y proactivos, al tiempo que se tiene un especial cuidado por los derechos de las personas.
Es el caso, por ejemplo, de las cámaras térmicas de monitorización de la ocupación de las playas, que han permitido garantizar el cumplimiento de las restricciones de aforo vinculadas a la Covid-19. O también la clasificación temática de quejas y sugerencias enviadas por la ciudadanía mediante el buzón electrónico del Ayuntamiento.
Las tecnologías de IA ya se están utilizando también en fase piloto para mejorar los servicios sociales ayudando a encontrar las soluciones más adecuadas a cada problemática o contribuyendo a la evaluación de la calidad de los servicios.
Con esta medida de gobierno, el Ayuntamiento de Barcelona dispondrá por primera vez de un marco normativo para la aplicación de la IA en el seno de la institución. Barcelona se suma a ciudades como Amsterdam, Nueva York, Helsinki, Toronto o Seattle en la construcción de un modelo de inteligencia artificial y tecnologías emergentes urbano, basado en los derechos humanos y comprometido con una sociedad digital democrática.
La medida de gobierno propone una veintena de actuaciones de organización, gestión y gobernanza que se desarrollarán en el período 2020-023 y que parten de las premisas que son imprescindibles para el Ayuntamiento:
- Potenciar la transformación digital del propio Ayuntamiento de Barcelona, utilizando la IA como herramienta para la mejora de los servicios públicos a la vez que se garantiza que su despliegue y utilización cumple los requisitos de una tecnología fiable.
- Promover la IA como una herramienta para avanzar hacia un modelo de gobernanza inteligente, más eficaz y eficiente en la resolución de retos y en la gestión de las políticas públicas del Ayuntamiento.
- Establecer mecanismos de co-creación y participación ciudadana que incluyan la implantación de una IA ética al Ayuntamiento ya la ciudad, promoviendo los valores del humanismo tecnológico entre el tejido social.
Establecer los mecanismos internos de gobernanza para garantizar los derechos humanos como pilar fundamental del desarrollo digital y asegurar procesos de participación ciudadana para el seguimiento y la mejora continua de estos mecanismos. - Establecer principios rectores, marco ético, prácticas de gestión responsable y orientaciones técnicas que guíen cualquier aplicación de IA para que esté basada en los derechos humanos y sea técnicamente robusta y confiable.
- Promover modelos de desarrollo de la IA que sean transparentes y auditables a través del fomento de las tecnologías y el software libre y el conocimiento abierto.
- Desarrollar las herramientas técnicas para garantizar el respeto a los derechos humanos en el diseño, la privacidad, el derecho a entender la toma de decisiones, mitigar los sesgos de los datos y los algoritmos y asegurar la supervisión humana en las decisiones automatizadas de las máquinas, cuando estas afecten a las personas.
Como actuaciones destacadas, se prevé la creación de un registro público de algoritmos donde la ciudadanía tenga acceso a todos los algoritmos que se utilizan desde el Ayuntamiento y que afectan a las personas, haciéndoles transparentes y auditables; el establecimiento de cláusulas específicas para que aquellas licitaciones que incluyan sistemas inteligentes lo hagan respetando los derechos de las personas; la promoción de espacios de debate y el networking con el ecosistema innovador para transmitir los valores de la IA ética; la acción internacional de la ciudad de Barcelona como referente del humanismo tecnológico, con la creación de un observatorio internacional de IA con la colaboración de CIDOBy en el marco de la Coalición de Ciudades por los Derechos Digitales; así como la creación de un órgano participativo para implicar a los agentes sociales en el desarrollo de una IA ética al Ayuntamiento ya la ciudad, que permitirá la escucha activa de los principales retos planteados por la ciudadanía.
La tercera teniente de Alcaldía de la Agenda 2030, Transición Digital, Deportes y Coordinación Territorial y Metropolitana, Laia Bonet, ha asegurado que «las tecnologías emergentes son una realidad en nuestra ciudad y no los podemos dar la espalda».
Según explicó «las debemos impulsar para conseguir una administración más proactiva, para que los servicios y recursos públicos lleguen más y mejor a las personas usuarias». Pero Bonet ha alertado de que «hay que garantizar su desarrollo basado en los derechos humanos: las decisiones que toman y tomarán las máquinas no pueden generar nuevas desigualdades ni amplificar o eternizar las desigualdades existentes».
La medida de gobierno se ha elaborado después de escuchar los principales referentes científicos de la ciudad en materia de IA, que configurarán un grupo de expertos en IA y ética que debe permitir realizar el seguimiento de la implantación de la Estrategia y dotar de rigor científico la toma de decisiones en el ámbito de la IA ética.
Casos piloto de aplicación de la IA en el Ayuntamiento de Barcelona
La IA es ya una realidad en el Ayuntamiento de Barcelona. Ya está utilizando sistemas inteligentes y tiene en curso licitaciones que pueden incorporar un sistema inteligente en sus requerimientos técnicos.
Estos proyectos piloto se están llevando a cabo, con la colaboración del Instituto Municipal de Informática, por iniciativa de las diferentes áreas del Ayuntamiento como son el Área de Derechos Sociales, Justicia Global, Feminismos y LGTBI, el Área de Ecología Urbana, el Área de Agenda 2030, Transición Digital y Deportes o del Área de Economía y Hacienda.
La medida de gobierno prevé hacer un catálogo para identificar las acciones en curso y potenciales para hacer un diagnóstico del cumplimiento de los derechos humanos en el impulso de la IA. A continuación, recogemos algunos ejemplos de aplicación reciente de las tecnologías emergentes:
Monitorización de afluencia a las playas
Herramienta implementada durante la pandemia del Covid-19, en los meses de verano de 2020 en Barcelona. El objetivo era informar de la capacidad real de las playas de la ciudad, con las restricciones indicadas en función de los niveles de alertas marcados por el Gobierno. Desde una web, en tiempo casi real, las personas podían consultar antes de salir de casa o dirigirse a la playa, cuál era la que tenía menos afluencia de gente.
El sistema garantizó la privacidad de los datos personales; además, daba niveles aceptables de precisión, integridad, disponibilidad y continuidad. El funcionamiento es el siguiente: Las cámaras captan imágenes cada 5 minutos y las envían a un servidor seguro a través de un punto de acceso privado a través de una red privada. El servidor anonimizado la imagen y elimina la parte no anonimizada. Se procesa la imagen y estima la superficie total de arena libre de objetos. No contabiliza personas.
La contabilidad de personas se hizo con procesamiento de imágenes y aprendizaje automático que comparan cuando la misma imagen está vacía y llena. El servidor activa la alarma cuando sea necesario. Toda la información se envía a la sala de decisiones donde el equipo encargado de la capacidad de monitorización de playas toma decisiones sobre el cierre o no de estas. Esta información también se envía al portal municipal de la playa donde la ciudadanía podía acceder fácilmente y ver la capacidad en tiempo real.
Sistema de apoyo para la clasificación de incidencias
El IRIS es el servicio que permite a la ciudadanía comunicar incidencias o enviar reclamaciones al Ayuntamiento de Barcelona para que las resuelva. A través del IRIS, la ciudadanía puede hacer llegar informaciones y consultas, pero también quejas y sugerencias de mejora.
En este proceso, el ciudadano o ciudadana que avisa de la incidencia debe clasificarla utilizando un árbol de temáticas que se le ofrece a través de la aplicación informática. Esta clasificación es importante porque se utiliza para dirigir la incidencia directamente al departamento responsable, y agilizar así el proceso de respuesta.
Los errores en la clasificación temática ocasionan respuestas inadecuadas y retrasos en la resolución de las incidencias, por lo que afectan a la calidad del servicio ofrecido.
Dentro del proyecto de actualización del servicio IRIS, se ha desarrollado un módulo llamado MARIO, basado en algoritmos de aprendizaje automático -Machine learning- y procesamiento del lenguaje natural (una de las tecnologías enmarcadas en la IA) para simplificar el ciudadano o ciudadana el proceso de clasificación de las incidencias.
A partir del análisis del texto libre que describe la incidencia, MARIO sugiere al ciudadano las categorías más probables donde la incidencia tiene cabida para que este / a elige la categoría más ajustada.
MARIO, que está actualmente en pruebas, minimiza la tasa de error en la clasificación inicial de las incidencias reduciendo mucho los procesos de reclasificación manual. Antes, un 50% de las comunicaciones realizadas necesitaban ser reasignadas; ahora, con MARIO, está alcanzando una tasa de acierto superior al 85%.
MARIO ha desarrollado utilizando herramientas de código abierto -Open source- como Python, Scikit-learn y Pandas, entre otros. El algoritmo ha requerido un entrenamiento que ha llevado a cabo utilizando un conjunto de datos con las temáticas y las preguntas que ha hecho el ciudadano / a previamente validadas para garantizar que han sido correctamente clasificadas.
Algoritmos los servicios sociales
El Área de Derechos Sociales del Ayuntamiento de Barcelona atiende una media de cincuenta mil primeras visitas al año. Las personas que acuden a los cuarenta centros de servicios sociales repartidos por la ciudad tienen problemas económicos, de dependencia, por enfermedad mental, de alcoholismo, pueden necesitar ayuda psicológica, de adaptación, pueden sufrir una situación de violencia de género, etc.
Estas problemáticas tan diversas son atendidas por una plantilla de más de setecientos profesionales -entre trabajadores / as sociales, psicólogos / as y educadores / as sociales-.
Cuando la persona llega al centro, se le atiende en unas cabinas privadas. El trabajador social registra la conversación y, al terminar, transcribe la problemática, así como la ayuda o servicio al que se le ha derivado.
Actualmente, el Ayuntamiento dispone de cientos de miles de entrevistas, muchas de las cuales acaban siendo repetitivas para que los problemas se parecen. Por eso ha generado un modelo de inteligencia colectiva para que el personal profesional disponga de un soporte digital en su toma de decisiones.
Es decir, ahora un algoritmo, entrenado con un repositorio de trescientas mil entrevistas con técnicas de aprendizaje automático, sugiere los recursos destinados a cada caso. Los resultados se han aplicado en tres centros. El algoritmo aquí es una ayuda a la decisión que finalmente toma el profesional que trata el caso.
Dentro del programa llamado Servicios Sociales 2.0 otro proyecto permite disponer de un sistema de evaluaciones continuadas de los servicios públicos. Con la IA se pueden hacer evaluaciones precisas y comparar lo que habría decidido el profesional con el que decide la máquina. El proyecto es crear un sistema integral de datos masivas, con toda la información de los registros administrativos de las personas demandantes de ayudas sociales para conseguir una evolución temporal y saber si está mejorando o no.
Plan de robotización de la Estrategia de transición digital
La robotización de procesos (RPA, del inglés Robotic Process Automation) es una tecnología que, a pesar de no ser estrictamente IA, va muy de la mano de ésta en la transformación digital del Ayuntamiento de Barcelona.
La RPA permite que un «robot» software emule e integre las acciones de una interacción humana para ejecutar un proceso. El objetivo de este es mejorar la eficiencia en la ejecución de un proceso a partir de la robotización de las tareas repetitivas que antes ejecutaba un humano.
El Plan de robotización ha creado un nuevo servicio de RPA para la robotización de procesos. Un facilitador para dar servicio y soporte a los diferentes robots y automatismos de procesos de las diferentes áreas del Ayuntamiento, tanto futuros como ya existentes, orquestando su actividad para poder proporcionar indicadores de su uso y, al mismo tiempo, controlarlo la trazabilidad y garantizar la correcta adecuación a los requerimientos cambiantes.
Hasta ahora, se han llevado a cabo los siguientes casos de uso:
- Licencias de Sant Jordi (2019) para el Distrito del Eixample. Diseño e implantación de un piloto de robotización en los procesos de tramitación de las licencias de ocupación del espacio público para el día de Sant Jordi, que permitió a los servicios técnicos de distrito poder automatizar un conjunto de tareas manuales, liberar tiempo y recursos, y reducir el tiempo de tramitación por el ciudadano / a.
- Gestión de expedientes de terrazas (2020) para Ecología Urbana. Implantación de un robot para la tramitación de expedientes para ampliar las terrazas de Barcelona durante la pandemia.
- Procedimientos concursales (2020) por el Instituto Municipal de Hacienda. Implantación de un piloto de robotización en el Proceso de declaración de procedimientos concursales que permite a los servicios técnicos poder automatizar un conjunto de tareas manuales, liberando recursos para poder disponer de más tiempo para efectuar tareas de valor añadido.
Mejoras en los canales de comunicación con la ciudadanía mediante IA
La información recogida en el IRIS, el sistema del Ayuntamiento de Barcelona que resuelve y responde las incidencias y reclamaciones a las personas de la ciudad, es de alto valor añadido que puede ser explotado mediante la IA.
En colaboración con el Barcelona Supercomputing Center, el Instituto Municipal de Informática está llevando a cabo un proyecto que tiene por objetivo la identificación de patrones en las comunicaciones de incidencias que la ciudadanía efectúa mediante el IRIS con eventos o situaciones específicas que pasan en la ciudad.
De este modo, el Ayuntamiento de Barcelona se podrá anticipar a las necesidades de la ciudadanía ante estas situaciones y tener una imagen clara de lo que está pasando en la ciudad. El objetivo final es utilizar toda esta información para mejorar los canales de comunicación con la ciudadanía y la respuesta que el Ayuntamiento de Barcelona da a ésta.
En este caso, algoritmos de IA basados en el procesamiento del lenguaje natural se utilizarán para, una vez anonimizadas las comunicaciones en el IRIS, extraer información que se procesará y clasificará por áreas temáticas y geográficas permitiendo asociar y buscar correlaciones con eventos que hayan pasado a la ciudad con el fin de mejorar el servicio de incidencias, quejas y sugerencias IRIS.
A la vez, el proyecto contribuirá de forma muy importante en la creación de un conjunto de datos de lenguaje natural en catalán y castellano, las lenguas utilizadas habitualmente en la comunicación de la ciudadanía con el Ayuntamiento de Barcelona. Especialmente en cuanto al catalán, actualmente no existen grandes conjuntos de datos en esta lengua y esta acción contribuirá a crearlos. Estos conjuntos de datos serán de gran utilidad para mejorar otros servicios digitales.
Como se ha comentado anteriormente, la principal fuente de datos será las comunicaciones ciudadanas a través del IRIS (260.000 comunicaciones anuales) pero también se estudiará la incorporación de datos provenientes del teléfono de atención ciudadana, el 010, con aproximadamente ocho mil llamadas diarias.
Inteligencia artificial en Barcelona para mejorar los servicios públicos
