Algoritmo

Barcelona impulsa el uso ético de la inteligencia artificial

Te presentamos la nueva Estrategia municipal de algoritmos y datos para el impulso ético de la inteligencia artificial, la medida que fija los mecanismos para que la aplicación de la inteligencia artificial (IA) a la gestión y los servicios municipales se haga respetando los derechos digitales de la ciudadanía. Nos sumamos, así, a ciudades como Ámsterdam, Nueva York, Helsinki, Toronto o Seattle en la construcción de un modelo de IA y tecnologías emergentes basado en los derechos humanos y comprometido con una sociedad digital democrática.

La estrategia prevé la creación de un registro público en que la ciudadanía tenga acceso a todos los algoritmos que se utilizan desde el Ayuntamiento y que afectan a las personas, para hacerlos transparentes y auditables, y el establecimiento de cláusulas para que las licitaciones municipales que incluyan sistemas inteligentes lo hagan respetando los derechos de las personas.

También se creará un observatorio internacional de IA con la colaboración del CIDOB en el marco de la Coalición de Ciudades por los Derechos Digitales y un órgano participativo para implicar a los agentes sociales en el desarrollo de una IA ética en el Ayuntamiento y en la ciudad.

 

PROYECTOS PILOTO DE APLICACIÓN DE LA IA EN EL AYUNTAMIENTO DE BARCELONA

Aunque todavía nos encontramos en una fase incipiente, ya tenemos en marcha pruebas piloto que utilizan sistemas inteligentes para hacer los servicios municipales más eficientes y proactivos y que prestan una atención especial a los derechos de las personas.

A continuación, te ofrecemos algunos ejemplos de aplicación reciente de estas tecnologías:

  • Monitorización de afluencia en las playas

Las cámaras térmicas de monitorización de la ocupación de las playas permitieron garantizar el cumplimiento de las restricciones de aforo vinculadas a la COVID-19 durante el verano de 2020.

El sistema garantizaba la privacidad de los datos personales: las cámaras captaban imágenes cada 5 minutos y las envíaban a un servidor seguro. El servidor anonimizaba la imagen y eliminaba la parte no anonimizada. A continuación, procesaba la imagen y se estimaba la superficie total de arena libre de objetos. No contabilizaba personas.

La contabilización de personas se hizo con procesamiento de imágenes y el aprendizaje automático, que comparaban cuándo la misma imagen estaba vacía y llena. El servidor activaba la alarma cuando era necesario. Toda la información se enviaba al equipo gestor del sistema de monitorización, que decidía si había que cerrar las playas. Esta información también se enviaba al web municipal, donde la ciudadanía podía ver la capacidad en tiempo real.

  • Sistema de apoyo para la clasificación de quejas y sugerencias de la ciudadanía

El IRIS es el servicio que permite a la ciudadanía comunicar incidencias o enviar reclamaciones, quejas o sugerencias de mejora al Ayuntamiento. El ciudadano o ciudadana que avisa de la incidencia debe clasificarla con un árbol de temáticas que se le ofrece a través de la aplicación informática. Esta clasificación es importante porque se utiliza para dirigir la incidencia directamente al departamento responsable. Los errores en la clasificación ocasionan respuestas inadecuadas y retrasos en la resolución y afectan a la calidad del servicio ofrecido.

Ahora, un módulo denominado MARIO, basado en algoritmos de aprendizaje automático —machine learning— y procesamiento del lenguaje natural (una de las tecnologías desarrolladas en el marco de la IA), simplifica el proceso de clasificación. A partir del análisis del texto libre que describe la incidencia, MARIO sugiere al ciudadano o ciudadana las categorías más probables donde la incidencia tiene cabida para que este o esta elija la más ajustada.

Antes, un 50 % de las comunicaciones necesitaban ser reasignadas. Ahora, con MARIO se está alcanzando una tasa de acierto superior al 85 %.

  • Algoritmos en los servicios sociales

Los servicios sociales municipales atienden una media de 50.000 primeras visitas al año debido a problemáticas diversas, desde problemas económicos o de dependencia hasta situaciones de violencia de género. Estas problemáticas son atendidas por una plantilla de más de 700 profesionales.

Cuando la persona llega al centro, se le atiende en unas cabinas privadas. El trabajador o trabajadora social graba la conversación y, al acabar, transcribe la problemática y la ayuda o servicio al que se le ha derivado. El Ayuntamiento dispone de miles de entrevistas, muchas de las cuales acaban siendo repetitivas porque los problemas se parecen.

Ahora, un algoritmo permite que el personal disponga de un soporte digital en su toma de decisiones. El algoritmo, entrenado con un repositorio de 300.000 entrevistas, sugiere los recursos destinados a cada caso. Aquí, el algoritmo es una ayuda a la decisión que finalmente toma la persona profesional que trata el caso.

Estrategia municipal de algoritmos y datos para el impulso ético de la inteligencia artificial

El boletín El boletín

Suscríbete a nuestro boletín para estar informado de las novedades de Barcelona Ciudad Digital