Algoritme.

Barcelona impulsa l’ús ètic de la intel·ligència artificial

Et presentem la nova "Estratègia municipal d’algoritmes i dades per a l’impuls ètic de la intel·ligència artificial", la mesura que fixa els mecanismes perquè l’aplicació de la intel·ligència artificial (IA) a la gestió i els serveis municipals es faci respectant els drets digitals de la ciutadania. Ens afegim així a ciutats com ara Amsterdam, Nova York, Hèlsinki, Toronto o Seattle en la construcció d’un model d’IA i tecnologies emergents basat en els drets humans i compromès amb una societat digital democràtica.

L’estratègia preveu la creació d’un registre públic en el qual la ciutadania tingui accés a tots els algoritmes que es fan servir des de l’Ajuntament i que afecten les persones, per fer-los transparents i auditables, i l’establiment de clàusules perquè les licitacions municipals que incloguin sistemes intel·ligents ho facin respectant els drets de les persones.

També es crearà un observatori internacional d’IA amb la col·laboració del CIDOB-Barcelona Centre for International Affairs en el marc de la Coalició de Ciutats pels Drets Digitals, i un òrgan participatiu per implicar als agents socials en el desenvolupament d’una IA ètica a l’Ajuntament i a la ciutat.

 

PROJECTES PILOT D'APLICACIÓ DE LA IA A L'AJUNTAMENT DE BARCELONA

Tot i que encara ens trobem en una fase incipient, ja tenim en marxa proves pilot que utilitzen sistemes intel·ligents per fer els serveis municipals més eficients i proactius i que tenen una cura especial pels drets de les persones.

A continuació us oferim alguns exemples d’aplicació recent d’aquestes tecnologies:

  • Monitoratge d’afluència a les platges

Les càmeres tèrmiques de monitoratge de l’ocupació de les platges van permetre garantir el compliment de les restriccions d’aforament vinculades a la covid-19.

El sistema va garantir la privacitat de les dades personals: les càmeres captaven imatges cada 5 minuts i les enviaven a un servidor segur. El servidor anonimitzava la imatge i eliminava la part no anonimitzada. A continuació processava la imatge i estimava la superfície total de sorra lliure d’objectes. No comptabilitzava persones.

La comptabilitat de persones es va fer amb processament d’imatges i aprenentatge automàtic que comparaven quan la mateixa imatge estava buida o plena. El servidor activava l’alarma quan era necessari. Tota la informació s’enviava a l’equip gestor del sistema de monitoratge, que decidia si s'havia de tancar les platges. Aquesta informació també s’enviava al web municipal on la ciutadania pot veure-hi la capacitat en temps real.

  • Sistema de suport per a la classificació de queixes i suggeriments de la ciutadania

L’IRIS és el servei que permet a la ciutadania comunicar incidències o enviar reclamacions, queixes o suggeriments de millora a l’Ajuntament. El ciutadà o ciutadana que avisa de la incidència ha de classificar-la amb un arbre de temàtiques que se li ofereix a través de l’aplicació informàtica. Aquesta classificació és important perquè s’utilitza per dirigir la incidència directament al departament responsable. Els errors en la classificació ocasionen respostes inadequades i retards en la resolució i afecten la qualitat del servei ofert.

Ara, un mòdul anomenat MARIO basat en algoritmes d’aprenentatge automàtic —Machine Learning— i processament del llenguatge natural (una de les tecnologies desenvolupades en el marc de la IA) simplifica el procés de classificació. A partir de l’anàlisi del text lliure que descriu la incidència, MARIO suggereix al ciutadà o ciutadana les categories més probables on la incidència té cabuda perquè aquest/a triï la més ajustada.

Abans, un 50% de les comunicacions necessitaven ser reassignades. Ara, amb MARIO s’està assolint una taxa d’encert superior al 85%.

  • Algoritmes als serveis socials

Els Serveis Socials municipals atenen una mitjana de 50.000 primeres visites a l’any degut a problemàtiques diverses, des de problemes econòmics o de dependència fins a situacions de violència de gènere. Aquestes problemàtiques són ateses per una plantilla de més de 700 professionals.

Quan la persona arriba al centre se l’atén en unes cabines privades. El treballador o treballadora social enregistra la conversa i, en acabar, transcriu la problemàtica i l’ajuda o servei al qual se l’ha derivat. L’Ajuntament disposa de milers d’entrevistes, moltes de les quals acaben sent repetitives perquè els problemes s’assemblen.

Ara, un algoritme permet que el personal disposi d’un suport digital en la seva presa de decisions. L’algoritme entrenat amb un repositori de 300.000 entrevistes suggereix els recursos destinats a cada cas. L’algoritme, aquí, és un ajut a la decisió que finalment prèn la persona professional que tracta el cas.

 

Estratègia municipal d’algoritmes i dades per a l’impuls ètic de la intel·ligència artificial

 

Subscriu-te al butlletí Subscriu-te al butlletí

Subscriu-te al nostre butlletí per estar informat de les novetats de Barcelona Ciutat Digital