L’Ajuntament de Barcelona impulsa l’ús de la intel·ligència artificial per millorar els serveis públics garantint el respecte als drets humans : Servei de Premsa

L’Ajuntament de Barcelona impulsa l’ús de la intel·ligència artificial per millorar els serveis públics garantint el respecte als drets humans

21/04/2021



Temps estimat de lectura: 12 minuts

La tercera Tinenta d’Alcaldia de l’Agenda 2030, Transició Digital, Esports i Coordinació Territorial i Metropolitana, Laia Bonet, ha presentat la Mesura de Govern sobre Intel·ligència Artificial (IA), a la Comissió de Presidència, Drets de Ciutadania, Participació, Seguretat i Prevenció

L’Estratègia municipal d’algoritmes i dades per a l’impuls ètic de la intel·ligència artificial és el document marc que fixa els mecanismes de governança i d’impuls de la IA per tal que respecti els drets digitals de la ciutadania

L’Ajuntament de Barcelona disposarà per primer cop d’un marc normatiu per a l’aplicació de la IA i se suma a ciutats com Amsterdam, Nova York, Hèlsinki, Toronto o Seattle en la construcció d’un model d’intel·ligència artificial i tecnologies emergents urbà, basat en els drets humans i compromès amb una societat digital democràtica

La IA és ja una realitat a l’Ajuntament amb proves pilot en marxa per fer els serveis municipals més eficients i proactius tenint en compte la preservació dels drets de les persones. És el cas de les càmeres tèrmiques de monitoratge de l’ocupació de les platges, la classificació temàtica de queixes i suggeriments enviats per la ciutadania a la bústia electrònica o sistemes de millora de serveis socials

L’Ajuntament de Barcelona aposta per utilitzar la intel·ligència artificial com a eina per a la millora dels serveis públics i com una oportunitat per ser més eficaç i eficient en la resolució de reptes i en la gestió de les polítiques públiques de l’Ajuntament. La Tinència d’Àrea d’Agenda 2030, Transició Digital, a través del Comissionat d’Innovació Digital, Administració Electrònica i Bon Govern, ha elaborat la Mesura de Govern Estratègia municipal d’algoritmes i dades per a l’impuls ètic de la intel·ligència artificial que pretén fixar els mecanismes de governança i impuls de la IA per tal que respecti els drets digitals de la ciutadania.  

Els sistemes d’IA no estan exempts de riscos tecnològics. La recol·lecció i el tractament de les dades sobre les quals es basen les decisions dels algoritmes no sempre són respectuosos amb el dret a la privacitat de la ciutadania i per això l’Ajuntament vol fixar aquests mínims per garantir un desenvolupament de la intel·ligència artificial i les tecnologies emergents que respectin els principis de l’humanisme tecnològic, els drets digitals i fomentin les tecnologies democràtiques.

A l’Ajuntament de Barcelona, l’ús de tecnologies basades en la intel·ligència artificial es troba encara en una fase incipient però ja s’estan fent proves pilot per contribuir a fer els serveis municipals més eficients i proactius, alhora que es té una especial cura pels drets de les persones. És el cas, per exemple, de les càmeres tèrmiques de monitoratge de l’ocupació de les platges, que han permès garantir el compliment de les restriccions d’aforament vinculades a la covid-19. O també la classificació temàtica de queixes i suggeriments enviats per la ciutadania mitjançant la bústia electrònica de l’Ajuntament. Les  tecnologies d’IA ja s’estan utilitzant també en fase pilot per millorar els serveis socials ajudant a trobar les solucions més adequades a cada problemàtica o contribuint a l’avaluació de la qualitat dels serveis. D’altra banda, s’està estudiant l’aplicació de la IA en l’àmbit de la hisenda municipal i per a la gestió de recursos de multes i sancions o per ajudar a la creació d’un catàleg d’etiquetes que ajudi a identificar l’autoria de les pintades a l’espai públic de la ciutat.

Amb aquesta mesura de govern, l’Ajuntament de Barcelona disposarà per primer cop d’un marc normatiu per a l’aplicació de la IA en el si de la institució. Barcelona se suma a ciutats com Amsterdam, Nova York, Hèlsinki, Toronto o Seattle en la construcció d’un model d’intel·ligència artificial i tecnologies emergents urbà, basat en els drets humans i compromès amb una societat digital democràtica.

La mesura de govern proposa una vintena d’actuacions d’organització, gestió i governança que es desenvoluparan en el període 2020-023 i que parteixen de les premisses que son imprescindibles per l’Ajuntament:

Com a actuacions destacades, es preveu la creació d’un registre públic d’algoritmes on la ciutadania tingui accés a tots els algoritmes que es fan servir des de l’Ajuntament i que afecten a les persones, fent-los transparents i auditables; l’establiment de clàusules específiques per a que aquelles licitacions que incloguin sistemes intel·ligents ho facin respectant els drets de les persones; la promoció d’espais de debat i el networking amb l’ecosistema innovador per transmetre els valors de la IA ètica; l’acció internacional de la ciutat de Barcelona com a referent de l’humanisme tecnològic, amb la creació d’un observatori internacional d’IA amb la col•laboració del CIDOB i en el marc de la Coalició de Ciutats pels Drets Digitals; així com la creació d’un òrgan participatiu per a implicar als agents socials en el desenvolupament d’una IA ètica a l’Ajuntament i a la ciutat,  que permetrà l’escolta activa dels principals reptes plantejats per la ciutadania.

La tercera Tinenta d’Alcaldia de l’Agenda 2030, Transició Digital, Esports i Coordinació Territorial i Metropolitana, Laia Bonet, ha assegurat que “les tecnologies emergents són una realitat a la nostra ciutat i no els podem girar l’esquena”. Segons ha explicat “les hem d’impulsar per aconseguir una administració més proactiva, per a que els serveis i recursos públics arribin més i millor a les persones usuàries”. Però Bonet ha alertat que “cal garantir el seu desenvolupament basat en els drets humans: les decisions que prenen i prendran les màquines no poden generar noves desigualtats ni amplificar o eternitzar les desigualtats existents”.

La mesura de govern s’ha elaborat després d’escoltar els principals referents científics de la ciutat en matèria d’IA, que configuraran un grup d’experts en IA i ètica que ha de permetre realitzar el seguiment de la implantació de l’Estratègia i dotar de rigor científic la presa de decisions en l’àmbit de la IA ètica.

 

Casos pilot d’aplicació de la IA a l’Ajuntament de Barcelona

La IA és ja una realitat a l’Ajuntament de Barcelona. Ja està utilitzant sistemes intel·ligents i té en curs licitacions que poden incorporar un sistema intel·ligent en els seus requeriments tècnics. Aquests projectes pilot s’estan duent a terme, amb la col·laboració de l’Institut Municipal d’Informàtica, per iniciativa de les diferents àrees de l’Ajuntament com són l’Àrea de Drets Socials, Justícia Global, Feminismes i LGTBI, l’Àrea d’Ecologia Urbana, l’Àrea d’Agenda 2030, Transició Digital i Esports o l’Àrea d’Economia i Hisenda.

La mesura de govern preveu fer un catàleg per identificar les accions en curs i potencials per fer una diagnosi del compliment dels drets humans en l’impuls de la IA. A continuació recollim alguns exemples d’aplicació recent de les tecnologies emergents:

 

Àrea responsable: Barcelona Cicle de l’Aigua, SA

Eina implementada durant la pandèmia de la covid-19, en els mesos d’estiu del 2020 a Barcelona. L’objectiu era informar de la capacitat real de les platges de la ciutat, amb les restriccions indicades en funció dels nivells d’alertes marcats pel Govern. Des d’un web, en temps gairebé real, les persones podien consultar abans de sortir de casa o dirigir-se a la platja, quina era la que tenia menys afluència de gent.

El sistema va garantir la privacitat de les dades personals; a més, donava nivells acceptables de precisió, integritat, disponibilitat i continuïtat. El funcionament és el següent: Les càmeres capten imatges cada 5 minuts i les envien a un servidor segur a través d’un punt d’accés privat a través d’una xarxa privada. El servidor anonimitza la imatge i elimina la part no anonimitzada. Es processa la imatge i estima la superfície total de sorra lliure d’objectes. No comptabilitza persones.

La comptabilitat de persones es va fer amb processament d’imatges i aprenentatge automàtic que comparen quan la mateixa imatge està buida i plena. El servidor activa l’alarma quan sigui necessari. Tota la informació s’envia a la sala de decisions on l’equip encarregat de la capacitat de monitoratge de platges pren decisions sobre el tancament o no d’aquestes. Aquesta informació també s’envia al portal municipal de la platja on la ciutadania hi podia accedir fàcilment i veure’n la capacitat en temps real.

 

 

Àrea responsable: Direcció de Serveis d’Informació i Atenció Ciutadana

L’IRIS és el servei que permet a la ciutadania comunicar incidències o enviar reclamacions a l’Ajuntament de Barcelona perquè les resolgui. A través de l’IRIS, la ciutadania pot fer arribar informacions i consultes, però també queixes i suggeriments de millora. En aquest procés, el ciutadà o ciutadana que avisa de la incidència ha de classificar-la utilitzant un arbre de temàtiques que se li ofereix a través de l’aplicació informàtica. Aquesta classificació és important perquè s’utilitza per dirigir la incidència directament al departament responsable, i agilitzar així el procés de resposta. Els errors en la classificació temàtica ocasionen respostes inadequades i retards en la resolució de les incidències, per la qual cosa afecten la qualitat del servei ofert.

Dintre del projecte d’actualització del servei IRIS, s’ha desenvolupat un mòdul anomenat MARIO, basat en algoritmes d’aprenentatge automàtic —Machine Learning— i processament del llenguatge natural (una de les tecnologies emmarcades en la IA) per simplificar al ciutadà o ciutadana el procés de classificació de les incidències. A partir de l’anàlisi del text lliure que descriu la incidència, MARIO suggereix al ciutadà o ciutadana les categories més probables on la incidència té cabuda perquè aquest/a triï la categoria més ajustada.

MARIO, que està actualment en proves, minimitza la taxa d’error en la classificació inicial de les incidències reduint molt els processos de reclassificació manual. Abans, un 50% de les comunicacions realitzades necessitaven ser reassignades; ara, amb MARIO, s’està assolint una taxa d’encert superior al 85%.

MARIO s’ha desenvolupat fent servir eines de codi obert —Open Source— com Python, Scikit-learn i Pandas, entre d’altres. L’algoritme ha requerit un entrenament que s’ha dut a terme utilitzant un conjunt de dades amb les temàtiques i les preguntes que ha fet el ciutadà/ana prèviament validades per garantir que han estat correctament classificades.

 

Àrea responsable: Drets Socials, Justícia Global, Feminismes i LGTBI.

L’Àrea de Drets Socials de l’Ajuntament de Barcelona atén una mitjana de cinquanta mil primeres visites a l’any. Les persones que acudeixen als quaranta centres de serveis socials repartits per la ciutat tenen problemes econòmics, de dependència, per malaltia mental, d’alcoholisme, poden necessitar ajuda psicològica, d’adaptació, poden patir una situació de violència de gènere, etc. Aquestes problemàtiques tan diverses són ateses per una plantilla de més de set-cents professionals —entre treballadors/ores socials, psicòlegs/òlogues i educadors/ores socials—.

Quan la persona arriba al centre, se l’atén en unes cabines privades. El treballador o treballadora social enregistra la conversa i, en acabar, transcriu la problemàtica, així com l’ajuda o servei al qual se l’ha derivat. Actualment, l’Ajuntament disposa de centenars de milers d’entrevistes, moltes de les quals acaben sent repetitives perquè els problemes s’assemblen. Per això ha generat un model d’intel·ligència col·lectiva perquè el personal professional disposi d’un suport digital en la seva presa de decisions. És a dir, ara un algoritme, entrenat amb un repositori de tres-centes mil entrevistes amb tècniques d’aprenentatge automàtic, suggereix els recursos destinats a cada cas. Els resultats s’han aplicat en tres centres. L’algoritme aquí és un ajut a la decisió que finalment pren el professional que tracta el cas.

Dins el programa anomenat Serveis Socials 2.0 un altre projecte permet disposar d’un sistema d’avaluacions continuades dels serveis públics. Amb la IA es poden fer avaluacions acurades i comparar el que hauria decidit el professional amb el que decideix la màquina. El projecte és crear un sistema integral de dades massives, amb tota la informació dels registres administratius de les persones demandants d’ajuts socials per aconseguir una evolució temporal i saber si està millorant o no.

 

Àrea responsable: Acció tranversal liderada per l’Institut Municipal d’Informàtica, amb la participació —entre altres àrees— de Institut Municipal d’Hisenda, el Districte de l’Eixample i l’Àrea d’Ecologia Urbana.

La robotització de processos (RPA, de l’anglès Robotic Process Automation) és una tecnologia que, tot i no ser estrictament IA, va molt de bracet d’aquesta en la transformació digital de l’Ajuntament de Barcelona. La RPA permet que un “robot” software emuli i integri les accions d’una interacció humana per executar un procés. L’objectiu d’aquest és millorar l’eficiència en l’execució d’un procés a partir de la robotització de les tasques repetitives que abans executava un humà.

El Pla de robotització ha creat un nou servei d’RPA per a la robotització de processos. Un facilitador per donar servei i suport als diferents robots i automatismes de processos de les diferents àrees de l’Ajuntament, tant futurs com ja existents, orquestrant-ne la seva activitat per tal de poder proporcionar indicadors del seu ús i, alhora, controlar-ne la traçabilitat i garantir la correcta adequació als requeriments canviants.

Fins ara, s’han dut a terme els següents casos d’ús:

 

Àrea responsable: Direcció de Serveis d’Informació i Atenció Ciutadana

La informació recollida a l’IRIS, el sistema de l’Ajuntament de Barcelona que resol i respon les incidències i reclamacions a les persones de la ciutat, és d’alt valor afegit que pot ser explotat mitjançant la IA.

En col·laboració amb el Barcelona Supercomputing Center, l’Institut Municipal d’Informàtica està duent a terme un projecte que té per objectiu la identificació de patrons en les comunicacions d’incidències que la ciutadania efectua mitjançant l’IRIS amb esdeveniments o situacions específiques que passen a la ciutat. D’aquesta manera, l’Ajuntament de Barcelona es podrà anticipar a les necessitats de la ciutadania davant d’aquestes situacions i tenir una imatge clara del que està passant a la ciutat. L’objectiu final és utilitzar tota aquesta informació per millorar els canals de comunicació amb la ciutadania i la resposta que l’Ajuntament de Barcelona dona a aquesta.

En aquest cas, algoritmes d’IA basats en el processament del llenguatge natural s’utilitzaran per, un cop anonimitzades les comunicacions a l’IRIS, extreure informació que es processarà i classificarà per àrees temàtiques i geogràfiques permetent associar-la i buscar correlacions amb esdeveniments que hagin passat a la ciutat a fi de millorar el servei d’incidències, queixes i suggeriments IRIS.

A la vegada, el projecte contribuirà de forma molt important a la creació d’un conjunt de dades de llenguatge natural en català i castellà, les llengües utilitzades habitualment en la comunicació de la ciutadania amb l’Ajuntament de Barcelona. Especialment pel que fa al català, actualment no existeixen grans conjunts de dades en aquesta llengua i aquesta acció contribuirà a crear-ne. Aquests conjunt de dades seran de gran utilitat per millorar altres serveis digitals.

Com s’ha comentat anteriorment, la principal font de dades serà les comunicacions ciutadanes a través de l’IRIS (260.000 comunicacions anuals) però també s’estudiarà la incorporació de dades provinents del telèfon d’atenció ciutadana, el 010, amb aproximadament vuit mil trucades diàries.

 

Mesura de Govern





Paraules clau
ai/ intel·ligència artificial/