Barcelona Ciutat Digital

L’Ajuntament de Barcelona ha aprovat el protocol “Definició de metodologies de treball i protocols per a la implementació de sistemes algorítmics”, que té com a finalitat crear un protocol intern per a la implementació de sistemes algorítmics en l’àmbit municipal. Es tracta d’un document pioner pel que fa a la regulació i la governança dels sistemes algorítmics en l’àmbit local. És aplicable a qualsevol sistema algorítmic impulsat per l’Ajuntament de Barcelona, i té com a objectiu garantir que aquests sistemes es fan servir de manera proporcionada, supervisada i fonamentada, d’acord amb estàndards legals, ètics i tècnics.

Aquest document defineix els mecanismes de salvaguarda de drets que ha d’haver-hi en cada etapa de la licitació i implementació d’un sistema algorítmic per part de l’Ajuntament de Barcelona, i estableix els òrgans de governança i supervisió que vetllaran perquè l’impacte de l’IA s’alineï amb els principis ètics.

El protocol es basa en la proposta de regulació europea sobre la intel·ligència artificial i defineix, pas a pas, els mecanismes de garantia i salvaguarda de drets que s’han d’introduir en cada moment de la implementació d’un sistema d’intel·ligència artificial per part de l’Ajuntament de Barcelona.

Mecanismes de garantia segons el risc

En concret, el protocol es basa en la classificació de riscos feta per la Comissió Europea en el marc de The Artificial Intelligence Act, i estableix diferents tipus de mecanismes de garantia en funció del nivell de risc del sistema que es licita.

Els sistemes algorítmics de risc inacceptable —els que suposen una clara amenaça per a la seguretat i els drets de les persones— seran rebutjats automàticament, mentre que per a la resta de sistemes s’establiran mecanismes en funció del nivell de risc.Per als sistemes algorítmics d’alt risc —els que tenen un impacte directe en els drets fonamentals de les persones—, aquest protocol preveu un seguit de mecanismes de garantia més estrictes que per als considerats de risc limitat o mínim, com els estudis d’impacte algorítmic elaborats per un consell assessor extern o la creació de mecanismes de comunicació i transparència, com els registres d’algoritmes.

Es tracta d’un document pioner pel que fa a la regulació i governança dels sistemes algorítmics en l’àmbit local, ja que és el primer a combinar el procés de contractació pública, el cicle de vida d’un sistema algorítmic, els mecanismes que té l’Ajuntament pel que fa a la protecció de dades i els estàndards ètics definits per diverses administracions i organitzacions.

Amb aquest protocol, l’Ajuntament de Barcelona anticipa i adapta al context local la proposta europea de regulació de la intel·ligència artificial i fa accionables els principis ètics definits en la Mesura de govern de l’estratègia municipal d’algoritmes i dades per a l’impuls ètic de la intel·ligència artificial.

Protocol sencer