Es constitueix el Consell Assessor en Intel·ligència Artificial, Ètica i Drets Digitals de l’Ajuntament de Barcelona : Servei de Premsa

Es constitueix el Consell Assessor en Intel·ligència Artificial, Ètica i Drets Digitals de l’Ajuntament de Barcelona

17/04/2023



Temps estimat de lectura: 3 minuts

Aquest matí s’ha celebrat la sessió constitutiva del nou òrgan consultiu, format per 15 experts independents que assessoraran a l’Ajuntament en matèria d’ús de la intel·ligència artificial per al bé comú

Entre les seves funcions destaca la d’avaluar els sistemes algorítmics que puguin tenir un alt impacte en els drets fonamentals de les persones abans d’implementar-los per conèixer-ne els possibles resultats indesitjables i insegurs i introduir les mesures necessàries per corregir-los

L’Ajuntament de Barcelona ha acollit avui la sessió constitutiva del nou Consell Assessor en Intel·ligència Artificial, Ètica i Drets Digitals que ha de garantir en el futur que l’impuls de polítiques públiques innovadores garanteixi en tot moment els drets digitals de la ciutadania.

La sessió ha estat presidida per Laia Bonet, tinenta d’Alcaldia de Transició Digital que ostenta la presidència d’aquest òrgan consultiu que assessorarà l’Ajuntament en un debat tant viu i polèmic com és el de l’ús ètic de la IA.

En la sessió d’avui han pres possessió els 15 experts independents que en formaran part. Es tracta de persones de diferents institucions de recerca i d’àmplia trajectòria en l’àmbit acadèmic, tant de disciplines científiques i tecnològiques com del camp de les ciències socials i les humanitats, i totes amb una experiència prèvia relacionada amb l’ètica de la intel·ligència artificial.

Michael Donaldson, Comissionat d’Innovació Digital que ostenta la vicepresidència del Consell, ha destacat la voluntat municipal d’impulsar la Intel·ligència Artificial Ètica a l’Ajuntament de Barcelona amb aquesta visió de l’humanisme tecnològic, és a dir amb l’impuls de polítiques públiques innovadores que garanteixin els drets digitals de la ciutadania.

La sessió ha aprovat el Pla de Treball del Consell, on destaca emetre estudis d’impacte algorítmic, a petició de l’Ajuntament de Barcelona, sobre els sistemes algorítmics d’alt risc que es vulguin desenvolupar o licitar, per avaluar l’impacte d’aquests algoritmes en els drets fonamentals de les persones abans d’implementar-los. Mitjançant aquests estudis, el Consell Assessor analitzarà les possibles inadequacions o errors del sistema, les seves implicacions pel que fa la privacitat de dades i les potencials discriminacions o vulneracions de drets humans que es podrien produir, i proposarà mesures per corregir-los.

Aquests estudis seran preceptius per als sistemes algorítmics d’alt risc que, segons la proposta de regulació europea de la intel·ligència artificial, són aquells que s’apliquen en àmbits sensibles com l’educació, l’ocupació o els serveis públics essencials.

El Consell també assessorarà l’Ajuntament de Barcelona sobre el contingut del clausulat estàndard per l’adopció d’algoritmes confiables, el qual s’està elaborant per consolidar un seguit de garanties de drets fonamentals en la contractació i compra d’aquest tipus de sistemes. D’aquesta manera, es consolidaran aquestes  garanties, les quals l’Ajuntament de Barcelona ja ha estat aplicant en casos concrets, com el desplegament de drons per millorar la gestió de l’espai públic, en el qual s’han introduït tècniques d’anonimització de les imatges capturades pels drons per garantir el dret a la privacitat de les persones.

Segons les normes de funcionament del Consell aprovades avui, aquest òrgan es reunirà un mínim de dos cops l’any en sessió ordinària i es constituiran grups de treball per temes d’interès. Els membres que integren el Consell, nomenats per decret d’alcaldia, ho seran per un termini de cinc anys, prorrogables, com a màxim un mandat més.





Paraules clau
Consell Assessor en Intel•ligència Artificial/ Ètica i Drets Digitals/