A causa d'una incidència tècnica és possible que en alguns serveis es produeixin talls puntuals.

Disculpeu les molèsties que aquesta incidència us pugui ocasionar.

Presentació de l'informe sobre l'ètica de la IA en la política durant l'Smar City Expo 2021.
BCN Ciutat Digital

Nou informe de l’Observatori Global d’Intel·ligència Artificial Urbana sobre ètica en la IA

Durant l’Smart City Expo World Congress 2021, l'Observatori Global d’Intel·ligència Artificial Urbana (GOUAI, per les sigles en anglès) va presentar l’informe que ha publicat recentment, “AI Ethics in policy and action: city governance of algorithmic-decision systems” (“Ètica de la intel·ligència artificial en les polítiques públiques: governança municipal dels sistemes algorítmics per a la presa de decisions automatitzada”). Andrea G. Rodríguez, coordinadora de projectes i investigadora del CIDOB - Barcelona Centre for International Affairs, i investigadora en cap de l’Observatori Global d’Intel·ligència Artificial Urbana, va presentar les conclusions principals de l’informe, que pretenen establir un marc ètic per orientar l’aplicació que fan les ciutats dels sistemes de presa de decisions mitjançant algoritmes.

L'Observatori Global d'Intel·ligència Artificial Urbana (GOUAI) és una iniciativa conjunta llançada per les ciutats de Barcelona, Amsterdam i Londres, en el marc de la Cities Coalition for Digital Rights i que és liderada conjuntament amb el CIDOB-Barcelona Centre for International Affairs.

Manca de consens entre els actors implicats

Durant la presentació, Rodríguez va assenyalar que “l’opinió entre els diversos actors de l’ecosistema de la intel·ligència artificial (IA) no coincideix, perquè hi ha molts documents de recerca que tracten principis ètics diferents”. No hi ha un consens clar sobre quins principis són la base de l’ètica de la IA i això pot ser una dificultat per a les ciutats que volen adquirir o desenvolupar sistemes algorítmics de presa de decisions. De tota manera, segons la investigadora, “alguns dels principis donen lloc a més debats i, per tant, ens poden aportar més informació”.

Definir uns estàndards ètics mínims per a la IA

Per abordar aquesta heterogeneïtat i desenvolupar els principis que més debat generen en els documents revisats durant aquesta recerca, l’informe del GOUAI proposa un marc basat en uns estàndards ètics mínims que les ciutats que volen dur a terme una governança ètica en matèria d’IA puguin complir:

  • Equitat i no-discriminació
  • Transparència i obertura
  • Protecció i ciberseguretat
  • Protecció de la privacitat
  • Sostenibilitat i bé comú
  • Rendició de comptes

A més, l’informe ofereix una guia pràctica d’autoavaluació del compliment dels principis d’aquest marc en forma de preguntes d’autodiagnòstic perquè les ciutats puguin analitzar internament el seu grau d’assoliment dels principis, la qual cosa també pot servir com a guia per augmentar les seves capacitats. A més, conclou que la manca de consens i de regulació pel que fa a la IA és una oportunitat perquè les ciutats debatin i adoptin unes directrius bàsiques i les incorporin a les seves estratègies, de manera que es creï un model alternatiu de governança per als sistemes d’IA.

Aquest informe que acaba de publicar el GOUAI és el primer dels documents que presentarà aquesta iniciativa liderada per les ciutats de la Cities Coalition for Digital Rights i el CIDOB. Durant els propers mesos el seguiran un atles de bones pràctiques en IA a les ciutats i un informe sobre l’ús del reconeixement facial en espais públics

Llegiu l’informe complet al lloc web del CIDOB

Subscriu-te al butlletí Subscriu-te al butlletí

Subscriu-te al nostre butlletí per estar informat de les novetats de Barcelona Ciutat Digital