Presentación del informe sobre la ética de la IA en la política durante el Smar City Expo 2021.
BCN Ciutat Digital

Nuevo informe del Observatorio Global de la Inteligencia Artificial Urbana sobre la aplicación ética de la IA

Durante el Smart City Expo World Congress 2021, el Observatorio Global de Inteligencia Artificial Urbana (GOUAI, por sus siglas en inglés) presentó su nuevo informe “AI Ethics in policy and action: city governance of algorithmic-decision systems” (“Ética de la inteligencia artificial en elaboración y en la práctica: la gobernanza ética de los sistemas de decisiones algorítmicas en las ciudades”). Andrea G. Rodríguez, directora del proyecto e investigadora del CIDOB-Barcelona Centre for International Affairs y principal investigadora del Observatorio Global de IA Urbana, presentó las principales conclusiones del informe, que tiene por objeto establecer un marco ético como guía como guía para la aplicación de los sistemas algorítmicos de toma de decisiones automatizada en las ciudades.

El Observatorio Global de Inteligencia Artificial Urbana (GOUAI) es una iniciativa conjunta lanzada por Barcelona, Amsterdam y Londres junto con CIDOB-Barcelona Centre for International Affairs y en el marco de la Cities Coalition for Digital Rights.

Falta de consenso entre los actores implicados

Durante la presentación, Rodríguez señaló que “la concepción que tienen de la ética de la inteligencia artificial (IA) los diferentes actores del ecosistema de la IA no coincide, ya que existen múltiples investigaciones debaten diferentes principios éticos”. No hay un consenso definido sobre los principios que constituyen la ética de la IA, lo cual puede suponer una dificultad para las ciudades que quieran adquirir o desarrollar sistemas algorítmicos de toma de decisiones. Sin embargo, según la investigadora, “algunos de los principios se han abordado en mayor medida, por lo que pueden ofrecernos información”.

Definir unas normas éticas mínimas para la IA

Para abordar esta heterogeneidad y basarse en los principios más tratados en los documentos revisados durante la investigación, el informe del GOUAI propone un marco basado en unas normas básicas que deberán cumplir las ciudades que quieran adoptar una gobernanza ética de la IA:

  • Equidad y no discriminación
  • Transparencia y apertura
  • Seguridad y ciberseguridad
  • Protección de la privacidad
  • Sostenibilidad y bien común
  • Rendición de cuentas

El informe también ofrece una guía práctica de autoevaluación del cumplimiento de los principios del marco a modo de preguntas de autodiagnóstico para que las ciudades puedan analizar internamente su grado de consecución de los principios, lo que también puede servir como guía para aumentar sus capacidades. Además, concluye que la falta de consenso y regulación sobre la IA es una oportunidad para que las ciudades debatan y adopten directrices básicas y las incorporen a sus estrategias, creando un modelo alternativo de gobernanza para los sistemas de IA.

Este informe que acaba de publicar el GOUAI es el primero de los documentos que presentará esta iniciativa liderada por las ciudades de Cities Coalition for Digital Rights y CIDOB. Durante los próximos meses le seguirán un atlas de buenas prácticas en IA en las ciudades y un informe sobre el uso del reconocimiento facial en espacios públicos.

Puedes leer el informe completo en la página web del CIDOB.

El boletín El boletín

Suscríbete a nuestro boletín para estar informado de las novedades de Barcelona Ciudad Digital