Barcelona, ​​Londres y Amsterdam presentaron el 30 de junio el Observatorio Global de Inteligencia Artificial, una nueva herramienta para controlar la aplicación ética de la IA en las ciudades. Se trata de una iniciativa impulsada en el marco de la Coalición de Ciudades por los Derechos Digitales, fundada en 2018 por las ciudades de Barcelona, ​​Amsterdam y Nueva York, y que se ha dado a conocer al conjunto de más de 50 ciudades que actualmente forman parte de la red que trabaja localmente e internacionalmente para obtener un modelo tecnológico justo, ético y democrático en las ciudades. El nuevo Observatorio contará con la colaboración de ONU-Hábitat y el CIDOB-Centro de Asuntos Internacionales de Barcelona.

La creación de este Observatorio y el impulso de la acción internacional de Barcelona como referente del humanismo tecnológico se encuentran entre las medidas previstas en la Estrategia municipal de algoritmos y datos para el impulso ético de la inteligencia artificial, que ha impulsado el Ayuntamiento de Barcelona para fijar los mecanismos de gobernanza e impulso de la IA para que respete los derechos digitales de la ciudadanía.

La tercera teniente de alcaldía de la Agenda 2030, Transición Digital, Deportes y Coordinación Territorial y Metropolitana del Ayuntamiento de Barcelona, ​​Laia Bonet, ha afirmado que «en Barcelona trabajamos para un modelo ético de Inteligencia Artificial, y para hacerlo lo mejor posible necesitamos saber qué están haciendo en otras ciudades del mundo. El Observatorio Global de IA Urbana nos permitirá aprender de ciudades que, como Barcelona, ​​son pioneras en este ámbito, así como facilitar la aplicación de criterios éticos de IA en las que apenas empiezan».

Objetivos del Observatorio

• Seguimiento de la regulación, desarrollo y despliegue de la Inteligencia Artificial en las ciudades miembros de la Coalición
• Producción y actualización de estándares de políticas para regulaciones y aplicaciones éticas en IA en las ciudades
• Identificar los obstáculos que impiden el desarrollo de un uso justo, transparente y responsable de la IA en las zonas urbanas
• Contextualizar las contribuciones de las ciudades a la IA global y las tendencias tecnológicas

El plan de trabajo del Observatorio 2021 incluye los resultados de la investigación:

• Un informe sobre la gobernanza ética de los algoritmos en las ciudades, que analizará los mecanismos implementados por los gobiernos de las ciudades para desplegar modelos éticos de inteligencia artificial, por ejemplo. Registros algorítmicos, mecanismos de visión humana, etc. El estudio propondrá un marco analítico para evaluar estas políticas basándose en un conjunto de criterios de equidad y transparencia y con modelos auditables a través del fomento de las tecnologías y el software libre y el conocimiento abierto.
• Un Atlas en línea de buenas prácticas en IA urbana, que incluirá fichas sobre casos específicos de aplicación de soluciones de IA éticas a las políticas urbanas sectoriales (movilidad, gestión de residuos, agua y saneamiento, turismo…).
• Un informe temático sobre el uso del reconocimiento facial en el espacio público. El estudio propondrá un conjunto de criterios para evaluar la naturaleza ética y responsable de estos sistemas.