Barcelona Ciutat Digital

» El vertader potencial és utilitzar la IA per alleugerir la pressió dels equips, dedicant el temps alliberat a fer millor la feina, cuidar millor les relacions amb companys, clients, proveïdors, aportar millors idees a l’organització, etc.

Karina Gibert és una figura destacada en l’àmbit de la intel·ligència artificial (IA) i la ciència de dades. Actualment, és catedràtica a la Universitat Politècnica de Catalunya (UPC) i directora del centre de recerca Intelligent Data Science and Artificial Intelligence (IDEAI-UPC), del qual és cofundadora. Des de l’abril de 2023, exerceix també com a degana del Col·legi Oficial d’Enginyeria Informàtica de Catalunya.

Amb una trajectòria acadèmica consolidada, és llicenciada i doctora en Informàtica per la UPC, amb especialització en estadística computacional i IA. La seva recerca se centra en la mineria de dades, la ciència de dades, la intel·ligència artificial explicable i els sistemes intel·ligents de suport a la presa de decisions, amb aplicacions rellevants en els àmbits de la salut, el medi ambient, les aplicacions a l’administració pública i l’educació.

També té una destacada activitat com a assessora dels governs català, espanyol, de la Comissió Europea i la CommonWealth en qüestions d’ètica i IA. És una defensora activa de la igualtat de gènere en les disciplines STEM, i ha impulsat diverses iniciatives per promoure la presència femenina en el sector tecnològic, com donesCOEINF i donesIAcat.

Al llarg de la seva trajectòria ha rebut múltiples reconeixements, com el Premi Ada Byron 2022, el WomenTech Award 2023 i el Premi Nacional d’Enginyeria Informàtica 2023.

La seva tasca se centra a assegurar que el desenvolupament de la IA es faci de manera ètica i responsable, amb especial atenció a la transparència, la sostenibilitat i la justícia social en l’ús de les tecnologies.

1 – La intel·ligència artificial (IA) s’ha convertit en un tema central del debat tecnològic i social. Però, com la definiries de manera entenedora?

Existeixen múltiples definicions d’intel·ligència artificial, però per comprendre’n l’essència, a mi m’agrada retrocedir als orígens. El naixement formal de la IA es produeix el 1956 durant l’Escola d’estiu de Darmouth, un seminari organitzat per John McCarthy que va reunir 10 experts (malauradament tots homes). McCarthy els va plantejar la següent conjectura: “És possible especificar tot aspecte de l’activitat humana amb precisió suficient perquè una màquina el pugui simular?”. I, per tant, la IA (i aquests orígens donen el nom a la disciplina) es configura com un mecanisme per construir màquines capaces d’emular la intel·ligència humana.

Durant una bona colla d’anys, la intel·ligència artificial es va centrar en el desenvolupament de sistemes de raonament automàtic i sistemes experts dissenyats per resoldre problemes “de pensament” complexos. Aquest enfocament, però, va entrar en crisi a finals dels anys vuitanta, perquè requeria una fase d’adquisició del coneixement en què els experts (metges, mecànics, etc.) havien d’explicar als enginyers el seu coneixement de com deduïen una malaltia a partir dels símptomes, o com entenien què fallava en un cotxe per poder-lo reparar. Es va poder constatar que els humans no sabem explicar gaire bé el nostre propi pensament, ja que fem ús intensiu de coneixement implícit (adquirit amb l’experiència i aplicat inconscientment), que és difícilment verbalitzable.

Aquesta limitació va obrir pas a l’hivern de la IA, una fase d’estancament que es va allargar fins a la irrupció de l’aprenentatge automàtic (machine learning) a principis dels anys noranta. El nou paradigma va ser revolucionari: en lloc de demanar als experts que descriguessin com raonaven, se’ls demanaven dades amb casos reals (símptomes i diagnòstics, avaries i solucions, etc.) per construir màquines capaces d’aprendre com ho fan els humans.

Així, no és fins als anys 80 que les dades esdevenen l’eix central de la IA, inicialment com a eina instrumental per superar el repte associat al coneixement implícit inherent als humans.  Des dels 80 hem assistit a una combinació explosiva de tecnologies de sensors i telecomunicacions, que capturen dades amb precisió creixent, i mètodes d’IA, capaços d’aprendre patrons cada vegada més complexos. D’aquí van sorgir, entre d’altres, sistemes de filtrat com els d’Internet o xarxes socials, que seleccionen els continguts que mostren segons el perfil de l’usuari o l’empremta digital, o models predictius que avaluen si serem bons tenidors d’una hipoteca o d’una assegurança de salut, cotxe o llar.

2 – I per què ara està en boca de tothom? Sovint fem ús de la IA sense ser-ne conscients: recomanacions de contingut, aplicacions de salut, assistents virtuals… Des de quan conviu amb nosaltres sense que ho sapiguem?

Des dels 80 estem rodejats d’“IAs” que ens avaluen i ens valoren, algunes amb més o menys encert, i algunes molt beneficioses, com ara les IA que “veuen” tumors en tomografies quan l’ull humà encara no veu res. Aquest creixement un xic erràtic, però, s’ha produït en un marc de desregulació generalitzada.

El “boom de la IA generativa” es consolida el novembre de 2022 amb el llançament obert i gratuït de ChatGPT per part d’OpenAI. Un any abans, DALL-E (generador d’imatges basat en descripcions textuals) ja havia demostrat la capacitat de les IA generatives per interactuar amb usuaris no tècnics mitjançant llenguatge natural. La diferència clau era que DALL-E se centra en la creació d’imatges, mentre ChatGPT és un agent conversacional que respon a qualsevol petició en llenguatge humà.

La interfície intuïtiva i gamificada de ChatGPT —dissenyada per crear vincles— va provocar una adopció massiva perquè trenca la barrera de l’escletxa digital. Va reunir 1 milió d’usuaris en una setmana i ara en té més de 800 milions. Aquest èxit va catapultar la IA generativa als mitjans i l’imaginari col·lectiu, fins al punt que molts usuaris confonen ChatGPT amb la IA en general, tot i que només és una de les moltes IA generatives existents i la IA generativa representa només una de les IA. Ni tota la IA és generativa ni totes les aplicacions d’IA es fan amb generativa.

3 – Has participat activament en l’Estratègia d’Intel·ligència Artificial de Catalunya, que impulsa la incorporació de la IA en sectors clau com la salut i el benestar, l’administració pública, el medi ambient, l’agroalimentació, la cultura o la mobilitat. Des de la teva experiència, en quines mesures concretes es comença a traduir aquesta estratègia? Quins exemples destacaries que tinguin un impacte directe en la ciutadania?

L’estratègia catalana d’intel·ligència artificial (Catalonia.IA) es va configurar com una de les pioneres a Europa. El llançament, previst per a finals del 2019, es va endarrerir per la convocatòria electoral i es va presentar definitivament el febrer del 2020, just abans de la pandèmia. L’estratègia s’estructura a través de 4 instruments orientats a desenvolupar la recerca (AIRA), la innovació (CIDAI), l’adopció (DCA-IA) i que tota la IA es desenvolupi des d’una perspectiva ètica impecable (OEIAC), garantint que es posa la persona i els seus drets al centre).

El CIDAI és potser la que més activitat desenvolupa amb múltiples línies d’acció. Entre les diferents activitats del CIDAI són molt valuosos els projectes d’alt impacte, amb aplicacions per a l’administració pública entre les quals trobem per exemple com utilitzar IA per entendre l’impacte dels antibiòtics en la qualitat i quantitat de la carn dels animals d’engreix, o poder regular millor el tràfic o redistribuir millor les bicicletes del servei de Bicing de Barcelona.

També ofereix, per exemple, assessoria tècnica i proves de concepte subvencionades des de l’estratègia per a pimes i startups, orientant la introducció d’IA als seus negocis per augmentar-ne la competitivitat amb riscos minimitzats perquè no hi ha despesa inicial per part de l’empresari.

4 – Un recent baròmetre del CIS mostra un cert escepticisme social envers la IA. Una part important de la població manifesta preocupació per les seves possibles conseqüències negatives, especialment en el mercat de treball (ElDiario.es, març 2024). Què li diries a la ciutadania per ajudar a entendre millor els riscos i les oportunitats de la IA?

Els missatges catastrofistes dels mitjans de comunicació no ajuden gaire, francament. Caldria modular el discurs i com es publica la informació. Estic convençuda que l’evolució del mercat laboral no depèn de la intel·ligència artificial ni de cap tecnologia emergent, sinó de decisions estratègiques en polítiques empresarials i gestió de recursos humans.

Les plantilles estan infradimensionades en tots els sectors. Aprofitar el temps que la IA allibera als treballadors per prescindir-ne no és la millor decisió, ja que manté la tensió laboral en els que queden. Aquesta elecció no recau en la tecnologia, sinó en les empreses. El vertader potencial és utilitzar la IA per alleugerir la pressió dels equips. D’aquesta forma poden dedicar el temps alliberat a fer millor la feina, cuidar millor les relacions amb companys, clients, proveïdors, aportar millors idees a l’organització, etc.

És essencial comprendre mínimament els fonaments de la intel·ligència artificial i desenvolupar un criteri crític sobre com consumim IA quotidianament —especialment en un context en què, per exemple, rebem centenars d’aplicacions basades en IA cada dia als nostres mòbils.

Pel que fa a l’escletxa tecnològica, crec que té els dies comptats perquè amb la IA generativa s’obre la finestra de fer IAs amb les que qualsevol s’hi pot parlar de forma més o menys natural i amb aquesta interfície segurament no s’exclourà als que no fan el salt tecnològic.

Crec que el mercat laboral, com tots els que han enfrontat tecnologies disruptives (des dels tractors a les màquines de vapor), experimentarà una transformació inevitable. Ara bé, actualment no observo amb preocupació el risc que grans col·lectius quedin marginats per no adaptar-se. El que em preocupa vertaderament és com s’orientaran les polítiques d’empresa, però aquest no és un problema tecnològic.

5 – S’ha dit que la formació és clau. Creus que les empreses i institucions haurien d’invertir activament en la formació de les seves plantilles en IA, per aprofitar-ne el potencial i evitar una nova bretxa digital? I en aquest sentit, quins perfils professionals haurien de formar-se, més enllà dels tècnics?

La formació és un element clau. En el marc de l’Estratègia Catalana d’Intel·ligència Artificial, vam crear el curs gratuït «ciutadanIA.cat» —disponible en línia—, dissenyat per oferir coneixements generals sobre IA a qualsevol persona interessada. Actualment, el curs s’està actualitzant, i el seu material serveix de base per a formacions adaptades a empreses, que sovint realitzem.

6 – Una altra bretxa que preocupa és la de gènere. Des del teu compromís amb la igualtat en l’àmbit STEM i com a impulsora d’iniciatives com donesIAcat o donesCOEINF, quina és la situació actual pel que fa a dones i IA?

Això sí que em preocupa profundament. La infrarepresentació de dones al sector tecnològic és alarmant. A Catalunya, si excloem rols tradicionalment feminitzats com atenció al client, màrqueting o recursos humans, només el 9% dels professionals TIC són dones. És a dir, si una organització no compta amb almenys 10 especialistes en tecnologia, la tecnologia que fa no duu la mirada femenina. I això és dramàtic, perquè vol dir que estem construint la societat 5.0 (que se sustenta en la tecnologia) sense les dones i, per tant, les seves necessitats, particularitats i, fins i tot, drets no estan damunt la taula com el dels homes quan es dissenya aquest futur.

Ho trobo tan alarmant, que treballo per enxarxar dones tecnòlogues per reduir aquesta escletxa i inspirar noies que vulguin formar-se en aquest sector i dedicar-s’hi professionalment. Jo sento vertadera passió i devoció per aquesta professió. Cada dia em pregunto com és possible que no hi hagi milers de noies intentant formar-ne part. Treballo en projectes de tota mena, col·laborant amb metges, ambientòlegs, forces de seguretat, administracions, indústries, etc. i aprenc contínuament sobre els temes que abasten: gestió de l’aigua, malalties, trànsit, residus, etc. Entenent els reptes als quals s’enfronta cada sector, ajudo a millorar-los dissenyant solucions tecnològiques, moltes amb IA, tot i que no sempre, i veig com el món es transforma quan es posen marxa les solucions que hem desenvolupat. És molt gratificant i interessant.

Ara, a més, els que saben d’IA ens hem posat de moda. Tothom ens busca i necessita, però no som suficients per atendre tots els reptes i oportunitats. Hauríem de ser el doble, el triple… fins i tot, deu vegades més. Només a Catalunya es van quedar 15.000 vacants de feina sense cobrir el 2023. Feines bones, ben pagades i fascinants… Com és que no hi volem ser tots, és un misteri per a mi.

7- Quins perills detectes si aquesta tecnologia es desenvolupa sense perspectiva de gènere ni diversitat?

El preu de no incloure dones al sector tecnològic és inassumible, són molt els exemples que demostren els biaixos de gènere de la IA. Les emprenedores han estat sistemàticament rebutjades pels algoritmes de crèdit dels bancs —entrenats amb dades històriques exclusivament masculines, que no reflecteixen les particularitats de l’emprenedoria femenina—. Les eines de videoconferència ens retallen fatal i ens esborren ulls i orelles perquè els models s’han alimentat majoritàriament de fotos d’homes joves i blancs. Hi ha tants casos per explicar… La solució és clara: equips de desenvolupament paritaris que integrin dones en totes les fases del disseny de la IA.

8 – En el marc del Pacte del Temps de Barcelona, treballem per promoure models d’organització més eficients, equitatius i sostenibles, que posin al centre la qualitat de vida, el benestar i la igualtat de gènere. Des de la teva visió, com pot la IA ajudar les organitzacions a avançar cap a aquesta nova cultura del temps? T’imagines usos concrets en la gestió del temps de treball, la flexibilitat horària o la conciliació?

El valor més preuat de la intel·ligència artificial és la seva capacitat, ben aplicada, d’absorbir tasques feixugues i repetitives que actualment recauen sobre les persones.

Això hauria de permetre alleugerir la càrrega laboral, de manera que tothom pugui elevar els estàndards de qualitat del seu treball, deixant d’invertir temps en detalls operatius. La IA s’hauria d’ubicar com un «acompanyant» o, un concepte que m’agrada molt, com un «assistent intel·ligent».

Penseu en com abans les dones passaven hores rentant roba a mà, amb aigua freda i cendra, i avui van “assistides” per rentadores que assumeixen la feina més pesada i guanyen temps per fer altres coses.

Hauríem de treballar per un marc laboral on la IA faci la funció de descongestionar l’activitat laboral. Això obre moltes possibilitats perquè els professionals puguin dedicar el temps a activitats més humanes, com que un metge que pugui dedicar més estona al pacient, amb calma, sense la pressió d’omplir documents digitals o un operari de línia de producció pugui  reduir la pressió perquè sap que una màquina detecta les tares millor que ell i ell només ha de supervisar les alertes que emet la màquina.

9 – Mirant cap al futur: com seran les organitzacions d’aquí a 10 o 15 anys? Quin paper tindrà la IA en les noves formes de treball i en els rols de les persones treballadores? Experts com Bill Gates apunten que podríem passar a jornades laborals de 2-3 dies setmanals. És realista imaginar un horitzó així? I com ens hi preparem?

Jo no tinc una bola de cristall per fer veure el futur, però crec que el repte que tenim al davant és immens. Vivim un canvi d’era, d’ordre social i econòmic, i els canvis que s’acosten són profunds i estructurals. És fonamental no afrontar-los de qualsevol manera, sinó reflexionar a fons sobre les seves conseqüències. Tots plegats hem de fer un exercici de profunditat i responsabilitat.

No es pot posar una eina com ChatGPT, que consumeix grans quantitats d’energia i aigua i compromet el futur del planeta, a l’abast de tothom per jugar o entretenir-se. Tampoc podem implantar la intel·ligència artificial d’un dia per l’altre en una organització sense la preparació adequada. Ni llançar al mercat eines que vulnerin drets fonamentals sense supervisar-los. Aquests riscos no són propis de la IA en si, sinó de les persones que creen, la gestionen i la utilitzen.

Si fem una bona implantació de la IA —i, de fet, trobo que aquí estem força conscienciats, sobretot si ho comparem amb el que passa als Estats Units o en altres parts del món—, podem protegir l’individu, millorar l’economia i avançar èticament tot alhora.