Entrevista amb Andrés Colmenares, director del Màster en Disseny per una IA Responsable

03 maig 2024
Elisava
Andrés Colmenares durant una conferència al Disseny Hub Barcelona. Font: Elisava.

Des de fa més d’una dècada, Andrés Colmenares treballa per ajudar ciutadans i organitzacions a prendre millors decisions mitjançant eines d’anticipació, participació i aprenentatge col·laboratiu. Al mateix temps, investiga, estableix contactes i comissaria conferències sobre els impactes socioecològics de les tecnologies i infraestructures digitals. Com a estrateg, curador i consultor creatiu, ha dirigit projectes per a nombroses organitzacions internacionals, és codirector de The Billion Seconds Institute i dirigeix el Màster en Disseny per a una Intel·ligència Artificial Responsable d’Elisava.

El Parlament Europeu ha aprovat recentment la Llei d’intel·ligència artificial (IA), que a priori i a grans trets garanteix la seguretat i el respecte dels drets fonamentals, alhora que impulsa la innovació. Entre altres coses, la llei limita l’ús de sistemes d’identificació biomètrica per part de les forces de seguretat i reforça els drets dels consumidors. En principi semblen bones notícies, sobretot per als més crítics amb la creixent presència de la IA en el nostre dia a dia… Què n’opines?

El fet que Europa hagi decidit fer l’extens i burocràtic procés per crear i aprovar una nova llei per fer front als impactes de l’adopció massiva de sistemes d’intel·ligència artificial no deixa de ser una bona notícia per als ciutadans de la UE, els governs i en gran mesura per a tot tipus d’empreses i organitzacions usuàries d’aquests sistemes, ja que l’ús d’aquesta mena de sistemes i les seves implicacions són bastant transversals. Però també és cert que, com diverses organitzacions defensores dels Drets Humans han denunciat, la llei s’ha quedat curta en aquesta matèria que és fonamental per a la societat. Per exemple, la llei permet usos d’alt risc, com els sistemes de vigilància massiva predictiva i biomètrica, que afecten poblacions vulnerables, com els refugiats i les persones indocumentades, a més de crear buits legals i exempcions sota el paraigua de la seguretat nacional. La llei també deixa fora el greu i creixent impacte mediambiental d’aquests sistemes.

«Hi ha molts interessos en joc i les grans corporacions han fet un lobby intens per assegurar que els aspectes reguladors de la llei no els impedeixin seguir traient profit dels buits legals»

Segons la meva opinió, endreçar tots els usos actuals i potencials dels sistemes d’intel·ligència artificial en una sola llei, no només és una tasca impossible, sinó que també és problemàtica, ja que la intel·ligència artificial no existeix. És un terme que s’utilitza indistintament per referir-se a temes connectats, però diferents, com tecnologies, sectors, aplicacions, ideologies, camps d’investigació i tècniques de computació. Existeix en l’imaginari col·lectiu com una amenaça existencial per a la pròpia humanitat i alhora com una tecnologia avançada i poderosament disruptiva. A la pràctica comprèn des dels sistemes utilitzats per al control i vigilància de fronteres fins als utilitzats per generar imatges, recomanar vídeos o decidir ajudes públiques. Hi ha molts interessos en joc i les grans corporacions han fet un lobby intens per assegurar que els aspectes reguladors de la llei no els impedeixin continuar traient profit dels buits legals dels quals moltes d’aquestes grans empreses es beneficien a costa de vulnerar drets i explotar els més vulnerables.

La nova normativa també limita la captura indiscriminada d’imatges facials d’internet o gravacions de càmeres de vigilància per crear bases de dades de reconeixement facial, així com la identificació d’emocions al lloc de treball i a les escoles, o l’actuació policial predictiva. Són temes que semblen gairebé ciència ficció, i que hem vist moltes vegades al cinema, però que són ja una realitat, no és així?

Val la pena aclarir que la nova llei no prohibeix aquests usos perillosos, només imposa restriccions i també obre la porta a usos excepcionals. És cert que molts ciutadans reconeixem aquests usos de tecnologies avançades a les pel·lícules de ciència ficció, gairebé sempre il·lustrant obres de ciència ficció que en molts casos intenten reflectir problemes socials, abusos de poder, anticipar riscos o, en alguns casos, promoure ideologies. Vivim en una societat dominada per la idea que el progrés es determina per la innovació tecnològica i es tendeix a celebrar que aquesta es materialitzi en productes, serveis i experiències.

Em crida molt l’atenció la manera com els mitjans de comunicació cobreixen cada promoció de corporacions com Tesla, Apple o Amazon com si fossin temes d’interès públic. Però la relació entre les pel·lícules de ciència ficció, que no són el mateix que els llibres, ja que en adaptar una obra literària per a la pantalla inevitablement es redueix la interpretació plural i crítica de les idees que reflecteix, i l’imaginari que existeix al voltant de la intel·ligència artificial no és en absolut un aspecte anecdòtic o secundari. Formen part d’un mateix sistema que es retroalimenta. La ciència ficció inspira el sector tecnològic i aquest, alhora, inspira la ciència ficció. Resulta fonamental entendre aquest diàleg per desmitificar la intel·ligència artificial, i comprendre les relacions de poder i les ideologies que convergeixen en les seves implementacions més perilloses en matèria de drets humans i d’impacte social i mediambiental.

«Crida molt l’atenció la manera com els mitjans de comunicació cobreixen cada promoció de corporacions com Tesla, Apple o Amazon com si fossin temes d’interès públic»

Una altra novetat interessant que planteja la nova llei és que les imatges, continguts d’àudio o de vídeo artificials o manipulats haurien d’etiquetar-se legalment com a tals. D’altra banda, s’haurà de respectar la legislació de la UE sobre drets d’autor, una cosa que fins ara havia quedat en un terreny difús que generava certs conflictes per als creadors, inclosos els dissenyadors…

Durant el darrer any uns dels usos més populars de sistemes d’intel·ligència artificial han estat les eines generatives de text, imatge o so basades en els anomenats models de llenguatge grans, que funcionen a partir d’un volum enorme de dades. Les tècniques de captura, processament i posterior ús d’aquestes dades, que poden ser imatges, textos i altres tipus de creacions protegides per drets d’autor, són en molts casos il·legals o, en el millor dels casos, al·legals, fins i tot abans de la nova llei. Però això no ha impedit que les corporacions que hi ha darrere d’aquestes populars eines (chatGPT o DALL-E, entre d’altres) ho facin i ho continuïn fent.

La nova llei reforça i especifica requisits associats tant als drets d’autor com a la recol·lecció i ús de dades, així com a la relativa transparència i documentació tècnica que han d’aplicar. Tot i això, la filosofia d’aquestes corporacions, majoritàriament establertes fora de la UE, no és precisament la de complir la llei. L’escala del seu capital els permet pagar bufets d’advocats, equips de “lobbistes” i relacions públiques, i, en el pitjor dels casos, multes, mentre que els afectats, que inclouen creadors independents, no tenen mitjans suficients per fer valer els seus drets o demandar als infractors.

Elisava
AI for Biodiversity by Nidia Dias & Google DeepMind. Font: betterimagesofai.org.

A Elisava dirigeixes el màster en Disseny per a un IA Responsable, que promou diversos aspectes vinculats a la IA, com la investigació creativa, el pensament crític i la presa de decisions estratègiques. El màster aposta també per investigar com la IA afecta la nostra vida diària, i això implica aspectes tecnològics, ètics o de sostenibilitat, entre d’altres. De quina manera abordeu al màster un tema tan interessant i alhora tan complex?

L’abordem partint de la idea d’entendre i explorar la intel·ligència artificial com un conjunt de sistemes ecosociotecnològics, emmarcats en el context actual determinat per l’emergència climàtica, per desenvolupar les habilitats i el pensament crític necessari per desmitificar la idea de la “intel·ligència artificial” com un primer pas per prendre decisions responsables. És a dir, literalment visitem i estudiem els llocs on aquests sistemes interactuen amb el territori i el medi ambient, els centres de dades. Amb l’ajut de periodistes d’investigació, investigadors acadèmics i artístics, analitzem i construïm mapes de les infraestructures que suporten aquests sistemes i les seves relacions amb sistemes econòmics, socials i legals. Analitzem amb experts les implicacions i impactes tangibles i intangibles d’aquests sistemes i estudiem el seu vincle amb sistemes de poder establerts fa segles amb perspectives decolonials, antiracistes, ancestrals, plurals i inclusives necessàries per poder imaginar narratives alternatives, metodologies i altres eines de disseny crític que ajudin a empreses i governs a innovar des de la responsabilitat. Per aquest motiu comptem amb professors i col·laboradors de múltiples disciplines, cultures i identitats. Tot això ho filem amb una filosofia d’aprenentatge col·lectiu, solidari i horitzontal on no existeix la jerarquia entre estudiants i professors. Convidem els participants a posicionar-se amb investigadors creatius des del primer dia del programa i ens centrem en el desenvolupament d’habilitats més que en el consum d’informació.

M’interessa especialment la interconnexió entre IA i crisi climàtica. Quins nexes d’unió existeixen entre ambdós camps i com la IA pot beneficiar el medi ambient i la supervivència del planeta, si això és possible?

La relació més crítica, és a dir, la que més implicacions té, entre l’emergència i l’ecosistema que s’ha format entorn a la intel·ligència artificial, segons Mel Hogan i altres impulsores de l’emergent camp de Critical Data Center Studies, es pot resumir en cinc elements: energia, terra, aigua, treball i calor. Si visualitzem els sistemes d’IA com un arbre, les seves arrels serien els milers de centres de dades on s’emmagatzemen, però sobretot es computen, les dades que fan que moltes aplicacions teòriques de la intel·ligència artificial siguin avui una realitat.

«L’explosiva demanda de sistemes d’IA està disparant la necessitat de construir centres de dades més i més grans, incrementant el consum i l’explotació de recursos, així com d’emissions»

Aquests centres de dades consumeixen molta electricitat, per la qual cosa l’energia necessària per mantenir-los funcionant incrementa significativament les emissions de carbó de la indústria. Després està la creixent demanda de minerals estranys necessaris per fabricar els xips i altres components de maquinari utilitzats per processar dades. Aquestes infraestructures també necessiten volums importants d’aigua per refredar els servidors, ja que no podem oblidar que la computació és un procés físic que genera molta calor. I en aquest conjunt d’elements no podem oblidar els treballadors precaris en tota aquesta cadena: a les mines, a l’etiquetatge de dades, a la moderació de continguts, als mateixos servidors o fins i tot als repartidors controlats per algoritmes que només busquen optimitzar els beneficis de les corporacions.

L’explosiva demanda de sistemes d’IA està disparant la necessitat de construir centres de dades més i més grans, incrementant el consum i l’explotació de recursos, així com d’emissions. Es parla de no viatjar en avió, de no utilitzar cotxes o de reduir el consum de carn per fer front a l’emergència, però poc es parla de l’impacte que l’economia digital està tenint. També hi ha diverses iniciatives que busquen utilitzar aquesta capacitat computacional per fer front als múltiples reptes que ens presenta la crisi climàtica, però al final no deixen de ser només eines d’anàlisi que tendeixen a fer front a la crisi climàtica, segons la meva opinió, de forma errònia, com un problema que la tecnologia pot solucionar.

Elisava
Andrés Colmenares ofereix una xerrada sobre IAM. Font: friendsoffriends.com.

Recentment, des del màster en Disseny per una IA Responsable d’Elisava, heu organitzat el cicle Critical Future Talks, una sèrie d’esdeveniments híbrids, entrevistes i pòdcasts que han donat com a resultat un conglomerat d’opinions i punts de vista sobre el tema per part de professors i col·laboradors del màster i de convidats internacionals, que han reflexionat sobre la IA responsable, els mitjans i el disseny en relació amb l’actual estat d’emergència climàtica. Quins diries que han estat les principals conclusions del cicle?

La nostra principal intenció amb aquest cicle és obrir les converses sobre temes que estem estudiant perquè vagin més enllà de les aules i l’escola per la seva rellevància social i cultural, i que més persones reflexionin sobre la relació que, com a societat, tenim amb les tecnologies i les formes de pensar i existir que emergeixen d’aquesta relació. Centenars de persones a desenes de països i de diferents sectors s’han registrat per participar-hi en persona o en streaming, la qual cosa demostra l’interès en aquests temes.

En diverses sessions, hem parlat de temes que normalment no es relacionen amb la IA o l’emergència climàtica, com la nostra relació amb el temps, la idea de futur, la importància dels coneixements ancestrals o la crisi d’imaginació sociològica que afecta la humanitat. A través de presentacions i discussions veiem que hi ha una creixent reflexió crítica des de les empreses i entre professionals del disseny sobre com les tecnologies digitals es creen i s’utilitzen. Veiem cada cop més professionals que prioritzen els seus valors davant dels elevats salaris que els ofereixen grans corporacions basades en l’extractivisme. En conclusió, hi ha senyals que conviden a creure que les coses poden canviar si hi ha un nombre suficient de persones i d’organitzacions que ens hi oposem.

Encara que ens posem en la pitjor tessitura respecte a la transformació del món laboral com a conseqüència de la irrupció de la IA, alguns experts afirmen que hi ha tres camps que sobreviuran al seu impacte: la mateixa intel·ligència artificial, l’energia i les biociències. Hi estàs d’acord?

No comparteixo la narrativa que s’ha generalitzat al voltant de la dualitat entre humans versus màquines reflectida en l’intent de presentar la intel·ligència artificial com una cosa inevitable o desitjable amb la qual només uns pocs podran sobreviure, o bé com una espècie de fenomen natural que ha de passar. És justament aquesta dimensió ideològica la que més em preocupa perquè és invisible i s’està sembrant en la part més profunda de l’inconscient col·lectiu.

Estem veient una adopció massiva de tot tipus de solucions basades en la intel·ligència artificial que maximitzen l’automatització de tota mena de processos, que de vegades deixen enrere determinats tipus de professionals o treballadors, en molts casos els més precaris, disparant així la desigualtat. Com a societat hem de preguntar-nos si és més important o desitjable viure en un món més automatitzat i eficient, però més desigual, o si preferim un món més just, reduir tot tipus de desigualtats i defensar els drets humans, fins i tot si en alguns casos això implica haver d’anar més a poc a poc.

«Com a societat hem de preguntar-nos si és desitjable viure en un món més automatitzat i eficient, però més desigual, o si preferim un món més just»

Malgrat algunes alarmes, fonamentades o no, creus que hi ha motius per ser optimistes en el canviant context actual?

Absolutament que sí; l’esperança ens defineix com a éssers humans i en cap cas hem de renunciar a la humanitat. Però no n’hi ha prou amb ser optimistes. Hem de ser optimistes crítics, és a dir, hem d’aprendre a conciliar la idea que el demà pot ser millor que l’ahir sense deixar de qüestionar la idea de qui defineix i com defineix què és millor i per a qui és millor aquest demà. I tot això sent conscients dels nostres privilegis i situacions de poder per lluitar en nom dels qui no poden donar-se el luxe de parar per fer aquesta reflexió. En paraules del pedagog Paulo Freire, el que ens defineix com a humans és la nostra capacitat per transformar la nostra realitat i una gran part d’aquesta capacitat passa per poder imaginar que l’endemà pot ser millor. Per això existim, per ser humans.

Elisava
Plant by Alan Warburton. Font: betterimagesofai.org.