Un dels pioners de la intel·ligència artificial a Espanya i a Europa, el físic i informàtic Ramón López de Mántaras, va protagonitzar ahir el sopar-conversa de 100xCent Vilafranca, celebrat al restaurant Meraki. L'expert va alertar dels perills de l’antropomorfització de les màquines, del poder de les grans tecnològiques i de la necessitat de regulacions més exigents sobre els usos socials, econòmics i militars de la tecnologia
López de Mántaras va defensar que "la IA no té consciència ni capacitat real de comprensió. Atribuir característiques humanes a la IA és només una metàfora, perquè una màquina no raona com ho fa una persona. La seva base és el càlcul matemàtic, l’àlgebra lineal i el processament estadístic de dades, no pas la comprensió o la consciència", va reblar.
També va destacar que els grans models d’IA són capaços d’articular respostes molt convincents gràcies a la gran disponibilitat de dades i a la potència computacional actual, però això no significa que entenguin allò que diuen. El fet que sistemes com ChatGPT puguin generar la sensació d’estar interactuant amb una persona, fins al punt de superar proves de comportament humà, incrementa el risc que moltes persones els atribueixin capacitats que realment no tenen.
Durant el debat es va advertir especialment dels usos socials problemàtics d’aquestes eines. Entre els riscos assenyalats hi ha la proliferació de persones fictícies, vídeos manipulats, desinformació massiva o la tendència a substituir relacions i processos humans per interaccions amb xatbots. En aquest sentit, es va alertar del perill que determinades persones arribin a utilitzar la IA com a substitut de professionals qualificats en àmbits sensibles com el suport psicològic.
Un altre dels eixos de la reflexió va ser el paper de les grans empreses tecnològiques. Segons aquesta mirada crítica, el relat catastrofista sobre una futura IA fora de control pot servir per generar expectatives de mercat, captar inversions o diluir responsabilitats. Si es presenta la IA com una entitat autònoma amb capacitat pròpia de decisió, es corre el risc de desplaçar la responsabilitat dels efectes socials i polítics de la tecnologia lluny de les empreses i de les persones que la desenvolupen i la comercialitzen.
Finalment, es va defensar la necessitat de reorientar el desenvolupament tecnològic cap a intel·ligències artificials específiques, "més eficients energèticament, transparents i controlables". També es van reclamar regulacions més ambicioses, especialment en qüestions com les armes letals autònomes, l’impacte ambiental dels centres de dades o els biaixos que la IA pot amplificar.
La conclusió principal va ser que el debat no ha de girar al voltant d’una suposada consciència de les màquines, sinó sobre quin ús en fa la societat, qui n’assumeix la responsabilitat i com es regula.
El proper sopar-conversa del 100xCent Vilafranca serà el dimecres 18 de novembre amb Antoni Segura, exdirector del Barcelona Centre for International Affairs (CIDOB) i expert en política internacional per analitzar la situació global actual.
