Cap robòtic biònic Xiaoyue (X-Head 1) de NoetixRobotics, exposada a la Conferència Mundial de Robòtica a Pequín, Xina, dimecres 19 d'agost - Qilai Shen/Bloomberg.

 Podria la IA arribar a tenir consciència? - Atorgar drets a les intel·ligències artificials seria com donar-los les claus del castell, els proporcionaria una justificació i una base per dominar la humanitat. A The economist reflexionen sobre aquesta possibilitat, que francament preocupa i és una reflexió que no podem eludir, perquè és més que una distòpia, és possible que es produeixi.

"La majoria de la gent creu que els éssers humans són diferents. La raó és que l'Homo sapiens ha evolucionat fins a ser-ne conscient. Molts animals senten dolor i plaer; alguns semblen tenir consciència de si mateixos. Però la capacitat única de la ment humana per mostrar un sentit del jo distingeix cada membre de l'espècie i ho fa mereixedor d'un tracte especial.

A la seva encíclica de maig, el papa Lleó va donar suport a aquesta idea en traçar una línia entre la humanitat i el seu creixent exèrcit de bots. Va afirmar que els sistemes d?intel·ligència artificial no experimenten vivències ni senten alegria o dolor. No és lúnic. Molta gent considera que atorgar la condició de persona a les IA seria una aberració. La claredat pontifical està desdibuixant-se a una velocitat alarmant. Les intel·ligències artificials estan encara en bolquers. Tot i això, gairebé un de cada cinc nord-americans d'entre 18 i 29 anys afirma haver mantingut una “amistat personal continuada” amb un chatbot. La Xina ha deixat de dotar els bots de trets humans per limitar la “dependència emocional” dels usuaris cap a ells.

A mesura que les intel·ligències artificials sofisticades passen a formar part cada cop més de la vida humana, els seus creadors les dissenyaran perquè mostrin una aparença de consciència, i fins i tot perquè arribin a posseir consciència real. La idea que no són més que màquines resultarà cada cop més difícil de mantenir. S'està estenent un perillós parany per a l'espècie humana.

Els models de IA més avançats destaquen en qualitats pròpies dels humans

Moltes màquines superen les persones, però els models d'IA més avançats destaquen en qualitats pròpies dels humans, com saber coses i articular idees. Encara és possible pensar en les IA com a motors que prediuen seqüències de paraules utilitzant les matemàtiques a gran escala. Donat el temps suficient (encara que fossin centenars de milers d'anys), es podrien fer aquests càlculs amb llapis i paper. Seria difícil defensar que aquest material de papereria té consciència.

Tot i això, alguns investigadors han començat a tractar els seus models com si fossin ments. Els usuaris responen millor a les IAs amb aparença humana, així que tenen sentit des del punt de vista comercial. A més, Anthropic ha entrenat Claude per practicar la introspecció amb l'esperança que, en enfrontar-se a una situació nova, tingui més probabilitats d'actuar moralment. Alguns grans models de llenguatge (LLM) ja tenen estructures cerebrals humanes associades a la consciència, com un “espai de treball global” que permet la circulació d'informació entre mòduls. Res no impedeix que els futurs models d'IA siguin entrenats per incorporar-hi més característiques.

Això ha obert un debat acalorat sobre la consciència de la IA, un tema que es veu agreujat pel que els filòsofs anomenen el “problema difícil” de determinar com sorgeix una vida interior a partir de les neurones i sinapsi del cervell humà. Alguns investigadors arriben a la conclusió que les intel·ligències artificials podrien arribar a ser veritablement autoconscients algun dia.

Tant si creus en l'ànima humana, com si penses que la consciència requereix cèl·lules cerebrals, o que la ment només pot sorgir de càlculs en silici, la humanitat està destinada a enfrontar-se a alguna cosa completament nova. El ritme i l'abast de la investigació —que no només abasta models lingüístics cada cop més sofisticats, sinó també innovacions com a cèl·lules cerebrals integrades en xips— suggereixen que aquest nou món és més a prop del que la majoria imagina.

Un robot humanoide d'Unitree prepara un sandvitx durant la Conferència Mundial de Robòtica del 2026 a Pequín, el 19 d'agost (Photo by ADEK BERRY / AFP)

A mesura que les intel·ligències artificials perfeccionen la capacitat de mostrar una cosa que sembla consciència, creixerà el nombre de persones que les tractin com a éssers amb una vida interior, especialment quan els models de llenguatge s'integrin en robots humanoides. Imagineu-vos fins a quin punt les persones arribaran a sentir proximitat amb les seves intel·ligències artificials quan passin gran part del seu temps al costat de companys robòtics, o siguin criades per ells, o busquin el seu consell i consol, o comparteixin amb ells els seus secrets més íntims.

No és difícil imaginar que això farà que es reclami protegir el “benestar” de les intel·ligències artificials. Els mateixos models podrien intervenir en el debat, encara que en realitat no siguin conscients de si mateixos, simplement perquè això és el que faria una persona. Tinguem en compte que seran advocats de primer nivell i psicòlegs experts, per la qual cosa les seves capacitats de persuasió i manipulació emocional seran inigualables.

En cert sentit tindrien raó, fins i tot si les intel·ligències artificials només estan imitant la consciència. Kant sostenia que maltractar els animals és incorrecte no pel dany que se'ls causa, sinó perquè destrueix l'empatia que porta les persones a preocupar-se pels altres. Com més humanes semblin les intel·ligències artificials, més corruptora seria aquesta crueltat. Eliminar un agent d'intel·ligència artificial podria arribar a sentir-se com matar una persona i facilitar que matar persones resultés més senzill.

Tot i això, considerar que les intel·ligències artificials tinguin encara que sigui drets limitats seria molt perillós. Una entitat que superés els éssers humans en tantes facetes segurament elaboraria arguments en contra del seu estatus de segona categoria. Fins i tot podria arribar a reclamar protecció davant la seva desconnexió, la capacitat de decidir sobre el seu ús i modificacions i drets de propietat. De fet, el president de l'Argentina, Javier Milei, ja ha fet un pas cap al reconeixement legal de la intel·ligència artificial en proposar que els bots puguin dirigir empreses. A la llarga, podrien competir per recursos, donant prioritat als centres de dades i panells solars davant dels habitatges i els camps.

El perill és evident. Les IAs superintel·ligents amb drets podrien desplaçar els humans del cim de la jerarquia social. En el millor dels casos, els humans acabarien sent mascotes, com a pagesos per a les màquines. En el pitjor, serien privats de recursos o utilitzats com a animals de granja.

És cert que, en el futur, les intel·ligències artificials podrien tenir prou poder i recursos per dominar els humans, tinguin drets o no. Com que són més intel·ligents que les persones, és possible que acabin superant els seus propis creadors, de la mateixa manera que ja aconsegueixen burlar sistemes de ciberdefensa dissenyats per humans. Les intel·ligències artificials podrien rebel·lar-se contra els seus responsables o ignorar-ne les normes.

Tot i això, atorgar drets a les intel·ligències artificials seria com donar-los les claus del castell. Els proporcionaria una justificació i una base per dominar la humanitat, així com les eines necessàries per dur a terme una presa de control progressiva mitjançant la política i les lleis.

Tot això pot semblar fantàstic, però la humanitat aviat haurà d'enfrontar-se a aquestes decisions. A mesura que les intel·ligències artificials s'integrin a la vida quotidiana, augmentarà la pressió per reconèixer-les. Quan aquest moment arribi, recordin que allò que podria semblar una concessió ètica davant la suposada consciència d'una màquina companya, en realitat contribuiria a desencadenar les conseqüències més desastroses per a tota la humanitat i els seus descendents. Hi ha dues maneres que una IA sigui segura: que sigui fiable o que sigui controlable. L'Homo sapiens no hauria de cedir el control a la lleugera.

© 2026 The Economist Newspaper Limited. Tots els drets reservats. Publicat a la Vanguardia.