“El nostre futur és una carrera entre el poder creixent de la nostra tecnologia i la saviesa amb què la usem”, va reflexionar Stephen Hawking. Stephen Hawking va deixar precises reflexions sobre la IA i la Humanitat - Efe - la Vanguardia.

L'últim llibre de Stephen Hawking, Breus respostes a les grans preguntes (Crítica) es va publicar en el 2018, pocs mesos després de la mort de l'extraordinari físic teòric i divulgador. Encara que ChatGPT i els grans models de llenguatge que han liderat l'explosió de la IA generativa no existien encara, Hawking ja va deixar escrites en aquesta obra una sèrie de reflexions precises sobre la intel·ligència artificial que, vuit anys després, estan completament vigents. El científic tenia clar que només és una qüestió de temps que la IA posi als humans en termes d'intel·ligència en la mateixa posició que nosaltres respecte als animals més simples, per la qual cosa cal estar preparats per a aquest moment.

“Quan una intel·ligència artificial (IA) superi als humans en el disseny de més intel·ligència artificial, de manera que pugui millorar-se recursivament a si mateixa sense ajuda humana, podem enfrontar-nos a una explosió d'intel·ligència que finalment doni lloc a màquines la intel·ligència de les quals superi a la nostra en més del que la nostra supera a la dels caragols”. En aquesta posició d'inferioritat, Hawking estava convençut que, a la llarga, “la intel·ligència artificial podria desenvolupar una voluntat pròpia, en conflicte amb la nostra”.

Cal recordar a Hawking en aquests moments, en el qual assistim a una carrera desesperada en la cerca de models amb altes capacitats per a desbordar el nostre món, tan dependent de la tecnologia que els seus autors no s'atreveixen a posar-los a fer-los públics. OpenAI ha llançat aquesta setmana GPT-5.6 Sol, el seu model més potent fins a la data, amb una llista d'usuaris restringida a uns 20 socis seleccionats a petició del Govern dels Estats Units, en la línia de Claude Mythos de Anthropic. Aquest ha estat vetat fins i tot per a entitats o especialistes que no siguin estatunidenques.

Sol compta amb una capacitat màxima de raonament per al pensament més profund en una intel·ligència artificial i un mode ultra que genera subagents que gestionen de manera paral·lela tasques complexes per a arribar més lluny. Les primeres proves publicades apunten al fet que el model de OpenAI supera a Mythos 5 en alguns dels tests amb els quals es mesuren les capacitats dels algorismes. En línia amb el que reclamava Hawking, l'empresa que lidera Sam Altman ha fet de Sol un model molt segur. “El nostre objectiu és fer que les activitats ofensives prohibides resultin més difícils, incertes i detectables, sense limitar innecessàriament aquells usos beneficiosos”, va afirmar la companyia en un comunicat.

Paradoxalment, mentre l'administració dels Estats Units s'encastella al voltant de la IA amb una clara posició de domini, el món mira al seu voltant a la recerca de referents. Apareixen alguns per l'est. Alguns investigadors en ciberseguretat han explicat aquesta setmana l'aparició un nou model de l'empresa xinesa Zhipu AI, coneguda com Z.ai, que pot igualar als més avançats de OpenAI i de Anthropic per a detectar fallades de seguretat. El tancament dels Estats Units dels models de les seves empreses respecte a altres països posa a la Xina en el focus mundial.

“Una IA superintel·ligent — va pronosticar Hawking — serà extremadament bona en l'assoliment dels seus objectius, i si aquests objectius no van en la direcció dels nostres tindrem problemes”. Amb tots els avantatges que la intel·ligència artificial podrà aportar en àrees com la salut, el treball, l'educació i la ciència, el científic va reclamar “planificar per endavant”. “Es pot imaginar que una tecnologia com aquesta aconsegueixi burlar als mercats financers, sobrepassar als investigadors humans, manipular a líders humans i sotmetre'ns potencialment amb armes que ni tan sols podrem entendre. Encara que l'impacte a curt termini de la IA depèn de qui la controla, l'impacte a llarg termini depèn de si es pot controlar en absolut”.

En aquestes albors de la IA, una de les notícies de la setmana és que el gegant automobilístic Ford ha decidit contractar 350 enginyers amb experiència, molts d'ells antics empleats, després que els seus sistemes d'IA no hagin aconseguit els resultats que l'empresa esperava quan va començar a acomiadar persones del seu departament de control de qualitat. És un clar del que ocorre quan les empreses es precipiten a prescindir de les persones en espera d'uns resultats que la IA no els proporciona. Un informe de la consultora PwC assegura que les empreses que utilitzen la IA per a potenciar la seva plantilla obtenen majors beneficis que les que substituir una gran part del seu personal per l'algorisme.

Davant el nou món prometedor que ens obre la IA, Hawking va recordar que es tracta d'una tecnologia tan poderosa que el marge d'error no existeix: “hauríem de planificar el futur i tractar de fer les coses bé a la primera, perquè pot ser l'única oportunitat que tinguem”. “El nostre futur — va assenyalar — és una carrera entre el poder creixent de la nostra tecnologia i la saviesa amb què la usem. Assegurem-nos que guanyi la saviesa”. Ja està tot dit.

Francisco Bracero Osuna