La IA dilueix la nostra identitat quan escrivim amb la seva ajuda: “Ningú vol semblar inculte”. Els models de llenguatge amb els quals generem textos redueixen els senyals que permeten reconèixer a les persones per l'escriptura, segons un estudi que ha analitzat centenars de milers de textos en diferents plataformes

Els textos creats amb IA generativa tendeixen a sonar plans o predictibles, malgrat que a poc a poc milloren per a ser menys distingibles d'un producte humà i, a vegades, l'aconsegueixen. El motor darrere d'aquesta “intel·ligència” són els models de llenguatge grans o LLM (per les sigles en anglès de large language models), als quals s'entrena amb enormes quantitats de textos perquè aprenguin a posar una paraula darrere d'una altra per probabilitat estadística fins a semblar, gairebé, escrits per una persona. No obstant això, quan s'analitzen, es troben biaixos de sobrerepresentació d'unes certes paraules, signes de puntuació i fins i tot trets distintius de grups socials majoritaris. El resultat, tan semblant a l'humà, és sorprenent, però la pèrdua de riquesa lingüística també és un fet i els possibles riscos són tema de debat i recerca.

Abans que la IA arribés a les nostres vides, l'homogeneïtzació del llenguatge ja era una amenaça per a la diversitat, les democràcies i el pensament lliure. En 1984, George Orwell va plantejar un futur distòpic en el qual la neolengua, imposada pel Partit en el poder, aconseguia anul·lar el pensament crític de la ciutadania. Al marge del seu ús com a eina de control, la pèrdua de matisos distintius en el llenguatge pot diluir els trets que ens identifiquen fins i tot individualment, alguna cosa que un nou estudi sobre l'ús estès dels LLM ha explorat i publica avui en Nature Human Behaviour.

Les persones expressem idees similars de diferents maneres i això ofereix informació sobre el nostre context social, personalitat i fins i tot salut. Aquesta és la premissa sota la qual un grup d'investigadors de la Universitat del Sud de Califòrnia (els Estats Units) han fet una sèrie d'experiments amb els quals han trobat que, des que comencem a usar ChatGPT en 2022, la complexitat lingüística del que escrivim en internet s'ha reduït entre un 21% i un 50%. Per a això van analitzar més de 800.000 textos de diferents plataformes com Reddit, el fòrum amb una secció on s'escriuen històries creatives, un repositori d'articles científics en obert o Patch News, un portal de notícies comunitàries, tots en anglès.

Com expliquen els autors en l'article, “la diversitat transforma el llenguatge, de mer mitjà d'intercanvi d'informació a expressió única d'individus i societats, la qual cosa permet analitzar els productes culturals i les tendències socials”. Van calcular que, en un 87% dels casos, el significat dels textos es mantenia quan li demanaven a diverses IAs generatives (GPT-3.5, Flama 3 70B i Gemini Pro) que reescrivissin els textos recopilats d'internet. Quan els van ordenar reformular-los, millorar la seva claredat o fluïdesa, o fer-los més acadèmics, naturals o concisos, diversos índexs van estimar una pèrdua en la complexitat de les noves versions. “En els nostres experiments, el significat va romandre gairebé intacte, però cada persona expressa la mateixa idea de diferents maneres i això és el que vam veure que es perdia”, explica el primer autor de l'estudi, Zhivar Sourati.

Les particularitats que caracteritzen a la persona darrere de cada text van ser, de mitjana, un 6% menys identificables. “Per exemple, una oració que comença amb ‘crec que això demostra…’ pot canviar-se a ‘això suggereix…’, on el contingut és el mateix, però vam veure que els pronoms personals com ‘jo’, ‘nosaltres’ i ‘tu’ s'usen molt menys”, compte Sourati a EL PAÍS. També s'eliminen paraules col·loquials com ‘eh’ o ‘saps’ i es veu afectada l'expressió emocional. “La IA no elimina l'emoció; de fet, els textos reescrits contenen, en mitjana, un llenguatge lleugerament més emotiu, però la forma personal d'expressar-la desapareix”, afegeix l'investigador.

Un problema per a forenses i sociolingüistes  - Aquests matisos que la IA llima serveixen com a marcadors culturals a la sociolingüística o fins i tot per a fer diagnòstics de salut mental. També permeten fer el seu treball als qui, com Sheila Queralt, es dediquen a la lingüística forense. La perit judicial explica per correu a EL PAÍS que això és especialment important quan han d'analitzar l'autoria d'un escrit, perquè “una part de la informació que utilitzem per a caracteritzar la producció d'un escriptor no resideix únicament en el que diu, sinó en com el formula i en els patrons de variació que apareixen en els seus textos”. No obstant això, Queralt matisa que “l'estudi no permet concloure que la IA vagi a fer que tots acabem escrivint igual”, sinó que atenua, transforma o homogeniza determinats senyals lingüístics.

En aquest sentit, Sourati explica que “les persones extravertides usen més paraules relacionades amb la vida social, com a ‘amics’, ‘festa’ o ‘nosaltres’ i amb emocions positives; els qui valoren la lleialtat usen més paraules relacionades amb la família, mentre que les persones de ment oberta tendeixen a usar paraules més elaborades i complexes”. A més, afegeix que existeixen diferències entre homes i dones: ells usen menys paraules relacionades amb la vida social i l'ansietat que elles.

Una troballa especialment preocupant és que aquests canvis no són aleatoris, sinó que, en els conjunts de dades analitzades, van observar un biaix constant en els textos reescrits per LLM. Els estils d'escriptura sovint s'alineaven amb “individus majors, homes i políticament liberals, que exhibeixen una valència moral positiva i menor empatia”, descriu l'article. Com explica Sourati, es van atenuar associacions entre “ús de pronoms i extraversió, entre paraules relacionades amb l'amistat i la lleialtat com a valor moral, i entre paraules orientades al futur, com ‘vaig a’ o ‘ràpid’ i l'edat de qui les escriu”. No obstant això, van veure que es mantenia el vincle entre paraules que expressaven emocions negatives i neuroticismo, entre paraules relacionades amb religió i puresa, i entre paraules socials i gènere.

IAs que fingeixen no ser-ho - Aquests biaixos amenacen el funcionament de mètodes emprats en psicologia o sociolingüística que es basen en senyals lèxics, que poden tornar-se menys fiables amb l'expansió de l'ús dels LLM per a comunicar-nos per escrit. Això també es torna problemàtic en els contextos judicials en els quals treballa Queralt, que dirigeix el Laboratori SQ–Lingüistes Forenses. Aquí s'enfronten a un altre problema afegit per la IA: els humanitzadors de textos, que busquen esquivar les eines de detecció d'IA de les quals es valen en el seu laboratori o en l'estudi de Sourati.

Un estudi recent que ha fet Queralt, a través del projecte CorpIdentIA, posa a prova als “humanitzadors d'IA”. En ell van avaluar tres eines detectores —GPTZero, Originality.ai i Copyleaks—, que, segons els seus resultats, funcionen bastant bé tant enfront dels textos purament humans com als generats completament amb IA. Però no així amb els híbrids, els que barrejaven tots dos llenguatges. “Probablement aquests escenaris representen més ben molts dels usos actuals de la IA: una persona pot escriure un text i demanar a un model que el corregeixi o reformuli, o pot partir d'un text generat mitjançant IA i modificar-lo posteriorment”, explica la investigadora.

Amb GPTZero, pràcticament un de cada dos textos generats mitjançant IA i posteriorment humanitzats, el 52,2%, va ser classificat com a humà; Originality.ai va identificar correctament el 65,56%, i Copyleaks, el 72,22%. “Des del punt de vista lingüístic trobem que ‘humanitzar’ un text no significa necessàriament fer-lo lingüísticament més humà”, apunta Queralt. Alguns d'aquests sistemes introdueixen irregularitats gramaticals, ortogràfiques i altres petites transformacions que trenquen la regularitat del text sense modificar profundament el seu contingut o organització. En alguns casos, fins i tot empitjoren la seva naturalitat lingüística, però aconsegueixen que resulti menys detectable per a determinats sistemes.

“En el nostre estudi, un dels textos originals deia: ‘No em ve de gust perdre temps ni energia en tràmits’, i després de passar per un dels humanitzadors es va convertir en: ‘Em dissipen perdre el temps i l'energia en לענו/*rrijgs’”, assenyala Queralt. Aquí està la diferència entre un error humà espontani i un un cas de “corrupció textual extrema”, com l'anomena l'estudi. “La variabilitat humana no equival a introduir soroll aleatori en un text”, resumeix Queralt sobre la paradoxa que troben aquí els lingüistes: un text pot ser molt poc natural i que, no obstant això, un detector automàtic no l'identifiqui com a IA.

Un reflex exagerat de tendències humanes - Per als qui estan estudiant l'impacte social de la IA, hi ha molts reptes per davant de cara a anticipar conseqüències i desenvolupar polítiques que ens protegeixin. Però també hi ha cautela i tracten de reduir l'alarma. Per a Ezequiel López, investigador en ciències computacionals en l'Institut Max Planck per al Desenvolupament Humà de Berlín, escriure s'està convertint en “una tasca de col·laboració entre humà i màquina, sobretot quan ens llegirà una tercera persona, perquè ningú vol semblar inculte o escriure malament, i a canvi acceptem l'homogeneïtzació”.

No obstant això, López explica que els models són màquines estadístiques que reflecteixen o fins i tot exageren objectius i tendències que teníem en el món sense aquests models. “Per exemple, en parlar públicament, tendim a evitar significar-nos políticament o emprar llenguatge negatiu, i les IAs generatives de text, en part, reflecteixen aquests estàndards socials que portem dècades desenvolupant, crec que amb forta influència de la cultura comunicativa estatunidenca”, apunta l'investigador. Adverteix que el problema podria ser que la societat continuï sent sexista, però desaparegui del llenguatge, i opina que segurament s'estan “separant una mica la bombolla de la comunicació en línia de la realitat”.

Per a Francisco Moreno-Fernández, director de l'Observatori Global de l'Espanyol de l'Institut Cervantes, “la llengua parlada va molt per davant de la IA i, quan aquesta vulgui posar-se a l'altura del que es diu, la llengua ja ha canviat; serà molt difícil que abast el nivell de complexitat i de matisos semàntics i pragmàtics de la llengua conversacional”. El que sí que adverteix és que més del 70% dels textos que alimenten la IA són en anglès. “El simple fet d'utilitzar una llengua o una altra ja suposa un biaix i condiciona els resultats dels textos generats amb IA”, apunta el sociolingüista.

Ana Lozano del Campo a el País.