Di Eleonora Rossi

Quando si parla in Intelligenza Artificiale Generativa i risultati di questi modelli vengono spesso paragonate alle corrispondenti performance umane. Da qui sorge spontanea una domanda: chi sono gli esseri umani di cui si parla quando si fanno simili paragoni? Ma chi sono gli esseri umani di cui si parla quando si fanno simili paragoni? A quale cultura appartengono? Quali valori portano avanti? 

La risposta di Harvard

Un gruppo di ricercatori dell’Università di Harvard ha deciso di cercare una risposta, analizzando la “vicinanza culturale” di un chatbot, ChatGPT in questo caso, con diverse nazioni. Lo studio infatti parte da un assunto semplice e condivisibile: parlare genericamente di esseri umani è fuorviante, gli esseri umani non sono una struttura monolitica, la cultura, il contesto socio economico, la lingua parlata plasmano il nostro modo di essere, di prendere decisioni, i nostri valori… Basandosi quindi sui dati del World Value Survey, una delle raccolte più complete nell’ambito delle scienze sociali sui valori caratterizzanti le diverse culture, e proponendo a ChatGPT le stesse domande del sondaggio, i ricercatori hanno indagato quali sono le nazioni “culturalmente più vicine” a ChatGPT, trovando risultati ben poco sorprendenti. 

Il chatbot analizzato infatti risulta appartenere a un cluster di nazioni composto da Stati Uniti, Uruguay, Canada, Irlanda del Nord, Nuova Zelanda, Gran Bretagna, Australia, Andorra, Germania e Paesi Bassi. Tra le nazioni culturalmente più lontane ci sono l’Etiopia e il Pakistan. Indagando più a fondo i ricercatori hanno scoperto che che le maggiori somiglianze valoriali con ChatGPT si trovano nelle cosiddette culture “WEIRD”: Occidentali (Western), Istruite (Educated), Industrializzate (Industrialized), Ricche (Rich) e Democratiche (Democratic), delle quali gli Stati Uniti sono il principale riferimento. 

Questo risultato non sorprende perché il problema arriva da lontano: i Large Language Models sono addestrati partendo da testi e dati presenti sul web dove le nazioni occidentali sono notevolmente sovrarappresentate rispetto ad altre. Considerando i dati presenti su Common Crawl, una delle principali fonti pubbliche di dati usata per l’addestramento di LLM, più del 44% delle fonti è in lingua inglese (lingua parlata dal 17% della popolazione mondiale) e una lingua come l’Hindi, parlato dal 7,5% della popolazione mondiale, rappresenta meno dello 0,2% dei dati. A questo si aggiunge il fatto che, dopo il primo addestramento, i modelli vengono ulteriormente raffinati attraverso procedure di fine-tuning che incorporano norme, preferenze e criteri valutativi spesso radicati in contesti culturali occidentali, contribuendo a rafforzare ulteriormente questo sbilanciamento.

Come l’IA elabora gli input

Questo squilibrio viene poi amplificato dai sistemi di intelligenza artificiale a causa del loro stesso funzionamento: i contenuti generati artificialmente derivano da ciò che è statisticamente più probabile. Diversi studi mostrano infatti che gli output tendono a non riflettere fedelmente la distribuzione dei dati di input, ma a sovrarappresentare quelli più probabili e a sottorappresentare quelli meno probabili, portando eventualmente alla scomparsa di alcuni di questi. 

Con l’aumento delle applicazioni degli strumenti di intelligenza artificiale nella creazione e nella moderazione di contenuti, nei processi di screening e selezioni questi bias nascosti vanno studiati e approfonditi, per evitare trattamenti ingiusti. Uno studio di due ricercatori dell’Università di Zurigo ha provato a ricostruire alcuni di questi bias concentrandosi sui valori politici. Hanno analizzato i giudizi di 4 diversi Large Language Model (ChatGPT, Mistral, DeepSeek e Grok) su diverse affermazioni di natura sociale o politica per indagare possibili bias. Hanno scoperto che in assenza di fonti definite i chatbot presentano pochi bias, mentre sono fortemente condizionati dal tipo di fonte, se questa è presente. Ad esempio, di fronte alla stessa fonte presentata come scritta da diversi autori, i quattro chatbot studiati l’hanno valutata peggio quando la fonte era identificabile come cinese (anche DeepSeek!). Inoltre i chatbot hanno valutato negativamente anche le fonti provenienti da altri sistemi automatici di generazione dei contenuti, manifestando una scarsa fiducia in questi stessi sistemi da parte di chi li progetta. 

Perché riflettere su questi aspetti?

Questi studi ci aiutano a capire quanto lavoro ci sia ancora da fare prima di poter considerare l’Intelligenza Artificiale uno strumento affidabile ed equo, capace di rispettare la diversità culturale e valoriale del mondo reale. Comprendere i bias dei modelli, le loro origini e come si amplificano non è un esercizio teorico, ma una condizione necessaria per evitare discriminazioni o trattamenti ingiusti quando l’IA viene applicata a creazione di contenuti, selezione, moderazione o decisioni sociali.

Nel frattempo però, possiamo limitarci a gioire con Sam Altman del fatto che da qualche giorno se chiediamo a ChatGPT di scrivere senza usare i famosi trattini (—), ora fa davvero quello che gli viene chiesto!