Una ricerca recente pubblicata sulla rivista scientifica Social Psychological and Personality Science ha messo in luce come le inclinazioni e le percezioni umane siano profondamente radicate nel linguaggio e nella cultura, sia a livello globale che storico. In sostanza si è cercato di dimostrare, con successo, dove hanno origine i bias cognitivi, cioè quei meccanismi razionali e automatici che ci fanno esprimere dei giudizi.
Ecco dove nascono i bias cognitivi: dal linguaggio
Nell’ultimo periodo si è sentito molto parlare di bias legati all’intelligenza artificiale. Ma non sono cose solo delle macchine. Anzi! Un team di ricercatori ha analizzato le connessioni tra le attitudini delle persone e il linguaggio su un’ampia gamma di 55 temi diversi, come ad esempio ricchezza contro povertà, cani contro gatti e amore contro denaro. Hanno attinto a quattro fonti testuali: scritti contemporanei in lingua inglese, libri in inglese degli ultimi due secoli e testi in 53 lingue diverse dall’inglese.
Per misurare le attitudini, hanno utilizzato dati provenienti da oltre 100.000 cittadini americani, impiegando sia autovalutazioni dirette sia misurazioni indirette basate su tempi di reazione, note come attitudini implicitamente rilevate.
I risultati hanno rivelato che le associazioni individuate dai grandi modelli linguistici di intelligenza artificiale, come ChatGPT, sono maggiormente allineate con le misurazioni indirette delle attitudini piuttosto che con quelle dichiarate esplicitamente. In altre parole, quando le persone rispondono direttamente a domande sulle loro attitudini, le loro risposte potrebbero essere diverse da ciò che realmente pensano o sentono a un livello più inconscio o implicito. I modelli linguistici di IA, basandosi su enormi quantità di dati testuali, sembrano catturare meglio queste associazioni e attitudini implicite piuttosto che quelle dichiarate esplicitamente dalle persone.
Per affrontare questi bias sottili nell’IA, sarà necessario adottare approcci diversi rispetto a quelli utilizzati per identificare i bias espliciti. Invece di controllare i modelli alla fine del processo per individuare bias evidenti, sarà probabilmente necessario esaminare più a fondo i dati di addestramento e fornire esempi alternativi di associazioni.
In generale, i dati indicano che le attitudini misurate implicitamente sono riflesse e forse rafforzate dal linguaggio, che è un veicolo cruciale di trasmissione culturale, come sottolinea la dott.ssa Charlesworth. Pertanto, per affrontare e ridurre efficacemente il bias implicito nella società, potrebbero essere necessari interventi con un approccio più culturale.
