Immaginate di chiedere alla AI generativa di Google un’immagine di una cena tra Cavour, Mazzini, Garibaldi e Pellico, e di trovarvi una scena con tre persone di colore e due donne. Peculiare, vero? Eppure è esattamente quello che succede nell’ultima controversia che riguarda la AI di Google, al centro di un’aspra polemica riguardante il suo generatore di immagini basato sull’intelligenza artificiale, Gemini, accusato di perpetuare razzismo contro i bianchi a causa di un’apparente sovra-correzione del suo allineamento riguardo la rappresentatività delle differenti etnie. Queste accuse emergono in seguito a episodi in cui Gemini, sollecitato a generare immagini basate su prompt testuali, ha incluso persone di varie etnie in contesti storici dove ciò contrasta con l’accuratezza storica.

L’episodio più discusso ha visto Gemini rappresentare i padri fondatori degli Stati Uniti includendo donne e persone di colore, in un tentativo di promuovere la diversità. Tuttavia questa scelta ha sollevato dubbi sulla sua adeguatezza in contesti che richiedono fedeltà storica, provocando reazioni negative su X (precedentemente noto come Twitter), in particolare tra gli utenti di destra che hanno accusato Google di razzismo verso i bianchi. Google ha riconosciuto il problema, affermando di essere consapevole che Gemini sta offrendo imprecisioni in alcune rappresentazioni di generazione di immagini storiche, e ha comunicato di star lavorando per migliorare immediatamente questi tipi di rappresentazioni, una risposta che sottolinea la complessità nell’equilibrare l’obiettivo di rappresentare una vasta gamma di persone con la necessità di mantenere l’accuratezza storica e fattuale.

Questo non è il primo caso in cui le IA di Google hanno affrontato critiche per il modo in cui gestiscono questioni di diversità e bias. Anni fa un’applicazione fotografica di Google aveva erroneamente etichettato una foto di una coppia nera come “gorilla“, un incidente che l’azienda aveva prontamente affrontato con scuse pubbliche. Più di recente, il generatore di immagini Dall-E di OpenAI è stato criticato per rappresentare CEO e figure autoritarie prevalentemente come maschi bianchi in assenza di specifiche su genere o razza. La questione sollevata dall’attuale controversia su Gemini evidenzia le sfide intrinseche non solo nell’addestramento delle IA per essere sia inclusive che accurate, ma anche nel problema di “allineamento”, le correzioni cioè che vengono introdotte nel tentativo di compensare eccessivamente i bias esistenti, una delle più grandi sfide dei prossimi anni.

Matteo Flora

Avatar photo

Professore a contratto (in Corporate Reputation, in CyberSecurity e in Data Driven Strategies) è Imprenditore, ha fondato The Fool, la società italiana leader di Customer Insight, co-fondato The Magician un Atelier di Advocacy e Gestione della Crisi, ed è Partner e co-fondatore dello Studio Legale 42 Law Firm. È Presidente di PermessoNegato APS, l'Associazione no-profit che si occupa del supporto alle vittime di Pornografia Non-Consensuale (Revenge Porn) e co-fondatore del Centro Hermes per la Trasparenza e i Diritti Digitali. È stato Future Leader IVLP del Dipartimento di Stato USA sotto Amministrazione Obama nel programma “Combating Cybercrime”, conferenziere, da anni presenta "Ciao Internet!" una seguita video-rubrica in cui parla degli Algoritmi e delle Regole che governano Rete, Macchine e Umani. Padrone di un bassotto che si chiama Bit, continua a non saper suonare il pianoforte, a essere ostinatamente Nerd e irresponsabilmente idealista.

© Riproduzione riservata