Se finissi in carcere negli Stati Uniti, un algoritmo potrebbe influenzare la decisione del giudice sulle misure alternative. Si chiama COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) ed è progettato per stimare il rischio di recidiva di un individuo basandosi su dati comportamentali, psicologici e demografici. Tuttavia alcuni studi sostengono che COMPAS sia “un po’ razzista”, sovrastimando il rischio di recidiva per gli afroamericani rispetto ai caucasici.
Gli stereotipi
Questo problema è vecchio quanto l’IA. Già 8 anni fa il Guardian titolava, per il primo concorso di bellezza giudicato da un’Intelligenza Artificiale, “ai robot non è piaciuta la pelle scura”. Le cause sono note: dipendono dai dati utilizzati per addestrare l’IA e dai criteri impostati dagli sviluppatori, spesso un gruppo di maschi bianchi caucasici o asiatici dell’East Coast americana. L’IA generativa ha poi intensificato il dibattito sulla perpetuazione di stereotipi etnici e di genere. Chiedete a un generatore di immagini una “donna ricca” o un “uomo ricco” e noterete facilmente la presenza di stereotipi. Che queste rappresentazioni siano uno specchio fedele di una società che non vogliamo accettare o delle distorsioni è ancora oggetto di discussione. Ma il rischio di rafforzare tali stereotipi è reale, specialmente quando vengono diffusi sui social media.
Un bonus IA
Sebbene questi temi siano importanti, rischiano di oscurare un’altra questione cruciale: l’esclusione dall’accesso all’Intelligenza Artificiale stessa. Siamo così impegnati a evitare che l’IA discrimini da trascurare chi è già discriminato dal suo arrivo. Oggi restare aggiornati sull’IA e sperimentare prodotti e servizi ha un costo significativo. Gli abbonamenti mensili spesso si aggirano sui 200 euro l’anno per ciascuna applicazione, e raramente una sola è sufficiente per comprenderne appieno il potenziale. Gli over 55 sono reduci dalla rivoluzione dell’Office Automation (Word, Excel e PowerPoint, che quest’anno compiono rispettivamente 41, 39 e 37 anni). All’epoca software piratati e dischetti acquistati per strada permisero di imparare a usarli anche senza poterli comprare. Oggi le versioni “free” dei più noti software di IA sono limitate e servono solo come esca per futuri acquisti. Forse, più di tanti altri incentivi, servirebbe un “bonus IA” per aiutare tutti a familiarizzare con questi sistemi.
La narrazione polarizzata
Molti studi evidenziano come l’età sia inversamente proporzionale alla propensione all’uso dell’Intelligenza Artificiale e alla capacità di sviluppare rapidamente le competenze per poterla usare al meglio. L’IA fa paura! Tante persone la vedono come l’ennesimo competitor che rischia di portargli via il lavoro. In più, questa popolazione è spesso vittima “passiva” dell’IA. Guardate sui social: sono coloro che più facilmente mettono “like” a immagini generate dall’IA senza accorgersi della contraffazione. Bambini che costruiscono opere straordinarie e agricoltori nei loro campi sono solo alcuni esempi di immagini che raccolgono migliaia e migliaia di like.
Oggi, purtroppo, la narrazione sull’Intelligenza Artificiale è già polarizzata. Da una parte gli entusiasti, dall’altra le persone spaventate. E questo rischia di trasformare l’IA in uno strumento di amplificazione delle già tante discriminazioni. Sembrerebbe che in un discorso a degli studenti Albert Einstein abbia detto: “La preoccupazione dell’uomo e del suo destino devono sempre costituire l’interesse principale di tutti gli sforzi tecnici. Non dimenticare mai questo nel mezzo dei tuoi diagrammi ed equazioni”. Oggi aggiungeremmo: “E – soprattutto – dei tuoi algoritmi”.