ChatGpt va sospesa perché soffre di allucinazioni pesca a strascico migliaia di dati personali

Nel “Si&No” del Riformista l’intelligenza artificiale. E’ giusto sospendere ChatGpt? Due pareri discordanti: favorevole alla sospensione Guido Scorza, membro del consiglio Garante per la protezione dei dati personali, secondo cui “ChatGpt va sospesa “perché soffre di allucinazioni pesca a strascico migliaia di dati personali“. Contrario il senatore di Azione Marco Lombardo che nei giorni scorsi è stato il primo parlamentare a ‘scrivere’ il primo discorso con l’intelligenza artificiale. “Gli algoritmi sono il futuro, l’Italia giochi da protagonista” la sua opinione.

Qui l’articolo di Guido Scorza: 

Le regole servono a garantire diritti e libertà. Garantirne l’applicazione risponde alla stessa esigenza, un’esigenza irrinunciabile in democrazia e un’esigenza che non può, per definizione, mai porsi in antitesi con l’innovazione, almeno se si crede che l’innovazione non sia qualunque risultato del progresso tecnologico ma solo quello capace di accrescere il benessere collettivo. E, naturalmente, il benessere collettivo non può essere il risultato del travalicamento e travolgimento dei diritti e delle libertà delle persone.

È questa, in una manciata di caratteri, la ragione a fondamento della decisione assunta lo scorso 31 marzo, di ordinare a OpenAI, la società che gestisce ChatGPT, non già di bloccare la propria attività in Italia, ma di sospendere ogni trattamento di dati personali raccolti in Italia o relativi a persone che vivono nel nostro Paese in violazione della disciplina europea in materia di protezione dei dati personali. Ci si è, insomma, limitati a ricordare a una società commerciale americana nella quale una corporation del calibro di Microsoft aveva da poco investito oltre 10 miliardi di dollari e che in pochi mesi aveva raggiunto quasi 200 milioni di utenti, che le regole, i diritti e le libertà vanno rispettati sempre e da tutti a prescindere da quanto sia “innovativo” il servizio che si offre, a prescindere dall’utilità che lo stesso può produrre per la società, a prescindere dal sacrosanto e legittimo perseguimento del diritto di fare impresa.E non è stato un fatto di capricciosa applicazione di regole di dettaglio.

OpenAI ha addestrato i propri algoritmi – quelli sui quali si fonda il suo business e le straordinarie potenzialità dei suoi servizi – pescando a strascico, almeno online, miliardi di dati, anche personali, di miliardi di persone senza dir loro nulla e senza offrire loro neppure la possibilità di opporsi a questo trattamento coatto. Una cosa che la disciplina europea, con poche eccezioni, non consente neppure a chi fa ricerca medica o scientifica. Ma non basta, perché ChatGPT, interrogata in base al nome e al cognome di una persona, talvolta soffre di “allucinazioni” e associa a quella persona fatti e circostanze non veritieri: di un professore americano, per esempio, ha detto che avrebbe sessualmente molestato una studentessa in Alaska senza che fosse mai andato in Alaska e, soprattutto, avesse mai molestato nessuno. Sono cose capaci di distruggere letteralmente la vita a una persona.

Qualcuno, all’indomani della decisione di OpenAI di chiudere il servizio in Italia a seguito del provvedimento del Garante, ha suggerito una contrapposizione tra tale provvedimento e il progresso tecnologico. Questa contrapposizione non esiste e non può esistere sotto l’ombrello della nostra Costituzione che non ammette diritti tiranni e non consente quindi né al diritto alla privacy di fagocitare la libertà di impresa e quella a innovare né a queste ultime di fagocitare il diritto alla privacy o altri diritti e libertà fondamentali. La parola d’ordine in questi casi è bilanciamento.

E l’algoritmo di bilanciamento è sempre lo stesso: comprimere un diritto nella misura minima necessaria a garantire il rispetto e l’esercizio dell’altro. Ed è questo l’algoritmo che si è applicato: all’indomani del primo provvedimento si è aperto un confronto con OpenAI, si è capito fin dove la società potesse spingersi nell’immediato per conformarsi alla disciplina europea, si è imposta con un nuovo provvedimento una serie di correttivi e si è consentito alla società di tornare a rendere accessibile ChatGPT anche in Italia in attesa dell’esito dell’attività istruttoria frattanto avviata.

Oggi il servizio è più trasparente e più rispettoso dei diritti e delle libertà delle persone, anche se, forse, non abbastanza e di questo si discuterà nell’ambito del procedimento in corso. Vale, forse, la pena aggiungere che all’indomani del provvedimento italiano, in tutta Europa e nel resto del mondo si è iniziato a discutere di come non rinunciare alle opportunità che l’intelligenza artificiale certamente ci offrirà, senza, per questo, dover rinunciare a diritti e libertà e che lo stesso CEO della società si è presentato al Congresso americano chiedendo regole e vigilanza per contenere e governare l’impatto della sua creatura sulla vita delle persone.

*Membro del consiglio Garante per la protezione dei dati personali

© Riproduzione riservata

Guido Scorza