David Runciman – docente di scienze politiche a Cambridge che da tempo s’interroga sulle questioni più complicate del nostro futuro – ha scritto questo saggio, “Affidarsi” (Einaudi), un testo molto denso e difficile per la complessità del tema e tuttavia utilissimo per, diciamo così, fare il punto della situazione, nientemeno, sullo stato dell’umanità.

Runciman ha chiesto a ChatGpt di riscrivere un pezzo dell’introduzione usando l’applicazione “Riassumere per uno studente di seconda elementare”, ed ecco in estrema sintesi di cosa parla questo libro: «Stiamo creando macchine che sono molto potenti, ma che non hanno una coscienza, un cuore, un’anima come ce l’hanno gli umani. Ciò significa che se persone con cattive intenzioni usano queste macchine possono provocare un sacco di danni. Ma ancora più spaventosa è la possibilità che possano decidere da sole di fare cose capaci di danneggiarci». Nel testo “vero” i termini della questione sono enormemente più complicati, ma insomma la domanda-chiave è: l’uomo sta diventando come l’apprendista stregone che vedrà i frutti delle sue invenzioni rivoltarsi contro di sé?

Il fatto è che noi stiamo fornendo il controllo delle nostre vite alle grandi aziende che manovrano l’Intelligenza Artificiale, questa gigantesca creazione basata sugli algoritmi in grado di creare un “mondo” nel quale le macchine faranno praticamente tutto, lasciando agli umani solo gli aspetti piacevoli della vita. Non dovremo più fare ciò che toglie alla nostra esistenza il tempo per noi, nemmeno lavorare – la vecchia utopia marxista – e potremo destinare la vita ai piaceri fisici e intellettuali. Hannah Arendt descriveva la condizione umana come lotta per la sopravvivenza, per sfuggire alla fame: voilà, il problema sarebbe risolto, “cedendo” agli algoritmi il compito di soddisfare i nostri bisogni primari (lei ovviamente questo non poteva immaginarlo).

È esattamente come quando si creò lo Stato moderno e gli individui non dovettero più pensare (in teoria) a difendersi dagli altri individui: ci avrebbe pensato la polizia, la magistratura, il parlamento, insomma lo Stato. Qui è il parallelo che Runciman traccia con tutta l’elaborazione hobbesiana dello Stato-Leviatano, un “mostro” che può essere utile per la nostra felicità ma che è pur sempre un “mostro”, se adoperato in modo sbagliato. La macchina-Stato ha molto aiutato il genere umano ma è anche vero che da Hobbes a Kafka, cioè lo Stato privo di senso e perciò disumano, o da Hegel al totalitarismo novecentesco il passo può essere breve e tuttavia il dilemma che dobbiamo porci è questo: mentre lo Stato alla fin fine siamo pur sempre in grado di modificarlo secondo le nostre esigenze, chi ci assicura che a un certo punto l’Intelligenza Artificiale non diventi immodificabile e addirittura in grado, lei, di modificare noi?

Questa che lo studioso inglese chiama “seconda singolarità” «potrebbe rappresentare una trasformazione biologica, se le macchine cambiassero non soltanto le nostre prospettive ma anche le nostre capacità naturali fondamentali: se gli umani iniziassero ad avere una durata della vita artificiale, o a conservare i ricordi dopo la morte naturale, o a scegliere di ritoccare il corredi genetico dei propri figli, allora saremmo in un nuovo mondo». Non ci siamo ancora arrivati. In questa fase l’umanità è come sospesa tra «la condizione umana e quella post-umana». E davanti al rischio di una mostruosa competizione tra le grandi potenze per conquistare i “brevetti” delle più aggiornate applicazioni di IA: questa è anche una guerra militare. «La Cina – scrive lo studioso inglese – ha investito in grande scala su una nuova generazione di sistemi di armi autonome, veicoli militari autopilotati e strutture di comando e gestione dello scontro basate sull’Intelligenza Artificiale». Per dire a cosa si sta andando incontro.

Che fare? Dobbiamo investire tutto nell’intelligenza? O dovremmo avere coscienza del limite, cioè del rischio catastrofico di creare un mondo “finto” che alla lunga potrà divorarci? E, domanda delle domande: davvero ci dobbiamo “affidare”? E a chi? Runciman non è pessimista. Ma nessuno sa come andrà a finire. E non è un romanzo, è già domani.

Mario Lavia

© Riproduzione riservata