La sostituzione della realtà

Ti faccio dire quello che voglio io. Ti faccio essere quello che voglio io. Tu non esisti, sei un guscio vuoto, sei solo un pupazzo nelle mie mani. Non ti considero una persona, sei solo uno strumento al servizio dei miei scopi, sei solo la cavia del mio potere di manipolazione.

Non è la trama di un film distopico, non è un gioco sadico nel chiuso di un club privato, non è il delirio di un pazzo. E’ quello che accade veramente, e accade adesso, con le deep-fake, le false dichiarazioni costruite con l’intelligenza artificiale mettendo in bocca alle persone famose qualunque cosa. Potete far dire a chi vi pare le cose più efferate, le più lontane dalla sua volontà e dai suoi sentimenti. Potete arruolarlo in qualunque schieramento politico, farne il testimonial di qualunque abominio, o idiozia, o crimine ideologico.

Potete fare di un democratico un nazista, di una femminista una misogina, di un onesto un farabutto, di un mite un violento. Gli avete rubato l’immagine e gli avete cancellato la favella per rimpiazzarla con le vostre parole.

Dicono che la propaganda russa sia all’avanguardia in questo processo di mostruoso parassitismo, diffondere sui social la menzogna impossessandosi del corpo di un altro. E farlo contando sul fatto che se molti sapranno sventare l’inganno, molti altri, i più indifesi, i meno avvertiti, abboccheranno.

Ma attenzione, si tratta di una tecnologia a basso costo. Presto quasi chiunque potrà disporne: la formula della distopia non è solo nelle stanze dei bottoni, è alla portata di tutte le tasche. Di tutte le catastrofi che temo, per il futuro immediato, la sostituzione della realtà è quella che più mi spaventa, anche perché è la più probabile.

Michele Serra (da rubrica “L’amaca”, pubblicata su “La Repubblica” del 5/5/24)