Fra il papa con un Moncler personalizzato e Donald Trump condotto in manette in carcere, abbiamo un serio problema di immagini fake generate da AI, contenuti fasulli ed imitazioni quasi perfette. Negli ultimi tempi spopolano, perché sono impressionanti a livello qualitativo, perché confondono chi ha poco senso critico, perché nel mondo digitale (popolato purtroppo da tanta, tanta ignoranza) costituiscono un vero e proprio problema. Siamo disposti a vivere in una società dove la realtà è continuamente subissata da fake? Perché già lo stiamo facendo.
Immagini fake generate da AI
Ci sono diversi strumenti che permettono di creare dal nulla immagini completamente false. L’AI che lavora dietro alla richiesta di un utente- Midjourney una delle più famose, o ancora Dall°E, e altre- ricerca online e mette insieme quanto ha imparato nel tempo con la tecnica del machine learning. Il risultato talvolta tradisce la mancanza di una mente umana, altre volte è perfetto. Inizialmente queste AI avevano problemi con le mani; non riusciva loro di rappresentarle correttamente. Ora sembra che il problema si risolto, almeno per i sistemi più avanzati. E pure questo è un rischio per noi, poiché immagini tanto perfette possono ingannare anche il più furbo osservatore, e farci credere che certe cose siano accadute quando invece non lo sono. La foto del papa vestito seguendo le ultime mode del fashion, ha scatenato più di una risposta scomposta. Ma è completamente falsa.
Deep Fake e nudità
I Deep Fake sono un altro bel problema. Alcuni software sono in grado di sostituire volti e corpi e piazzarli in video preesistenti con risultati stupefacenti. Ne consegue che la persona X si possa ritrovare sul set di un film porno, in un filmato diffuso online. Distinguere il fake non è affatto semplice, e con il click e la condivisione facile che caratterizza questi tempi, un ignara persona può ritrovarsi con la reputazione distrutta in pochi minuti.
Un altro utilizzo di questa tecnologia, consiste nel creare una falsa intervista in cui vengono fatte dichiarazioni fuori dal mondo, a discapito di un politico o di un personaggio famoso. Ma la voce non combacerà!, penserete. Non è cosi.
Imitatori vocali
Non solo le immagini possono subire questo processo. Esistono software in grado di riprodurre le voci di qualcuno in maniera perfetta, tanto da creare i cosiddetti Deep Fake vocali. Terrificanti perché possono essere usati per ingannare il prossimo, utilizzando la voce rassicurante di una persona cara. O ancora, di creare false dichiarazioni, possibilmente shock, ed inquinare il dibattito pubblico su temi delicati. Online si trova di tutto, ed è anche possibile sentire il presidente degli Stati Uniti Biden litigare con l’ex presidente Trump riguardo ad un famoso franchise di videogiochi.
Quindi che fare contro i fake generati automaticamente?
Sebbene si stiano studiando modelli e sistemi per bloccare questa realtà fasulla, siamo ancora lontani dall’avere un sistema preciso che blocchi sul nascere la proliferazione di questi contenuti. Probabilmente ci arriveremo, ma al momento sembra che una sola arma possa aiutarci, ed è il buon senso.
- Aguzza l’ingegno: l’immagine che stai guardando è così assurda, può esserci qualcosa che non va?
- Fai delle ricerche. E non affidarti a simil tabloid arraffa click, guarda su giornali seri, capisci da solo se si tratta di un fake
- A volte non c’è neanche bisogno di questo, basta fermarsi a pensare
- Non condividere se non specificando che si tratta di una gag, altrimenti alimenti il diffondersi di fake news
- Divertiti con questi sistemi se ti va, ma non creare contenuti che possano davvero ingannare o inquinare la realtà
Se facessimo tutti così, il pericolo sarebbe già di per sé scongiurato. Ma lo sappiamo, è un pensiero un po’ troppo ottimista.
