È sempre più in voga sui social FakeYou, l’app che è in grado di produrre registrazioni audio realistiche partendo da un testo scritto dall’utente. Ma come funziona e quali sono i rischi correlati al suo utilizzo?
Come funziona FakeYou
Il suo funzionamento è davvero semplice: è sufficiente accedere alla piattaforma attraverso qualsiasi browser, scegliere, tra quelle presenti, la categoria desiderata, digitare il testo che vogliamo sia pronunciato dal personaggio scelto e infine premere il pulsante ‘Speak’ per ascoltarlo e salvare la registrazione audio. Per la categoria italiano, i nomi più gettonati sono senza dubbio quelli della futura Premier Giorgia Meloni, del presidente di Forza Italia Silvio Berlusconi e infine il noto conduttore Mediaset Gerry Scotti. Un’applicazione tanto divertente quanto pericolosa, se utilizzata per scopi tutt’altro che ludici. Sebbene sia evidente che la qualità degli audio sia, in linea di massima, scadente, non è abbastanza per poter scongiurare il rischio che vengano interpretati come reali. La cosa più preoccupante è che possano essere utilizzati anche per la creazione di video.
I deepfake: la nuova frontiera delle fake news
I deepfake non sono altro che video manipolati creati attraverso il supporto dell’AI (intelligenza artificiale). Questi contenuti non possono essere paragonati all’utilizzo dei cosiddetti filtri presenti su Instagram o Snapchat: nei deepfake, l’intelligenza artificiale impara come è strutturato un volto in un video e lo fa muovere autonomamente, riproducendo le espressioni facciali in tempo reale e in sincronia con un altro audio (o video). Insomma, una cosa da non credere ai propri occhi! I software sono nati inizialmente per la produzione cinematografica, finché non sono diventati alla portata di tutti, impiegandoli in pratiche meschine come il ‘revenge porn‘ e la propaganda politica. Basti pensare quando, all’inizio del conflitto ancora in atto tra Russia e Ucraina, iniziò a circolare sui social un video del presidente ucraino Zelensky che chiedeva alla popolazione di arrendersi. Un perfetto esempio di video fake per capire quali rischi possano rappresentare questi contenuti manipolati.
Gli sviluppatori dell’app la prendono con leggerezza:
I deepfake sono un po’ come Photoshop, quando è uscito. Tutto questo potrebbe spaventare, ma a breve sarà la normalità. Le persone si abitueranno e i risultati saranno utilizzati soprattutto con fini di creatività, sbloccando possibilità che prima sarebbero state costose e impossibili per creatori individuali.
La risposta dell’Unione Europea
Le parole degli amministratori di FakeYou lasciano intendere soltanto ingenuo ottimismo. L’Unione Europea, infatti, ritiene che i deepfake rappresentino una minaccia reale, in quanto minano alla fiducia nelle istituzioni e contribuiscono alla crescita di disinformazione. Nel Regolamento sull’intelligenza artificiale, l’UE ha stabilito, in materia di deepfake, ha stabilito l’obbligo di indicare la manipolazione del contenuto attraverso l’IA per chi lo pubblica.
Come sostiene il Garante della Privacy:
“Quella realizzata con i deepfake è una forma particolarmente grave di furto di identità” in quanto “le persone che compaiono in un deepfake a loro insaputa non solo subiscono una perdita di controllo sulla loro immagine, ma sono private anche del controllo sulle loro idee e sui loro pensieri, che possono essere travisati in base ai discorsi e ai comportamenti falsi che esprimono nei video”.
Rossella Di Gilio
Seguici su Google News