L’IA si sta impossessando del mondo ogni giorno di più. Infatti, quello dei deepfake, cioè le truffe in tempo reale che ingannano anche i sistemi di verifica, è un fenomeno in costante aumento, e questo è un aspetto molto preoccupante per tutte le persone del globo.
A proposito dei rischi connessi ai deepfake creati con l’IA, Marco Ramilli, che da pochi mesi ha fondato “IdentifAI” (una startup italiana che processa immagini e video e riconosce i prodotti contraffatti dall’intelligenza artificiale generativa grazie ad una speciale tecnologia) si è così espresso ai microfoni dell’ANSA: “Con la tecnologia di morphing si cambia volto e voce, sono sofisticate operazioni di ingegneria sociale molto più efficaci della truffa che arriva con un messaggio a cui siamo oramai più preparati”.
Del fenomeno dei deepfake in tempo reale si è occupata anche la testata online “404 media”, che ha documentato l’uso di questo sistema per truffare gli utenti (soprattutto gli anziani) e anche la chiusura di un sito chiamato “Mr. Deepfakes”, a cui gli utenti erano disposti a pagare fino a 1.500 dollari per creare dei video porno finti in cui venivano cambiati i volti delle persone con l’IA.
In pochi anni il fenomento dei deepfake è cresciuto esponenzialmente. Infatti, secondo i dati combinati di Resemble.AI e AI Incident Database, dal 2017 al 2022 ci sono stati 22 incidenti registrati. Nel 2023 questo numero è quasi raddoppiato a 42, nel 2024 gli incidenti sono aumentati addirittura del 257%, arrivando a 150. Inoltre, nel primo trimestre del 2025 si sono già verificati 179 incidenti, superando del 19% il totale di tutto il 2024.
“Le frodi più comuni, quelle di tutti i giorni, riguardano principalmente i documenti di identità falsi nel settore bancario e assicurativo, scontrini contraffatti per le richiesta di rimborsi”, ha osservato Ramilli.
E ha continuato ancora il fondatore di IdentifAI:” Ma ci sono anche le truffe con le voci generate dall’intelligenza artificiale per cui basta una traccia di pochi secondi per riprodurre il vocale di un parente. E quelle con le immagini di persone famose prese dai social che hanno più appeal sugli utenti e possono essere usate anche a scopo politico”.
Sono tanti, ad esempio, gli esempi di video contraffatti da quando è scoppiata la guerra in Ucraina e, più di recente, la tecnologia di IdentifAI ha aiutato NewsGuard, la piattaforma che monitora la disinformazione online, a smascherare dei video finti di Donald Trump che minacciava di distruggere il Pakistan qualora avesse attaccato l’India.
E ha insistito ancora Ramilli: “Nel campo delle frodi quest’anno l’Intelligenza artificiale rappresenta il 5%, mentre lo scorso anno si è attestata allo 0.3%. Pensiamo che in quattro anni salirà al 60-70% delle frodi. Siamo sottoposti a molti stimoli multimediali, bisogna avere cautela e dotarsi di strumenti che processano le immagini e i video per cercare di capire, altrimenti si perderà la fiducia nel digitale”.
Insomma, dobbiamo tutti fare più attenzione per evitare di incappare in una truffa, nella speranza che qualcuno trovi al più presto una soluzione che limiti l’egemonia IA-Deepfake, per il bene di tutta l’umanità.
