l’IA generativa e le truffe online: i pericoli del deepfake nelle frodi on line

Deepfake tra pericoli e potenziali conseguenze.

Dal Mondo – Negli utili anni abbiamo assistito e stiamo tuttora assistendo al progresso tecnologico galoppante nel campo di sviluppo dell’intelligenza artificiale (IA). E ‘molto facile notare che oggi molte delle cose che ci abbiamo intorno si avvalgono dell’ausilio dell’IA per il loro funzionamento, ad esempio: smartphone, frigoriferi, lavatrici, pc, e molto altro ancora. Detto ciò, queste innovazioni purtroppo non sono state sfruttate solamente per scopi legittimi, ma hanno anche aperto la strada a nuove forme di criminalità digitale, in quanto i cybercriminali si adeguano anch’essi al passo tecnologico. Tra le minacce più evolute, vi sono le truffe online mediate dall’uso di IA generativa, in particolare attraverso i deepfake. Questo articolo ha come fine quello di spiegare cosa sono i deepfake, come vengono utilizzati ai fini di una possibile frode, dando spunti di riflessione per la sicurezza digitale e le possibili contromisure.

Ma Cosa sono i deepfake e come funzionano?

Possiamo definirli come contenuti multimediali, tipo video o audio. Creati grazie all’utilizzo di tecniche di IA generativa. Per questo, tali contenuti multimediali, basati sulle tecniche di deep learning, permettono la manipolazione delle immagini, voci e persino movimenti in modo altamente ed estremamente realistico. Con il termine “deepfake” si intende l’insieme della combinazione di “deep learning” e “fake” (falso), ciò spiega anche la grandissima capacità di queste tecnologie di riprodurre con estrema facilità contenuti ingannevoli che possono essere difficili da distinguere da quelli autentici dalla stragrande maggioranza delle persone.

Vediamo adesso cosa comporta il processo di creazione di un contenuto deepfake. Esso necessita della raccolta di una grande mole di dati, quali foto o registrazioni audio della persona da impersonare e replicare. Questi dati acquisiti vengono in primis utilizzati per addestrare un modello di IA generativa, al fine di farle imparare a replicare le caratteristiche uniche del soggetto in questione, come il tono di voce, le espressioni facciali o i gesti nei movimenti. Una volta completato l’addestramento, il modello sarà in grado generare nuovi contenuti che sembrano autentici, ma che in realtà sono dei fake realizzati in maniera professionale.

L’utilizzo della tecnologia deepfake nelle frodi online

Diventati ormai uno strumento molto potente per i cybercriminali, essi lo utilizzano per ingannare le malcapitate vittime ed ottenere guadagni illeciti. Di seguito alcuni esempi di come queste tecnologie vengono ad essere utilizzate nelle truffe online:

1. Frodi finanziarie
Uno degli usi più comuni dei deepfake è nelle frodi finanziarie. Infatti, i pirati informatici con la creazione video o audio falsi in cui sembra il soggetto attivo appare una persona autorevole, come un amministratore delegato o un funzionario di banca, al fine di di riuscire a dare disposizioni per lo spostamento di fondi o il pagamento di competenze, ecc. Vi sono vari casi di persone che hanno ricevuto chiamate da pseudo esponenti di banche e aziende dove con l’ausilio delle tecniche di deepfake veniva riprodotta la voce originale dei soggetti portando cosi in errore le vittime che si apprestavano ad effettuare dei pagamenti mai richiesti ufficialmente dai soggetti reali o dalle banche.

2. Phishing e ingegneria sociale
Vengono utilizzati per migliorare le tecniche di phishing e ingegneria sociale. Spesso i criminali usano questa tecnica al fine di inviare un video falso in cui si spacciano per un collega o un amico della vittima al fine di carpire informazioni sensibili, come password o dati bancari. come già detto non è molto semplice per la stragrande maggioranza delle persone capire se il video sia reale o manipolato usando queste tecnologie.

3. Estorsioni e ricatti
Un altro campo di utilizzo dei deepfake è quello delle estorsioni. In quanto, i criminali creano dei video o immagini fake che ritraggono una persona in situazioni compromettenti intimando con minacce di diffonderli se non viene ad essere pagato un riscatto. Questa tipologia di truffa può avere conseguenze fortemente lesive per le vittime, sia a livello finanziario che emotivo.

4. Disinformazione mediante deepfake
Manipolare l’opinione pubblica può avere effetti economici e sociali molto importanti. Per esempio, dando una falsa notizia, si può generare allarmismo sociale con conseguenze non indifferenti per la sicurezza della popolazione di uno stato.

La sicurezza in ambito digitale

L’uso crescente dei deepfake nelle truffe online solleva serie preoccupazioni per la sicurezza digitale. La capacità di creare contenuti falsi ma realistici rende più difficile per gli utenti distinguere tra informazioni autentiche e manipolate. Questo può erodere la fiducia nelle comunicazioni digitali e aumentare il rischio di frodi.

Il crescente utilizzo di queste tecniche ai danni degli utenti della rete e non solo, rappresenta un’altra grande sfida per le tradizionali misure di sicurezza informatica. In quanto tantissimi sistemi di autenticazione si basano su parametri biometriche, quali: il riconoscimento facciale o vocale. In questo modo possono essere facilmente bypassati. Si necessita pertanto di uno sviluppo delle misure di sicurezza che si adeguino al fenomeno in crescita della diffusione dei deepfake ed una sensibilizzazione ai fini della prevenzione.

Possibili soluzioni

Contrastare queste ulteriore e nuova minaccia, rende necessario lo sviluppo di strategie su vari livelli che integrino tecnologia, educazione e regolamentazione dal punto di vista pratico. Come ad esempio:

1. Tecnologie di rilevamento
Lo sviluppo di strumenti rilevamento delle tecnologie deepfake è una delle possibili soluzioni al problema. Grazie all’analisi dei contenuti multimediali si può riuscire ad identificare segni di manipolazione, come difetti nei movimenti ed altri particolari utili per identificare un fake. Naturalmente questi sistemi devono essere continuamente aggiornati seguendo le potenziali evoluzioni di questo fenomeno.

2. Educazione e sensibilizzazione
L’educazione digitale su questo argomento possiamo considerarla un’ulteriore barriera di protezione difronte a questo problema. Infatti, più le persone sono informate sui rischi dei deepfake e su come riconoscere possibili tentativi di frode maggiore sarà la possibilità di essere vittime di truffe on line.

3. Regolamentazione e cooperazione tra stati
inoltre, la collaborazione a livello internazionale per tracciare e perseguire i criminali informatici, non deve mai mancare, in quanto maggiore sinergia può solo garantire maggiori risultati.

Conclusione

Come abbiamo spiegato l’utilizzo dei deepfake nelle truffe online costituisce una nuova minaccia per la sicurezza digitale. Pertanto è essenziale cooperare attraverso un approccio integrato e su più livelli per proteggere la società e gli utenti dalle nuove minacce, che l’uso illegittimo dell’intelligenza artificiale generativa potrà portare per il prossimo futuro.

Foto di Ron Lach : https://www.pexels.com/it-it/foto/persona-smartphone-internet-dipendenza-9783812/

Correlati