Arriva in amministrazione un’email che sembra provenire da un fornitore abituale. Comunica un cambio di IBAN e chiede di utilizzare le nuove coordinate per saldare una fattura in scadenza.
In concomitanza, arriva un messaggio vocale da un numero sconosciuto. La voce sembra quella della persona che segue abitualmente il rapporto commerciale: conferma il cambio di conto e sollecita il pagamento per evitare ritardi nella consegna.
La fattura è attesa e la voce è familiare. La richiesta può sembrare una normale comunicazione di lavoro.
Ma l'email è falsa e il messaggio vocale è un deepfake audio: una voce clonata con l’intelligenza artificiale per rendere credibile la richiesta e indirizzare il bonifico sul conto di chi ha organizzato la frode.
Rischio deepfake
Video e voce possono essere riprodotti da strumenti di intelligenza artificiale, utilizzando immagini e registrazioni autentiche reperite online.
Il rischio non nasce soltanto dalla qualità della falsificazione, ma dal contesto: una richiesta apparentemente legittima, un'urgenza credibile e la pressione di dover prendere una decisione in pochi minuti.
Uno scenario che fino a qualche anno fa sarebbe sembrato la trama di un film di fantascienza oggi rappresenta una minaccia concreta per la cybersecurity aziendale.
Con l'evoluzione dell'intelligenza artificiale generativa, creare contenuti audio e video artificiali sempre più realistici è diventato più semplice. E le imprese devono imparare a riconoscere un nuovo tipo di rischio: non potersi fidare nemmeno di ciò che vedono e sentono.
I deepfake sono contenuti audio, video o immagini generati o manipolati attraverso sistemi di intelligenza artificiale per riprodurre in modo realistico persone, situazioni o dichiarazioni.
Le tecnologie di AI generativa possono imitare il volto di una persona, ricostruirne le espressioni e imitarne la voce. Il problema non è la tecnologia in sé, che può avere applicazioni legittime nella comunicazione e, ad esempio, nella formazione.
Il rischio nasce quando questi contenuti vengono utilizzati per ingannare, impersonare qualcuno o manipolare informazioni. In ambito aziendale, le conseguenze possono essere particolarmente gravi.
Un attacco deepfake non deve necessariamente compromettere un sistema informatico per provocare danni.
A volte basta convincere una persona a compiere un'azione.
È il principio del social engineering, una tecnica di manipolazione che sfrutta la fiducia e i comportamenti umani per ottenere informazioni o autorizzazioni.
I principali scenari di rischio comprendono:
La caratteristica più insidiosa è che l'attacco sfrutta un elemento che normalmente consideriamo affidabile: l'identità di una persona conosciuta.
Esistono alcuni indizi che possono aiutare a individuare contenuti manipolati.
Nei video, per esempio, possono comparire movimenti innaturali del volto, problemi di sincronizzazione tra labbra e voce oppure variazioni anomale dell'illuminazione.
Negli audio, invece, si possono notare pause insolite, intonazioni poco naturali o cambiamenti improvvisi nella qualità del suono.
Attenzione, però: i deepfake più sofisticati possono non presentare difetti evidenti. Per questo il riconoscimento visivo o acustico non è sufficiente.
La strategia più efficace consiste nel verificare l'autenticità delle richieste.
Se un dirigente chiede un pagamento urgente durante una videochiamata, per esempio, è opportuno richiamarlo utilizzando un numero già presente nella rubrica aziendale, anziché quello fornito durante la conversazione sospetta.
Allo stesso modo, richieste improvvise di password, dati riservati o modifiche alle coordinate bancarie devono attivare procedure di verifica.
Il quadro normativo europeo sta affrontando anche il problema dei contenuti sintetici.
L'AI Act, all'articolo 50, introduce obblighi di trasparenza relativi ai contenuti generati o manipolati artificialmente.
Dal 2 agosto 2026, chi utilizza professionalmente sistemi di AI per produrre o manipolare contenuti qualificabili come deepfake deve, nei casi previsti dalla normativa, dichiararne la natura artificiale. Sono previste specifiche eccezioni.
L'utilizzo illecito dei deepfake può inoltre coinvolgere diverse discipline giuridiche.
Quando un contenuto viene utilizzato per ottenere denaro attraverso l'inganno, possono configurarsi reati come la truffa, a seconda delle modalità concrete.
La creazione o diffusione di contenuti lesivi della reputazione può comportare responsabilità civili e, in determinate circostanze, penali.
Se vengono trattati dati personali, immagini o registrazioni vocali identificabili, occorre inoltre valutare gli obblighi previsti dal GDPR.
In Italia, la legge 132/2025 ha introdotto anche una specifica fattispecie penale relativa all'illecita diffusione di contenuti generati o alterati con sistemi di intelligenza artificiale, al ricorrere delle condizioni previste dalla norma.
Non tutti i deepfake, quindi, sono illegali. Ma il loro utilizzo può diventarlo quando viola diritti, obblighi di trasparenza o disposizioni penali.
La difesa non può essere affidata esclusivamente agli strumenti tecnologici.
Software di rilevamento, sistemi di autenticazione e monitoraggio delle comunicazioni possono aiutare, ma devono essere accompagnati da procedure organizzative solide.
Un'azienda dovrebbe prevedere verifiche indipendenti per i pagamenti sensibili, autorizzazioni multiple per operazioni straordinarie e percorsi di formazione dedicati ai dipendenti.
È importante anche definire una procedura di gestione degli incidenti: sapere a chi segnalare un sospetto deepfake e come bloccare tempestivamente un'operazione può ridurre significativamente le conseguenze di un attacco.
La formazione dovrebbe coinvolgere soprattutto chi gestisce pagamenti, informazioni riservate e comunicazioni istituzionali.
Per anni abbiamo imparato a diffidare delle email sospette e dei link sconosciuti.
Oggi dobbiamo aggiungere una nuova abitudine: verificare anche le richieste che sembrano provenire da persone conosciute.
La diffusione dei deepfake non significa che ogni comunicazione sia falsa, ma che l'identità apparente non può più rappresentare, da sola, una garanzia di autenticità.
La cybersecurity non riguarda soltanto la protezione dei sistemi informatici. Riguarda anche la capacità delle persone di riconoscere un tentativo di manipolazione.
E in un mondo in cui l'intelligenza artificiale può imitare quasi tutto, saper verificare diventa una delle competenze più importanti per proteggere l'azienda.