Le mafie puntano sul deepfake: l'allarme dell'Europol

ll "deepfake" potrebbe diventare uno strumento fondamentale per il crimine organizzato. È questo l’avvertimento lanciato da Europol, l'Ufficio europeo di polizia, in un rapporto nel quale si invitano le forze dell'ordine a fare della lotta contro l'uso criminale di questa tecnologia digitale una priorità.

Europol elenca diversi esempi contemporanei di uso criminale della tecnologia che, attraverso una tecnica di sintesi multimediale basata sull'intelligenza artificiale crea simulazioni ultra-realistiche di persone reali sostituendo un volto con un altro o una voce con un'altra, facilita la proliferazione del crimine tra cui la disinformazione, la manomissione delle prove, falsificazione di documenti e la produzione di pornografia non consensuale. L’Europol lancia l'allarme sul fatto che, nei prossimi anni, tali attacchi diventeranno sempre più probabili e pericolosi.

Per quanto riguarda la disinformazione nel rapporto vi sono diversi esempi sul modo in cui le informazioni false potrebbero essere diffuse utilizzando i deepfakes, portando a conseguenze potenzialmente devastanti, sopratutto in un periodo di forti tensioni come questo. Appena un mese fa, è molto circolato in rete un falso filmato nel quale il presidente ucraino, Volodymyr Zelensky, invitava la popolazione e le truppe ucraine ad arrendersi all'invasione russa riconoscendo il fallimento della resistenza del suo Paese e in cui sosteneva di rinunciare alla regione del Donbass. Questo tipo di video sono stati vietati sui social network come Facebook dal 2020, quando hanno fatto irruzione nelle elezioni presidenziali americane. 

La tecnologia potrebbe anche essere utilizzata per colpire le imprese, nel report si cita l'esempio di un audio deepfake per impersonare l’amministratore delegato di una società al fine di trasferire 35 milioni di dollari (33,3 milioni di euro) a un dipendente. Il rapporto spiega poi, che secondo uno studio di Sensity, il 96 per cento dei video falsi coinvolgono pornografia non consensuale. Questo tipicamente comporta la sovrapposizione del volto di una vittima sul corpo di un attore di pornografia, facendo sembrare che la vittima sia impegnata nell'atto. In ultimo l’analisi mette in allarme sulla falsificazione dei documenti. Se i passaporti stanno diventando sempre più difficili da falsificare grazie alle moderne misure di prevenzione delle frodi, il rapporto ha scoperto che "le immagini facciali manipolate digitalmente presentano una nuova opportunità per la frode dei documenti". Per esempio, queste tecnologie possono combinare i volti della persona a cui appartiene il passaporto e della persona che vuole ottenere un passaporto illegalmente, aumentando le possibilità che la foto possa superare i controlli d'identità, compresi quelli automatici.

"I progressi nell'intelligenza artificiale e la disponibilità pubblica di grandi database di immagini e video significano che il volume e la qualità dei contenuti deepfake stanno aumentando", dice il rapporto. Per questo è necessario che le forze dell’ordine concentrino parte dei loro sforzi nella lotta contro il fenomeno, migliorando le competenze e le tecnologie a disposizione degli agenti. Dato il diffondersi su larga scala del fenomeno il controllo manuale diventerà sempre più complicato da eseguire, a causa del numero crescente di frodi di questo tipo.