In Breve
- Qual è l'impatto dell'Intelligenza Artificiale sulle frodi finanziarie?
- L'Intelligenza Artificiale consente ai gruppi criminali di diventare più sofisticati, creando identità sintetiche e utilizzando deepfake.
- Come possono le istituzioni contrastare le frodi?
- Le istituzioni devono investire in soluzioni AI e sviluppare competenze interne per rilevare comportamenti sospetti.
- Quali sono le sfide nella prevenzione delle frodi?
- Le tecnologie moderne rendono difficile la rilevazione delle frodi, poiché gli attacchi si presentano con caratteristiche di legittimità.
Le frodi finanziarie nel Regno Unito hanno raggiunto perdite record di 1,3 miliardi di sterline, evidenziando un fenomeno in crescita che preoccupa le istituzioni finanziarie. Uno dei principali fattori che contribuiscono a questa escalation è l’uso sempre più diffuso di tecnologie avanzate, in particolare l’Intelligenza Artificiale (AI), che è diventata uno strumento efficace per le reti criminali.
I gruppi criminali stanno diventando sempre più veloci e sofisticati. Tecnologie come la generative AI permettono di industrializzare l’ingegneria sociale, creando identità sintetiche composite capaci di superare i controlli KYC (Know Your Customer), costruendo storie creditizie credibili e rimanendo operative per mesi prima di eseguire la frode. L’uso di deepfake per frodi di autorizzazione produce voci e video sufficientemente plausibili da indurre le vittime a autorizzare transazioni o a fornire credenziali sensibili. Queste tecniche colpiscono il livello di fiducia, il punto in cui un sistema o un operatore umano decide che un’operazione è legittima.
Attualmente, le tecnologie non vengono principalmente neutralizzate dai sistemi delle banche, ma attaccano direttamente i clienti. I criminali manipolano le vittime con chiamate convincenti, impersonificazioni realistiche e campagne di social engineering personalizzate, erodendo così lo scetticismo protettivo. Di conseguenza, gli attacchi arrivano ai sistemi bancari con caratteristiche tecniche di legittimità, rendendo più difficile la loro rilevazione. Inoltre, l’uso dell’AI potrebbe evolvere verso attacchi diretti contro le infrastrutture istituzionali, con i criminali che mappano i controlli e si mantengono deliberatamente al di fuori dei confini di rilevamento.
I team di prevenzione frodi nelle istituzioni finanziarie sono spesso organizzati attorno alla gestione degli incidenti: rilevare, rispondere e chiudere il caso. Tuttavia, approcci più efficaci considerano la rilevazione come una funzione di ricerca, alla ricerca di spostamenti comportamentali che possano indicare test o sondaggio degli asset. È necessario personale in grado di ragionare sui sistemi piuttosto che limitarsi a operarli, con competenze sui principi sottostanti: ragionamento statistico, pensiero avversariale, progettazione dei sistemi, analisi dei feedback e comprensione degli effetti composti nel tempo.
Non tutte le organizzazioni dispongono di queste competenze. Sebbene l’assunzione di nuovi esperti possa sembrare una soluzione, l’avanzamento e la diffusione degli strumenti AI rendono disponibili soluzioni avanzate facilmente integrabili nelle infrastrutture esistenti. Si suggerisce di investire in fornitori esterni che rendano questi strumenti accessibili, spiegabili e combinino analisi statistica e capacità di reasoning.
Tuttavia, l’implementazione di nuove tecnologie deve essere progettata in modo da non alimentare ulteriori rischi. Ogni modello ha ipotesi incorporate che gli attori avversari proveranno a sondare sistematicamente. Pertanto, i sistemi devono essere trattati come superfici di attacco fin dalla progettazione e sottoposti a test interni prima della produzione. Le difese basate su AI devono operare in millisecondi per individuare il rischio senza compromettere l’esperienza del cliente, valutando ogni transazione in tempo reale mediante centinaia di segnali confrontati con pattern storici per identificare anomalie.
