In Breve
- Qual è il principale rischio associato all'uso di agenti AI nella sicurezza?
- Il rischio principale è che le attestazioni degli agenti AI possano riflettere solo un'apparenza di controllo, senza garantire la reale efficacia dei controlli.
- Quanto tempo dedicano le organizzazioni alla compliance?
- Le organizzazioni nel Regno Unito dedicano circa 12 settimane all'anno a compiti di compliance e altre 9 settimane a revisioni dei fornitori.
- Quali misure possono migliorare la governance degli agenti AI?
- È fondamentale creare un inventario completo dei sistemi AI, limitare gli accessi e applicare controlli in modo continuo.
Negli ultimi anni, le organizzazioni hanno iniziato a fare affidamento su agenti AI per attestare i controlli di sicurezza, ma la governance non ha tenuto il passo con questa rapida adozione. Questo divario crea un rischio significativo: le attestazioni fornite dagli agenti AI potrebbero riflettere solo un’apparenza di controllo, piuttosto che la loro reale efficacia.
Secondo recenti studi, oltre la metà dei responsabili della sicurezza nel Regno Unito ritiene che le minacce alimentate dall’AI evolvano più rapidamente di quanto i team possano rispondere. Inoltre, l’80% di questi professionisti dichiara di utilizzare o pianificare l’uso di agenti AI come parte della loro strategia di sicurezza. Tuttavia, nonostante l’alto tasso di adozione, il lavoro di compliance rimane prevalentemente manuale. Le organizzazioni britanniche segnalano di dedicare circa 12 settimane all’anno a compiti di compliance e altre 9 settimane a revisioni dei fornitori.
Per affrontare questa situazione, è fondamentale garantire visibilità e governance continua. Ciò include la creazione di un inventario completo dei sistemi AI e delle API in uso, nonché l’identificazione dell’AI integrata nei servizi SaaS e il controllo della cosiddetta “shadow AI”. Ogni agente deve essere considerato come un nuovo attore con un’identità propria, accessi limitati al minimo necessario e senza account di servizio condivisi con privilegi estesi.
Prima di implementare un agente AI, è essenziale definire chiaramente cosa può accedere, quali dati può visualizzare, dove è necessaria l’approvazione umana e come annullare le azioni. Operazioni ad alto impatto, come modifiche agli accessi o trasferimenti di fondi, devono mantenere una supervisione umana significativa.
I controlli devono essere applicati in modo continuo attraverso meccanismi runtime, come il principio del least-privilege, permessi just-in-time, segmentazione, interruttori di emergenza e containment automatico, per ridurre il raggio d’azione in caso di errore. Aumenta la pressione regolatoria, con provvedimenti come il Cyber Security and Resilience Bill e le regole di operational resilience della FCA, accentuando il rischio che la compliance si trasformi in “security theatre”. L’automazione potrebbe accelerare questo fenomeno se rimane orientata a checklist statiche.
La risposta a questi problemi è spostare l’obiettivo: la compliance dovrebbe diventare una conseguenza di pratiche di sicurezza efficaci e dinamiche, armonizzando segnali di rischio, controlli e evidenze in tempo reale. L’AI rappresenta sia un nuovo fattore di rischio che uno strumento per gestire altri rischi. Programmi di governance efficaci possono semplificare il percorso approvato rispetto a quello in ombra, mantenendo la supervisione umana dove è più critica. Gli agenti AI devono essere in grado di documentare cosa hanno accesso, perché e chi ha autorizzato l’azione.
