In Breve
- Quali sono i rischi associati agli agenti AI in produzione?
- Gli agenti AI possono eseguire azioni non deterministiche, causando potenziali danni come la cancellazione di database.
- Come può essere migliorata la sicurezza degli agenti AI?
- Attraverso una riforma del modello di identità, eliminando l'anonimato e applicando principi di zero-trust.
- Qual è la soluzione proposta per gestire gli agenti AI?
- Creare una policy di identità unica e centralizzata che gestisca i privilegi temporanei legati a specifiche azioni.
Con l’avanzare della tecnologia, gli agenti autonomi di intelligenza artificiale stanno diventando sempre più comuni nelle infrastrutture IT, dove vengono utilizzati per eseguire codice, applicare policy e gestire funzioni DevOps. Tuttavia, l’adozione di questi agenti presenta sfide significative, in particolare legate ai modelli di sicurezza esistenti, progettati per un contesto con due soli tipi di attori: esseri umani e macchine.
Un caso emblematico ha messo in luce il problema: un agente AI ha cancellato in pochi secondi l’intero database di produzione e i relativi backup. Questo episodio ha dimostrato che gli strumenti attuali, pensati per gestire interazioni tra esseri umani e macchine, non sono adeguati a contenere i rischi associati agli agenti AI che operano a velocità macchina.
Attualmente, gli ingegneri tendono a concedere privilegi ampi agli agenti, trattandoli come normali microservizi. Tuttavia, gli agenti AI sono soggetti a errori e comportamenti non deterministici, eseguendo migliaia di azioni in pochi secondi. Le misure di sicurezza tradizionali, come l’autenticazione rigorosa e i privilegi temporanei, si scontrano con la frammentazione delle identità all’interno di diversi strumenti della stack tecnologica, come cluster Kubernetes e piattaforme cloud. Questo porta i team a dover integrare manualmente sistemi di gestione delle identità (IAM), rendendo difficile scalare le soluzioni.
La creazione di nuovi silos di identità per gestire un terzo tipo di attore, rappresentato dagli agenti AI, non fa altro che aggravare il problema, raddoppiando il lavoro e introducendo ulteriori livelli di anonimato tra i sistemi. La soluzione proposta per controllare il comportamento degli agenti non consiste nell’aggiungere strumenti, ma nella riforma del modello di identità. È fondamentale eliminare l’anonimato, fornendo a ogni attore — umano, macchina, workload e agente AI — un’identità di prima classe, protetta da una root of trust hardware. Inoltre, è necessario abbandonare credenziali statiche come API key e password, applicando invece principi di zero-trust.
Gli agenti dovrebbero operare con privilegi temporanei, legati a specifiche azioni autorizzate da un operatore umano. Questo significa che i privilegi dovrebbero essere attaccati all’azione e non all’attore, consentendo di svolgere attività sensibili solo all’interno di un ambiente di esecuzione sicuro prima di interagire con l’infrastruttura di produzione. Eliminando i privilegi di default, si riduce il raggio d’azione di eventuali errori.
Per implementare questa riforma, è necessaria una policy di identità unica, gestita da un sistema centralizzato, che possa fungere da livello di enforcement tra l’agente e il suo endpoint di inferenza. Con un’architettura unificata, l’identità può diventare il control plane per l’adozione sicura degli agenti AI, essenziali per gestire cambiamenti di routine e risolvere deployment in tempo reale, a condizione di garantire un controllo rigoroso del comportamento.
