Nessun agente in produzione senza un owner con nome e cognome
Gli agenti nascono fuori dai processi di acquisto, quindi nessuno attiva la procedura che prevede un responsabile. La regola più semplice è anche quella che separa chi sa cosa gira in casa da chi lo scoprirà dopo.
In sintesi. La regola più efficace sugli agenti AI è anche la più semplice da verificare: nessun agente va in produzione senza una persona con nome e cognome che ne risponde. È una regola organizzativa, costa poco, e separa le aziende che sanno cosa gira in casa da quelle che lo scopriranno quando qualcosa andrà storto. Quasi tre quarti delle organizzazioni prevede di adottare agenti entro due anni, e circa una su cinque dichiara un modello di governance maturo per gestirli.
Un agente è diverso da un modello che risponde a una domanda, perché pianifica, usa strumenti, scrive su sistemi aziendali e produce effetti fuori dalla conversazione, dall'apertura di un ticket alla modifica di un record. Il rischio si sposta dall'output all'azione, e un'azione sbagliata non si corregge rileggendo la risposta.
Perché l'ownership viene saltata
Gli agenti nascono quasi sempre fuori dai processi formali. Qualcuno attiva una funzione dentro una piattaforma già in uso, un team costruisce un'automazione interna, un fornitore propone un modulo che esegue operazioni al posto di un operatore. Nessuno di questi passaggi somiglia all'acquisto di un software, quindi nessuno attiva la procedura che prevede un responsabile.
Il risultato è che in molte organizzazioni gli agenti attivi sono più numerosi di quelli censiti, la domanda su chi li ha autorizzati non trova risposta, e quando qualcosa va storto la ricostruzione parte dalle persone invece che dai registri. Vale la stessa dinamica che abbiamo descritto per la shadow AI, con una differenza: qui il sistema agisce.
Cosa significa essere owner
Il nome sul documento serve a poco se non porta con sé poteri concreti. Un owner che non può fermare l'agente è una firma di comodo.
| Prerogativa | Perché serve |
|---|---|
| Fermare l'agente senza passare da altri | Un comportamento anomalo va interrotto in minuti, non in giorni |
| Modificare i limiti di autonomia | Le soglie si tarano con l'uso, non si decidono una volta sola |
| Accedere ai log delle azioni | Senza tracciamento non si ricostruisce cosa è successo |
| Approvare l'estensione a nuovi sistemi | Un agente che guadagna accessi cambia profilo di rischio |
| Rispondere del risultato davanti alla direzione | È la parte che rende la responsabilità reale |
L'owner è una figura di business. Chi risponde di un agente che gestisce i solleciti di pagamento sta nella funzione amministrativa, con il supporto dell'IT sulla parte tecnica, perché le conseguenze di un sollecito sbagliato ricadono sul rapporto con il cliente e non sull'infrastruttura.
L'inventario degli agenti
Serve un elenco separato da quello dei sistemi AI generici, perché le informazioni da tenere sono diverse. Per ogni agente vanno registrati scopo, owner, sistemi su cui può scrivere, dati a cui accede, limiti di autonomia, modalità di arresto, ambiente in cui gira.
La parte che viene dimenticata più spesso è l'elenco dei sistemi su cui l'agente può agire, che è anche quella che distingue i profili di rischio: un assistente che legge documenti espone informazioni, mentre un agente che modifica un ordine o invia una comunicazione a un cliente produce effetti operativi e contrattuali difficili da annullare.
Quale framework serve davvero alla tua azienda?
L'AI Rating misura la maturità sulle quattro aree del modello e indica da dove partire, con priorità e sforzo stimato.
Avvia il tuo AI RatingIdentità e permessi
Un agente che usa le credenziali di una persona rende impossibile distinguere le azioni dell'uno da quelle dell'altra. È il problema di fondo che rende inutile buona parte del logging: i registri esistono e attribuiscono tutto a un account umano che in quel momento stava facendo altro.
La direzione giusta è l'identità dedicata per ogni agente, con permessi minimi e separati per ambiente, e richiede lavoro sull'infrastruttura di identità che va messo nel budget del progetto invece di emergere a metà strada. Raramente compare nelle stime iniziali.
Quando l'agente ricade in Allegato III
Se un agente opera dentro un caso d'uso ad alto rischio, gli obblighi sull'alto rischio si applicano a quel caso d'uso. Un agente che smista candidature sta nella gestione del personale, e la classificazione non cambia perché il sistema si chiama assistente.
C'è un secondo passaggio da conoscere. Un deployer che usa un agente in modo diverso da quanto previsto dal fornitore può diventare fornitore di un sistema ad alto rischio, con gli obblighi che ne derivano. La distinzione tra uso previsto e uso effettivo va documentata, e il posto dove farlo è il registro dei sistemi.
Da dove partire
Il punto di ingresso è l'inventario dei sistemi AI, esteso agli agenti con i campi aggiuntivi descritti sopra.
I criteri per capire se un progetto agentico ha senso sono in PoC con agenti AI, mentre l'inquadramento generale è in agenti AI in azienda.
Per capire quali agenti sono attivi nella tua organizzazione e chi ne risponde puoi fissare un incontro di valutazione.