Definisci che cosa viene approvato
Distingui tra accettare una bozza, autorizzare una modifica e confermare che un’azione già eseguita sia corretta. Questi controlli avvengono in momenti diversi. Per un invio esterno, una revisione successiva non impedisce che il messaggio sbagliato raggiunga il destinatario.
Scrivi la decisione precisa affidata alla persona: “verificare cliente, importo e allegato prima dell’invio” è controllabile; “controllare l’AI” è troppo generico. Assegna un responsabile e un sostituto. Se nessuno può decidere entro il tempo utile, il sistema deve avere un comportamento dichiarato: attendere, fermarsi o passare a un processo alternativo.
Le informazioni che servono al revisore
Fai scorrere la tabella per confrontare tutte le colonne.
| Elemento | Perché serve | Esempio |
|---|---|---|
| Azione proposta | Rende esplicita la conseguenza | Inviare questa email a questo contatto |
| Dati e fonte | Consente un controllo indipendente | Importo estratto con il passaggio del documento |
| Differenze | Evita di rileggere un record intero | Indirizzo precedente e nuovo indirizzo |
| Motivo della revisione | Orienta l’attenzione | Codice cliente non univoco |
| Scelte reali | Permette di fermare o correggere | Approva, modifica, rifiuta, chiedi chiarimenti |
Esempio illustrativo: una risposta con un’offerta commerciale
L’AI prepara una risposta usando una richiesta ricevuta e un’offerta nel CRM. Il revisore vede destinatario, prodotto, importo, validità e allegato. Una differenza tra l’offerta attuale e quella citata nel messaggio viene evidenziata. Finché la persona non approva, il sistema conserva una bozza e non invia.
Se nel frattempo l’offerta cambia, l’approvazione non dovrebbe valere per una versione diversa. Associa quindi la decisione ai dati verificati e controlla di nuovo le condizioni rilevanti prima dell’azione. Questo evita che una revisione corretta diventi un’autorizzazione aperta a modifiche successive.
Dimensiona il lavoro umano e prova le assenze
Misura quanti casi arrivano alla coda, quanto tempo richiedono e quanti tornano indietro. Se il volume supera la capacità di revisione, gli utenti possono accumulare arretrato o approvare troppo velocemente. La soluzione può essere restringere il perimetro, migliorare i dati o cambiare la schermata, non necessariamente ridurre i controlli.
Prova casi con revisore assente, doppia approvazione, rifiuto e scadenza. Un rifiuto deve impedire l’azione anche se un processo viene ritentato. Conserva chi ha deciso, su quale versione e con quale esito, senza raccogliere più contenuto di quanto serva a ricostruire il processo.
Una politica di revisione applicabile
OWASP raccomanda di limitare autonomia e permessi e prevedere controllo umano per azioni rilevanti. L’applicazione concreta qui proposta va adattata al processo. La revisione non sostituisce le verifiche di accesso né rende automaticamente adatto all’automazione un compito dalle conseguenze elevate.
- Elenca le azioni che richiedono approvazione preventiva e quelle ammesse entro limiti precisi.
- Definisci evidenze, competenze e poteri del revisore.
- Stabilisci scadenza, sostituzione e comportamento quando nessuno interviene.
- Controlla nel software che l’azione eseguita corrisponda a quella approvata.
- Rivedi errori sfuggiti, correzioni, tempi e arretrato insieme al team operativo.
Un modello su cui lavorare.
Piano di revisione umana
Regole di instradamento e approvazione con responsabili, informazioni da mostrare, tempi di gestione e comportamento in assenza del revisore.
Scarica il modello MarkdownMatrice dei permessi AI
Una matrice identità–risorsa–operazione, con motivazione, approvatore, verifiche negative e procedura di revoca.
Scarica il modello MarkdownRegistro delle eccezioni
Una coda di eccezioni con stato, priorità, responsabile e prova di chiusura; le ricorrenze alimentano il miglioramento del flusso.
Scarica il modello MarkdownDomande pratiche
Basta revisionare i casi con bassa confidenza?
Non sempre. La confidenza dichiarata dal modello non è automaticamente calibrata. Usa anche criteri verificabili: azione richiesta, importo, dati mancanti, conflitti e risultati delle prove.
La revisione può essere a campione?
Per alcuni compiti può essere un controllo di qualità utile, ma non impedisce l’errore sui casi non revisionati. Valuta conseguenze, reversibilità e controlli prima di sostituire un’approvazione preventiva.
Come evitiamo di creare più lavoro?
Mostra soltanto le informazioni necessarie alla decisione, evidenzia le differenze e misura il tempo completo, comprese correzioni e interruzioni. Se il beneficio non emerge, ridisegna o restringi il processo.
Riferimenti e metodo
Riferimento sui limiti all’autonomia, sui permessi minimi e sulle approvazioni per azioni rilevanti. Il caso commerciale è illustrativo.