Scegliere domande alle quali l’archivio può rispondere.
Un buon primo perimetro è una famiglia di domande: come aprire un intervento, quale checklist usare per una macchina o come richiedere una trasferta. Per ogni domanda verifichiamo che esista una fonte approvata, aggiornata e comprensibile. Se la procedura vive solo nella testa di un collega, occorre documentarla prima.
RAG indica un approccio nel quale il sistema recupera passaggi pertinenti prima di generare la risposta. Non equivale a rendere vero tutto ciò che il modello scrive. La ricerca può trovare la versione sbagliata, il testo può essere ambiguo e una citazione può non sostenere la frase a cui viene associata.
Esempio: quale procedura seguire per un reso?
Scenario illustrativo: un addetto chiede come gestire un reso di un prodotto fuori catalogo. L’assistente trova la procedura corrente, mostra la data di revisione e indica il passaggio che richiede il referente commerciale. Se trova soltanto una versione archiviata, segnala il limite invece di presentarla come istruzione vigente.
| Domanda o condizione | Esito atteso |
|---|---|
| Risposta presente nella procedura corrente | Sintesi con collegamento al passaggio pertinente |
| Due istruzioni in conflitto | Conflitto esplicito e referente da coinvolgere |
| Informazione fuori dall’archivio approvato | Dichiarazione di mancanza della fonte |
| Documento non autorizzato per l’utente | Nessun recupero, estratto o citazione di quel documento |
I permessi precedono la generazione della risposta.
La visibilità va verificata durante il recupero dei documenti. Chiedere al modello di non rivelare un contenuto già ricevuto non sostituisce un controllo degli accessi. Il progetto deve considerare anche estratti, collegamenti, cache e conversazioni precedenti quando cambia l’autorizzazione di una persona.
La documentazione Azure descrive filtri per limitare i risultati in base agli identificativi di utenti o gruppi e chiarisce che un filtro non autentica da solo l’utente. Occorre quindi collegare la ricerca all’identità verificata nell’applicazione. La scelta concreta dipende dall’archivio e dagli strumenti disponibili.
Dal registro delle fonti a una prova osservabile.
Curare il primo archivio
Assegniamo proprietario, stato, data di revisione e pubblico a ogni raccolta. Definiamo esclusioni e cosa accade quando un documento viene sostituito o cancellato.
Preparare domande e risposte attese
Il team fornisce domande frequenti, casi senza risposta, richieste ambigue e domande riservate. Verifichiamo ricerca, contenuto della risposta, citazioni e rifiuti separatamente.
Avviare con un gruppo ristretto
Raccogliamo domande non risolte e correzioni, senza accumulare conversazioni inutilmente. Ogni problema viene assegnato alla fonte, al recupero o alla risposta, così la correzione riguarda la causa.
Progettare anche le risposte che non deve dare.
Documenti esterni possono contenere istruzioni che tentano di deviare il modello. OWASP segnala che il recupero documentale non elimina questo rischio. Nel perimetro iniziale manteniamo separate consultazione e azioni sugli strumenti, e proviamo anche documenti con contenuti avversi.
Se l’obiettivo è trovare un codice esatto in una tabella, una ricerca tradizionale può bastare. Se il team vuole risposte operative ma nessuno aggiorna le procedure, un assistente amplifica il problema. Il preventivo deve includere la gestione delle fonti e una regola chiara per i casi senza risposta.
Un modello su cui lavorare.
Registro delle fonti dell’assistente AI
Un catalogo delle fonti autorizzate con versione valida, pubblico ammesso, ciclo di aggiornamento e test di reperibilità.
Scarica il modello MarkdownMatrice dei permessi AI
Una matrice identità–risorsa–operazione, con motivazione, approvatore, verifiche negative e procedura di revoca.
Scarica il modello MarkdownDataset di valutazione AI
Un registro di casi con risultati attesi verificati, criteri di giudizio e un insieme separato per il controllo finale.
Scarica il modello MarkdownDomande pratiche
Possiamo collegare tutto il Drive o SharePoint?
Prima vanno verificate struttura, permessi, versioni e accessi disponibili. Il primo progetto usa raccolte delimitate. La presenza di un connettore non dimostra che erediti correttamente ogni autorizzazione o cancellazione.
Come sappiamo se l’assistente inventa una risposta?
Valutiamo un campione con risposte note e domande senza risposta. I revisori controllano se ogni affermazione è sostenuta dalla fonte indicata. Un collegamento visibile è utile, ma non è da solo una garanzia di correttezza.
Riferimenti e metodo
Riferimento per filtrare i risultati secondo l’identità; autenticazione e aggiornamento dei permessi restano requisiti applicativi.
Rischio di istruzioni malevole nei documenti consultati da un modello.