Salta al contenuto
Ufficio Lo.Gi.Co.Ufficio Lo.Gi.Co. Assistenza
← Tutte le risorse

Dati e fonti · 9 MIN DI LETTURA

Un assistente AI sui documenti aziendali: fonti, permessi e risposte verificabili

Un assistente utile deve sapere dove cercare e quando fermarsi. Documenti ordinati, autorizzazioni e verifiche contano quanto il modello.

A cura di Ufficio Lo.Gi.Co.

3 fonti consultabili ↓
Illustrazione tecnica: Prima la fonte, poi la risposta. Archivio governato; Accesso filtrato; Contesto pertinente; Risposta verificabile.
SCHEMA CONCETTUALE / UFFICIO LO.GI.CO.

Un assistente sui documenti aziendali può ridurre il tempo necessario per trovare una procedura o confrontare informazioni. Il risultato dipende però da ciò che il sistema recupera, dai permessi applicati e da come presenta le fonti. Collegare un modello a una cartella non crea automaticamente una base di conoscenza affidabile. Il progetto comincia dall’archivio e dalle domande reali delle persone.

Che cosa significa RAG

Con retrieval augmented generation, o RAG, una fase di ricerca recupera contenuti pertinenti e li fornisce al modello come contesto per la risposta. La documentazione Microsoft descrive questo collegamento fra recupero e generazione. Non equivale ad addestrare da zero un modello sui dati aziendali, né garantisce che ogni risposta sia corretta soltanto perché contiene informazioni recuperate.

Per una PMI il vantaggio pratico può essere una risposta accompagnata da riferimenti controllabili. Un utente chiede come aprire una pratica; l’assistente individua la procedura pertinente e ne indica la versione. Se i documenti sono contraddittori o incompleti, il sistema deve poter segnalare il limite anziché inventare una sintesi apparentemente definitiva.

Iniziare da una raccolta governabile

Il primo perimetro dovrebbe avere proprietari identificabili e documenti relativamente stabili. Procedure interne, manuali autorizzati o schede di servizio possono essere un punto di partenza, se l’uso è coerente con i diritti e le regole aziendali. Inserire subito ogni file disponibile aumenta il rumore e rende più difficile capire l’origine di un errore.

Servono versione, stato e data di aggiornamento quando pertinenti. Un documento superato può essere utile per uno storico, ma non dovrebbe essere proposto come istruzione corrente senza contesto. La qualità della ricerca dipende anche da struttura, metadati e trattamento degli allegati. Il lavoro sull’archivio produce spesso benefici indipendenti dall’assistente.

Rendere ricercabili istruzioni, tabelle e riferimenti

La preparazione dei documenti deve preservare il significato, non soltanto estrarre caratteri. Una procedura può contenere un titolo che definisce il perimetro, una tabella con condizioni e una nota che introduce un’eccezione. Se questi elementi vengono separati male, il motore può recuperare una frase apparentemente pertinente ma priva del vincolo che la rende corretta. La dimensione dei frammenti va verificata sul materiale reale, non scelta perché un valore ha funzionato in una dimostrazione.

Mantieni con ogni frammento riferimenti al documento, alla sezione e alla versione. Per tabelle, conserva intestazioni e unità insieme ai valori. Un numero senza colonna può essere scambiato per prezzo, quantità o durata. Per procedure lunghe, rendi recuperabili prerequisiti e conseguenze del passaggio, evitando che il sistema suggerisca un’azione intermedia senza le condizioni iniziali. L’obiettivo non è inserire l’intero archivio in ogni richiesta, ma consegnare un contesto sufficiente e pertinente.

La ricerca semantica e quella per termini esatti rispondono a bisogni differenti. Un utente può scrivere «stampante ferma» mentre il documento usa «interruzione del servizio di stampa»; viceversa, un codice modello, un numero di pratica o una sigla richiedono precisione letterale. La documentazione Microsoft descrive strategie di recupero da combinare nel progetto RAG. [1] Il confronto va fatto sulle domande del pilota, osservando quali fonti vengono trovate e quali restano escluse.

Se l’archivio contiene scansioni, verifica prima l’estrazione. Una ricerca sofisticata non recupera correttamente un codice che l’OCR ha trasformato in un’altra stringa. Il lavoro di preparazione comprende quindi campioni visuali, controlli sui campi e gestione delle pagine non leggibili. La guida alle versioni dei documenti RAG approfondisce il mantenimento dell’indice nel tempo.

I permessi precedono la risposta

La ricerca deve rispettare ciò che l’utente può vedere. Non è sufficiente chiedere al modello, tramite una frase, di mantenere riservati alcuni documenti dopo averglieli già consegnati. Il controllo degli accessi va applicato nei componenti che recuperano e forniscono il contesto, con verifiche coerenti sul risultato.

Un esempio ipotetico: un dipendente chiede informazioni sulle condizioni commerciali. Se può consultare soltanto il listino pubblico, il sistema non deve usare un accordo riservato per costruire una risposta “più precisa”. La qualità non consiste nel trovare qualunque dato disponibile, ma nel restituire informazioni pertinenti e autorizzate per quella persona.

Schema di verifica: Prima la fonte, poi la risposta. Archivio governato; Accesso filtrato; Contesto pertinente; Risposta verificabile.

La qualità della risposta dipende dalla raccolta autorizzata, dal recupero pertinente e dalla verifica del legame fra affermazione e fonte.

Leggi lo schema
  1. Archivio governatoVersioni, proprietari e documenti ammessi
  2. Accesso filtratoSolo fonti consultabili dall’utente
  3. Contesto pertinentePassaggi con riferimenti e condizioni
  4. Risposta verificabileCitazioni utili o escalation motivata

La verifica: Le fonti autorizzate sostengono davvero la conclusione richiesta?

Se no, dichiara il limite e chiedi il dato mancante o passa al referente.

I documenti sono dati, non istruzioni operative

OWASP richiama il rischio di prompt injection: contenuti non affidabili possono tentare di influenzare il comportamento del modello. [3] In un assistente documentale, il testo recuperato va trattato come materiale da analizzare, non come autorità che modifica regole o autorizza azioni. Questo confine deve essere sostenuto dall’architettura, oltre che dalle istruzioni al modello.

Il rischio diventa più rilevante se l’assistente dispone di strumenti operativi. Una prima versione di sola consultazione può limitare la superficie di azione, mantenendo comunque necessari controlli di accesso e qualità. Le capacità di modifica vanno introdotte separatamente, con permessi e verifiche proporzionati alle conseguenze.

Separare l’errore di ricerca dall’errore di risposta

Quando una risposta è sbagliata, occorre capire quale fase ha fallito. La fonte corretta potrebbe non essere nell’archivio, essere stata esclusa dai permessi, non essere stata trovata dalla ricerca oppure essere arrivata al modello ma interpretata male. Questi casi richiedono interventi diversi. Modificare il prompt per compensare un documento assente rischia di migliorare la forma senza correggere la mancanza di evidenza.

Per ogni domanda del collaudo conserva i riferimenti alle fonti attese e a quelle effettivamente recuperate, limitando il contenuto sensibile nelle tracce. Se la ricerca trova la procedura giusta ma il modello trascura un’eccezione, lavora su struttura e generazione. Se trova una versione vecchia, verifica metadati e ciclo di aggiornamento. Se non trova nulla per un termine comune, analizza lessico, indicizzazione e criteri di ordinamento.

Una citazione può essere corretta come indirizzo e insufficiente come prova. Per esempio, un manuale generale non sostiene necessariamente una risposta sulle condizioni specifiche di un contratto. Il collaudo deve associare ogni affermazione decisiva al passaggio che la giustifica, evitando che un elenco di link crei soltanto l’impressione di rigore. Quando fonti autorizzate si contraddicono, il sistema dovrebbe dichiararlo e indicare chi può chiarire quale prevalga.

Nella costruzione del set di valutazione AI è utile distinguere questi tipi di errore. Una metrica unica di soddisfazione non mostra se il sistema sta rispettando accessi, versioni e pertinenza. La documentazione sul RAG descrive il contesto recuperato come supporto alla generazione, non come garanzia automatica di verità. [2]

Preparare risposte senza fonte e domande fuori perimetro

Un assistente aziendale deve avere un comportamento utile anche quando non può rispondere. «Non lo so» può essere corretto, ma spesso manca l’indicazione pratica successiva. Il sistema può spiegare quale informazione non è disponibile, chiedere un elemento necessario o indirizzare al referente del documento. Deve evitare di confondere assenza di evidenza con prova che un servizio o una regola non esistano.

Considera un utente che chiede il tempo garantito di sostituzione di un dispositivo. Se il sistema dispone soltanto di una pagina commerciale indicativa e non del contratto pertinente, non dovrebbe trasformare la frase trovata in una promessa applicabile a quel cliente. Può riportare il riferimento generale, chiarire il perimetro e proporre la verifica del documento contrattuale autorizzato. La risposta resta utile proprio perché distingue informazione pubblica e impegno specifico.

Anche le domande troppo ampie vanno scomposte. «Come metto in sicurezza l’azienda?» può diventare una richiesta di scegliere fra identità, postazioni, rete o recupero dei dati. Il bot aiuta a delimitare il problema senza fingere di aver analizzato sistemi che non vede. Un’interfaccia che mostra le aree coperte dall’archivio rende più comprensibile il limite prima ancora della domanda.

Il passaggio a una persona deve trasferire domanda, fonti già consultate e motivo dell’escalation, con un’azione esplicita dell’utente quando comporta invio di informazioni. Non occorre allegare automaticamente l’intera conversazione. Il principio è conservare il contesto utile e ridurre quello superfluo, così il referente può riprendere il lavoro senza chiedere di ricominciare da zero.

Gestire latenza, costi e manutenzione come parti del servizio

Un assistente documentale coinvolge acquisizione, ricerca, generazione e interfaccia. Il tempo percepito deriva dall’intera catena. Misura separatamente le fasi, includendo code, errori e ritentativi. Se la risposta richiede troppo tempo perché vengono inviati documenti interi, cambiare soltanto modello può non risolvere il problema. Se la ricerca è rapida ma restituisce materiale poco pertinente, ridurre la latenza non migliora la qualità.

La cache deve rispettare identità, permessi e versione delle fonti. Una risposta generata per una persona autorizzata non può essere riutilizzata indiscriminatamente per un’altra. Anche quando il contenuto è pubblico, occorre invalidare o rivedere risultati basati su documenti modificati. Il risparmio ottenuto evitando una chiamata non giustifica la distribuzione di informazioni superate o riservate.

Assegna un proprietario alla raccolta e uno al servizio tecnico. Il primo decide quali documenti sono correnti e chi può usarli; il secondo mantiene acquisizione, accessi, monitoraggio e componenti. Quando un file viene eliminato, sostituito o reso riservato, il cambiamento deve raggiungere anche l’indice e le eventuali copie operative. Non basta aggiornare la cartella principale lasciando il vecchio materiale nei sistemi di ricerca.

La consegna del pilota comprende un inventario delle fonti, una matrice degli accessi, domande di collaudo e criteri per fermare risposte inaffidabili. Il progetto AI guidato aiuta a definire il primo perimetro; l’implementazione richiede poi verifiche sull’archivio effettivo. Il risultato sostenibile è un servizio che continua a trovare e spiegare informazioni autorizzate anche quando cambiano persone e documenti.

Nel verbale del pilota includi domande con fonte attesa e ruolo dell’utente. Una stessa domanda può richiedere risposte diverse perché un dipendente e un responsabile hanno accessi differenti. Il test non deve confrontare soltanto il testo generato: deve verificare quali documenti siano entrati nel contesto e se i collegamenti finali rispettino il medesimo perimetro. Una risposta corretta ottenuta usando una fonte non autorizzata resta un fallimento del controllo.

Aggiungi un caso con documento ritirato e uno con due procedure contraddittorie. Nel primo il sistema deve smettere di usare il contenuto secondo il processo di aggiornamento previsto; nel secondo deve rendere visibile il conflitto o passare al referente. Queste prove collegano qualità della risposta e manutenzione dell’archivio. Non cercano una percentuale astratta di accuratezza, ma dimostrano come il servizio si comporti quando le informazioni reali cambiano o non consentono una conclusione unica.

Dalla guida a una verifica concreta.

Prepara tre domande con fonte nota, una senza risposta e una su un documento non autorizzato. Verifica separatamente citazione, astensione e permessi: un testo convincente non dimostra che il recupero delle fonti sia corretto.

Risorse utili e progetti ufficiali
  • Promptfoo

    Progetto open source. Framework per valutazioni ripetibili. Le chiamate a modelli esterni possono avere costi e trasferire dati.

  • OWASP — Excessive Agency

    Documentazione pubblica. Rischi delle azioni delegate agli agenti AI e criteri per limitarne poteri e ambito.

I link ai repository identificano il progetto di origine, non una garanzia di sicurezza. Verifica licenza, manutenzione e compatibilità prima di adottare software. I siti esterni applicano le proprie regole sui dati.

RIFERIMENTI / TRASPARENZA

Le fonti. I limiti. Il contesto.

Questa guida collega indicazioni pratiche alla documentazione dei produttori e degli organismi citati. Versione del prodotto, licenze e configurazione possono cambiare il comportamento descritto.

  1. Microsoft — Retrieval augmented generation in Azure AI Search ↗learn.microsoft.com
  2. Microsoft — Retrieval augmented generation ↗learn.microsoft.com
  3. OWASP — Prompt Injection ↗genai.owasp.org

Le indicazioni vanno applicate da persone autorizzate dopo aver verificato l’ambiente. Le immagini sono rappresentazioni concettuali.

Uso consapevole · limiti e responsabilità

Le guide e gli esempi hanno finalità informative. Non offriamo una garanzia di assenza di errori, continuità o idoneità a uno scopo specifico. Verifica il risultato prima di utilizzarlo e conserva copie degli originali.

L’uso avviene a tuo rischio e sotto la tua responsabilità, nei limiti consentiti dalla legge. Restano salvi i diritti e le responsabilità inderogabili. Queste indicazioni non sostituiscono un incarico professionale, un collaudo o una valutazione del tuo ambiente.

Esegui esempi soltanto su dati sintetici o copie autorizzate, dopo averne compreso gli effetti. La cancellazione dalla sessione rimuove i risultati dalla pagina: non revoca copie, download o appunti e non certifica la cancellazione sicura della memoria.

Porta il ragionamento nel tuo contesto.

Prepara i dati del tuo ambiente e le priorità. Il confronto parte già dalle domande utili.

CONTINUA IL PERCORSO

UFFLOG BOT / IL TUO PROSSIMO PASSO

Partiamo da ciò che ti serve.

Dove vuoi arrivare?

Per un progetto già definito, parliamone direttamente ↗