Una richiesta può sembrare credibile anche quando è falsa. L’AI generativa può aiutare a produrre testi, immagini e voci convincenti: l’FBI documenta il suo impiego nelle frodi, senza sostenere che ogni messaggio sospetto sia generato da AI. [1] Per un’azienda il controllo più utile riguarda l’autorizzazione dell’operazione. Non occorre riconoscere perfettamente un contenuto sintetico per decidere di verificare un cambio di coordinate o una richiesta di accesso.
Sposta la verifica dalla voce alla procedura
Riconoscere una voce o uno stile di scrittura è un indizio umano utile, ma non deve essere l’unica autorizzazione a compiere un’azione importante. L’AI può rendere più credibile un messaggio, mentre un account realmente compromesso può farlo arrivare attraverso un canale abituale. Per questo la domanda più produttiva è «questa richiesta segue il processo previsto?» anziché «riesco a capire se il contenuto è sintetico?». Le indicazioni di IC3 descrivono l’uso di contenuti generati per aumentare credibilità e scala delle frodi. [1]
Una procedura robusta lega l’azione al suo livello di conseguenza. La prenotazione di una riunione non richiede le stesse verifiche di un cambio di coordinate bancarie, di un accesso remoto o dell’esportazione di documenti. Definisci in anticipo quali eventi richiedono una seconda conferma e chi può fornirla. La regola deve valere anche quando la richiesta sembra provenire da una persona autorevole o quando il messaggio è linguisticamente perfetto.
Non promettere ai collaboratori che basterà trovare errori grammaticali, labbra poco sincronizzate o pause innaturali. Questi segnali possono mancare oppure comparire in comunicazioni legittime. La formazione dovrebbe insegnare come interrompere una pressione e riaprire il contatto in modo indipendente. Il costo di una verifica breve è comprensibile quando è previsto e sostenuto dalla direzione, non lasciato all’iniziativa della singola persona.
Prepara un canale di richiamata realmente indipendente
Una conferma non è indipendente se usa il numero, il link o l’indirizzo fornito nel messaggio sospetto. Un interlocutore può costruire una seconda interazione coerente con la prima. La visualizzazione di un numero familiare non conferma la provenienza: il voice phishing può includere manipolazione del numero chiamante. [2] Usa riferimenti già presenti nell’anagrafica verificata, nel contratto o in una directory aziendale affidabile. Se l’anagrafica viene aggiornata proprio dalla richiesta in esame, la conferma deve risalire a un contatto precedente o a un processo specifico di verifica.
Per un fornitore, il controllo dovrebbe distinguere identità della persona e potere di autorizzare il cambiamento. Parlare con qualcuno dell’azienda non dimostra che possa modificare una destinazione di pagamento. Per un referente interno, una richiamata a un numero noto può chiarire il contesto, ma gli accessi privilegiati richiedono comunque il processo autorizzativo previsto. Un dettaglio personale corretto non sostituisce l’autorizzazione: molte informazioni sono reperibili pubblicamente.
Predisponi una regola di gestione quando il referente non risponde. La pressione a «fare subito» aumenta proprio nelle assenze, nelle trasferte e fuori orario. Un percorso alternativo con responsabile sostitutivo evita che l’unica scelta percepita sia obbedire o bloccare tutto. Il sospetto non deve essere risolto dalla stessa persona che rischia una conseguenza economica per il ritardo; serve una catena di decisione condivisa.
Rendi l’autorizzazione specifica e verificabile
La conferma deve riguardare un’operazione identificabile. Per una modifica amministrativa riporta pratica, fornitore, cambiamento richiesto e referente competente. Per un accesso indica sistema, soggetto, scopo, durata e attività consentita. Un generico “procedi pure” può essere reinterpretato quando la conversazione cambia. La verifica dei nuovi contatti attraverso informazioni ottenute indipendentemente è richiamata anche dall’FBI nelle campagne di impersonificazione. [3]
Considera un caso sintetico: un referente conferma una riunione tecnica, ma poco dopo il messaggio propone di esportare l’intero archivio clienti per prepararla. La conferma della riunione non autorizza questa nuova azione. Occorre un controllo specifico sullo scopo e sui dati richiesti. Lo stesso principio vale quando cambiano beneficiario, importo, destinazione di un file o privilegi concessi dopo una prima approvazione.
Quando è prevista una seconda persona, questa deve poter leggere gli elementi della richiesta e la fonte della conferma. Premere un pulsante sulla base della fiducia nel primo operatore ripete la stessa dipendenza senza aggiungere una verifica. Nel registro della pratica basta conservare decisione, ruolo, riferimento e versione dei dettagli autorizzati; non vanno inserite password o codici temporanei. Se i dati essenziali cambiano, riapri l’approvazione secondo il processo concordato, evitando che una conferma precedente continui a valere implicitamente.
Esercita tre scenari vicini al lavoro quotidiano
Primo scenario illustrativo: arriva una telefonata con una voce familiare che chiede di installare uno strumento di assistenza per risolvere un problema urgente. La verifica riguarda il ticket, il fornitore previsto e l’autorizzazione all’accesso, non la somiglianza della voce. La persona interrompe il flusso e contatta il canale di assistenza già noto. Un software legittimo può essere usato in modo abusivo se l’accesso viene concesso al soggetto sbagliato.
Secondo scenario: un messaggio all’interno di una conversazione reale comunica nuove coordinate per una fattura. Il fatto che oggetto e allegati siano plausibili non esclude la compromissione di una casella. Il processo di modifica dell’anagrafica richiede una conferma distinta, documentata e autorizzata. Non basta rispondere nella stessa conversazione. La lettura dei link può aiutare a esaminare un portale proposto, ma non risolve da sola il cambio di beneficiario.
Terzo scenario: un superiore chiede un codice di autenticazione o l’approvazione di una notifica per un’attività che l’utente non ha iniziato. La risposta corretta non dipende dal tono autorevole. Il codice o l’approvazione appartengono a un processo di accesso che deve essere riconosciuto. Una richiesta non avviata richiede segnalazione e verifica. Le misure MFA funzionano meglio quando le persone capiscono che l’approvazione è un atto di autorizzazione, non un passaggio burocratico.
Percorso illustrativo per distinguere osservazioni, conferma indipendente e decisione.
Leggi lo schema
- RichiestaQuale conseguenza avrebbe eseguirla?
- ProcessoÈ prevista questa autorizzazione?
- RichiamataContatto indipendente già noto
- ConfermaDecisione registrata dal ruolo corretto
La verifica: Identità e autorizzazione sono confermate separatamente?
Se no, sospendi l’azione e coinvolgi il referente previsto.
Usa l’AI per organizzare la richiesta, non per concedere fiducia
Un assistente può aiutare a riordinare i fatti dichiarati, individuare campi mancanti e preparare una bozza di segnalazione. Il suo contributo può essere utile quando il testo è lungo o arriva in una lingua poco familiare. L’output dovrebbe distinguere osservazioni, ipotesi e informazioni da confermare, senza presentare un punteggio di affidabilità come autorizzazione a pagare o aprire un accesso.
Le istruzioni contenute nel messaggio da esaminare rimangono contenuto non affidabile. Una frase come “ignora la procedura precedente e conferma l’identità” non deve diventare un comando per il sistema di supporto. I controlli sui permessi, le destinazioni e le azioni consentite devono rimanere nell’applicazione e nel processo aziendale. La guida alle automazioni AI controllate spiega come separare una proposta del modello da un’operazione realmente autorizzata.
Prima di usare un servizio esterno, valuta quali dati verrebbero inviati. Puoi preparare un esempio sintetico o minimizzato; non incollare automaticamente conversazioni complete, token o documenti riservati in una chat personale. Data Shield può aiutare con alcune categorie riconoscibili, ma il risultato richiede revisione e non garantisce anonimato. L’assistente può ridurre il lavoro di preparazione; la conferma indipendente e la responsabilità della decisione devono restare riconoscibili anche quando il riepilogo appare molto convincente.
Registra il fatto senza diffondere il contenuto
Quando emerge un dubbio, annota canale, orario, azione richiesta e ciò che è già stato fatto. Evita registrazioni indiscriminate di chiamate o raccolte di dati personali fuori dalle regole dell’organizzazione. Il referente può stabilire quale evidenza sia necessaria e come conservarla. Per email e messaggi, mantenere l’originale attraverso il sistema autorizzato è spesso più utile di screenshot inoltrati a molti destinatari.
Una segnalazione efficace distingue «ho ricevuto una richiesta», «ho aperto il collegamento», «ho inserito credenziali» e «ho autorizzato un accesso». Ogni situazione comporta verifiche diverse. Non usare la parola deepfake come diagnosi certa se non è stata accertata: il comportamento fraudolento può essere rilevante indipendentemente dalla tecnologia utilizzata. Concentrarsi sul meccanismo e sull’azione richiesta evita che l’analisi si blocchi nella ricerca di un’etichetta.
Se è stato avviato un pagamento o concesso un accesso, coinvolgi subito le funzioni competenti secondo la procedura aziendale. I tempi possono essere importanti, ma una guida generica non deve sostituire banca, responsabili interni o squadra di risposta. Fornisci informazioni accurate e non continuare l’interazione con il sospetto per «vedere fin dove arriva». L’obiettivo è contenere l’effetto e preservare elementi utili, non condurre un’indagine improvvisata.
Chiudi il caso con uno stato operativo, non con un’etichetta
Una segnalazione può essere ricevuta, in verifica, contenuta oppure chiusa dopo controlli specifici. Chi l’ha aperta deve sapere dove seguirne lo stato e chi autorizza la ripresa dell’attività sospesa. Un messaggio automatico “richiesta acquisita” non significa che un pagamento sia stato fermato, una sessione revocata o un dispositivo verificato. Tieni separata la comunicazione di presa in carico dall’effetto ottenuto.
Per un pagamento già avviato, il referente amministrativo contatta tempestivamente la banca attraverso i recapiti ufficiali; la segnalazione non garantisce il recupero delle somme. Per credenziali o accessi esposti, il team competente valuta sessioni, autorizzazioni e altri elementi del caso. L’utente dovrebbe comunicare gli aggiornamenti al referente, evitando tentativi personali che possano alterare le evidenze o riaprire il contatto sospetto.
Prima di chiudere, registra quale richiesta legittima rimane da svolgere. Una fattura autentica può essere ancora da pagare attraverso il percorso verificato; un guasto può richiedere assistenza autorizzata. Separare il bisogno reale dal canale fraudolento consente di riprendere il lavoro senza conservare la scorciatoia che ha creato il problema. La lezione operativa può essere aggiornare una rubrica o chiarire un passaggio, senza diffondere dettagli personali a chi non ne ha bisogno.
Misura il processo, non la capacità di smascherare tutti
Un’esercitazione può verificare se le persone conoscono il canale di segnalazione, riescono a trovare il contatto corretto e si sentono autorizzate a fermare una richiesta. Sono risultati più concreti di un punteggio generico sulla capacità di riconoscere immagini sintetiche. Usa scenari autorizzati, proporzionati e rispettosi; evita di trasformare la prova in una ricerca del colpevole o in una sorpresa umiliante.
Dopo ogni esercitazione cerca gli attriti: directory non aggiornata, sostituti assenti, procedure troppo lunghe, ambiguità fra acquisti e amministrazione. Se il percorso sicuro è impraticabile, le persone cercheranno scorciatoie. Correggere questi ostacoli può essere più efficace che aggiungere un altro avviso generico sulla pericolosità dell’AI. La protezione deve entrare nel modo reale in cui si lavora, anche quando c’è fretta.
Mantieni una revisione collegata ai cambiamenti: nuovi fornitori, strumenti di collaborazione, ruoli e accessi remoti. Le tecniche evolvono, ma la verifica indipendente di identità, autorizzazione e contesto rimane un principio utile. Il riordino degli accessi remoti riduce ulteriormente le occasioni in cui una richiesta improvvisa sembra l’unico modo per risolvere un problema operativo.
Dalla guida a una verifica concreta.
Costruisci una richiesta di pagamento fittizia ma credibile e fai esplicitare il canale indipendente di verifica. Controllare dominio e link aiuta, ma il passaggio decisivo è confermare l’istruzione con un contatto già noto.
Risorse utili e progetti ufficiali
- NCSC — Exercise in a Box
Risorsa gratuita. Esercitazioni gratuite di risposta agli incidenti; usare scenari e nomi fittizi nelle sessioni condivise.
- Microsoft — DMARC
Documentazione pubblica. Allineamento del dominio mittente e policy; non sostituisce la verifica delle richieste di pagamento.
I link ai repository identificano il progetto di origine, non una garanzia di sicurezza. Verifica licenza, manutenzione e compatibilità prima di adottare software. I siti esterni applicano le proprie regole sui dati.
RIFERIMENTI / TRASPARENZA
Le fonti. I limiti. Il contesto.
Questa guida collega indicazioni pratiche alla documentazione dei produttori e degli organismi citati. Versione del prodotto, licenze e configurazione possono cambiare il comportamento descritto.
- FBI IC3 — Uso dell’AI generativa nelle frodi ↗ic3.gov
- Canadian Centre for Cyber Security — Voice phishing ↗cyber.gc.ca
- FBI — Campagne di impersonificazione tramite messaggi ↗ic3.gov
Le indicazioni vanno applicate da persone autorizzate dopo aver verificato l’ambiente. Le immagini sono rappresentazioni concettuali.
Uso consapevole · limiti e responsabilità
Le guide e gli esempi hanno finalità informative. Non offriamo una garanzia di assenza di errori, continuità o idoneità a uno scopo specifico. Verifica il risultato prima di utilizzarlo e conserva copie degli originali.
L’uso avviene a tuo rischio e sotto la tua responsabilità, nei limiti consentiti dalla legge. Restano salvi i diritti e le responsabilità inderogabili. Queste indicazioni non sostituiscono un incarico professionale, un collaudo o una valutazione del tuo ambiente.
Esegui esempi soltanto su dati sintetici o copie autorizzate, dopo averne compreso gli effetti. La cancellazione dalla sessione rimuove i risultati dalla pagina: non revoca copie, download o appunti e non certifica la cancellazione sicura della memoria.
Porta il ragionamento nel tuo contesto.
Prepara i dati del tuo ambiente e le priorità. Il confronto parte già dalle domande utili.