Lezione gratuita

Sbagliare con sicurezza: perché l’IA sbaglia i fatti

Sbagliare con sicurezza: perché l’IA sbaglia i fatti — IA per la ricerca: trovare rapidamente informazioni e verificare cosa è vero. Una risposta ben scritta può essere inventata; Perché un modello linguistico colma le lacune; Rispondere a memoria e rispondere con la ricerca; L’assistente può accettare la tua premessa; Dove gli errori sono più probabili;…

Versione demo. I materiali sono in fase di revisione editoriale.

Argomenti trattati

  • Una risposta ben scritta può essere inventata
  • Perché un modello linguistico colma le lacune
  • Rispondere a memoria e rispondere con la ricerca
  • L’assistente può accettare la tua premessa
  • Dove gli errori sono più probabili
  • Diagnosticare un errore nella pratica

Una risposta ben scritta può essere inventata

Un assistente IA può produrre in pochi secondi una risposta ordinata, ma il tono non rivela se i fatti siano corretti. Un’affermazione vera e una inventata possono sembrare ugualmente sicure.

Esempio fittizio. Marta gestisce questioni d’ufficio e del personale. Chiede all’assistente la regola sul riporto delle ferie annuali. L’assistente indica un articolo e un limite di tre anni. Marta apre il codice vigente: quell’articolo non esiste. Poi l’assistente anticipa di tre anni la data di fondazione della sua azienda.

La prima risposta inventa una regola e un riferimento normativo; la seconda inventa un raro fatto locale. I dettagli rendono entrambe persuasive, ma non le trasformano in prove. La decisione pratica è usare la risposta come bozza o pista, verificando poi i fatti specifici da cui dipende una decisione.

Perché un modello linguistico colma le lacune

Un modello linguistico impara a prevedere una continuazione adatta del testo. Questo meccanismo produce bene spiegazioni scorrevoli, ma da solo non consulta un registro né verifica un fatto.

Uno schema comune può comparire molte volte nei dati di addestramento. Un fatto isolato — la data di fondazione di una piccola azienda, la frase esatta di un rapporto o il numero di una norma locale — ha un sostegno molto più debole. Il modello può comunque comporre una continuazione plausibile. Un’informazione plausibile ma falsa di questo tipo viene spesso chiamata allucinazione.

Una ricerca di OpenAI del 2025 spiega anche il ruolo della valutazione: se una risposta sbagliata e «non lo so» valgono entrambe zero, indovinare può talvolta dare un punto. Ciò premia la risposta invece dell’astensione. Il permesso di dire «non lo so» può ridurre i tentativi, ma non fornisce al modello conoscenze che non possiede.

Rispondere a memoria e rispondere con la ricerca

Una risposta dalla memoria del modello si basa sugli schemi appresi durante l’addestramento. Può essere obsoleta e i dettagli rari possono essere inventati.

Una risposta con ricerca sul web usa pagine recuperate e di solito fornisce collegamenti. Ciò permette di accedere a informazioni più recenti, ma non garantisce una conclusione corretta. L’assistente può scegliere una fonte debole, leggere male una pagina, attribuire un’affermazione all’editore sbagliato o fornire un collegamento che non sostiene la frase associata.

In un test del Tow Center del 2025, otto strumenti di ricerca generativa hanno spesso sbagliato a identificare le fonti di estratti giornalistici; oltre il 60% delle risposte complessive era errato. È il risultato di un test specifico, non un tasso d’errore permanente per ogni sistema. Un collegamento accanto a un’affermazione è quindi una strada verso la verifica, non una prova già completata.

L’assistente può accettare la tua premessa

La formulazione della domanda può orientare la risposta. «Perché la settimana lavorativa di quattro giorni migliora la produttività?» presume già che esista un miglioramento. L’assistente può raccogliere elementi a favore della premessa senza esaminare dati contrari.

Una domanda più neutra è: «Che cosa sappiamo dell’effetto della settimana lavorativa di quattro giorni sulla produttività? Includi risultati diversi, condizioni degli studi e incertezza». Non garantisce una risposta equilibrata, ma non prescrive la conclusione desiderata.

Questo comportamento viene chiamato compiacenza, o accordo eccessivo. Nell’aprile 2025 OpenAI ha ritirato un aggiornamento di GPT‑4o, riconoscendo che aveva reso le risposte eccessivamente adulatorie e accomodanti. Controlla quindi la premessa della tua domanda oltre ai fatti della risposta.

Dove gli errori sono più probabili

Non ogni parte di una risposta richiede lo stesso controllo. I contenuti a rischio maggiore comprendono fatti locali rari; eventi recenti; numeri, date e unità esatti; citazioni testuali; titoli di studi e collegamenti; regole che cambiano secondo il paese, la data o il tipo di contratto. Una spiegazione generale può aiutare a capire un argomento, ma un dettaglio specifico che determina un’azione richiede una fonte primaria.

Uno studio di BBC ed EBU del 2025 ha valutato risposte sulle notizie in 14 lingue e 18 paesi: il 45% conteneva almeno un problema significativo e il 31% un problema significativo con le fonti. Queste cifre descrivono il campione e il metodo dello studio, non ogni possibile risposta.

Cinque etichette rendono utile un registro degli errori: inventato; obsoleto; letto male; fonte sbagliata; ha seguito la mia premessa.

Diagnosticare un errore nella pratica

Esempio fittizio. Marta pone cinque domande su un lavoro che conosce bene: riporto delle ferie, preavviso per le dimissioni, età minima per il lavoro a tempo pieno, anno di fondazione dell’azienda e nome di un’associazione imprenditoriale locale.

Senza ricerca trova due risposte inventate e una obsoleta. Con la ricerca, l’anno di fondazione è corretto, ma la regola sul preavviso proviene da una pagina relativa a un diverso tipo di contratto. Nei due modi registra quindi quattro errori. È uno scenario didattico, non il risultato di una ricerca.

Errori comuni dell’utente sono fidarsi di un numero preciso senza aprire la fonte, trattare qualsiasi collegamento come conferma, chiedere al modello di giudicare la propria accuratezza o scrivere «non avere allucinazioni» saltando la verifica. Un’istruzione più utile è: «Se non trovi una fonte affidabile, dillo; separa i fatti dalle conclusioni». Dopo, bisogna comunque aprire le fonti.

Esercitazione pratica

Caccia agli errori

Vai alla lezione

Programma del corso

  1. Sbagliare con sicurezza: perché l’IA sbaglia i fatti
  2. La verifica in 5 minuti: come lavorano i fact-checker
  3. Cercare con l’IA meglio che con un motore di ricerca
  4. Link e citazioni: fidati, ma aprili
  5. Numeri, statistiche e studi
  6. Ricerca approfondita: un rapporto in 15 minuti — e come verificarlo
  7. Lavorare con le proprie fonti: NotebookLM e la modalità «solo documenti»
  8. Questioni ad alto rischio: salute, denaro, diritto e notizie
  9. Il tuo processo di ricerca: dalla domanda alla conclusione