L'intelligenza artificiale è affidabile? Sì per i testi, no per i fatti

Perché l'intelligenza artificiale può sbagliare

Un modello linguistico non consulta un archivio di fatti: genera la risposta più plausibile. Quando non sa, non dice "non lo so": costruisce una risposta verosimile. È ciò che si chiama allucinazione. Il caso più citato è quello di alcuni avvocati sanzionati negli Stati Uniti per aver depositato atti con precedenti inesistenti, inventati da un chatbot.

Quando è affidabile

Funziona bene quando lavora su materiale che le dai tu: riassumere un documento, riscrivere un testo, tradurre, mettere ordine in appunti, spiegare un concetto noto. Funziona meglio anche quando cerca sul web e cita le fonti, perché le puoi controllare.

Quando non lo è

È meno affidabile su numeri, date, citazioni, nomi, norme di legge, notizie recenti e calcoli complessi. E in tutto ciò che riguarda salute, soldi e questioni legali, dove un errore ha conseguenze: lì può aiutare a capire, ma non a decidere.

Perché sembra sicura anche quando sbaglia

L'AI non ha un "tono" diverso quando non sa: scrive sempre in modo fluido e convinto. Secondo una ricerca pubblicata da OpenAI nel settembre 2025, una parte del problema nasce da come i modelli vengono addestrati e valutati: i test premiano chi tira a indovinare più di chi ammette di non sapere, proprio come un compito in classe in cui la risposta in bianco vale zero. Per questo un modello tende a dare comunque una risposta, anche quando la cosa più onesta sarebbe dire "non lo so".

Tre errori che hanno fatto notizia

Nel febbraio 2023 Bard, il primo chatbot di Google, nel suo video di presentazione attribuì al telescopio James Webb la prima foto di un pianeta fuori dal sistema solare, che invece era stata scattata anni prima da un altro telescopio. Nel giugno 2023 un giudice di New York multò due avvocati che avevano citato in tribunale sentenze inventate da ChatGPT (caso Mata contro Avianca). Nel febbraio 2024 un tribunale canadese ha obbligato Air Canada a rimborsare un cliente a cui il chatbot della compagnia aveva promesso uno sconto per lutto con una regola di rimborso che non esisteva: l'azienda è responsabile di quello che dice il suo assistente.

L'intelligenza artificiale è sicura?

Sicurezza vuol dire anche dati. Ciò che scrivi a un chatbot viene elaborato sui server dell'azienda e, secondo le impostazioni, può essere usato per migliorare i modelli. Meglio non inserire dati personali altrui, documenti riservati o credenziali, e controllare le impostazioni sulla privacy.

Quanto sbaglia: i numeri

Due studi aiutano a misurarlo. Nell'ottobre 2025 22 servizi radiotelevisivi pubblici di 18 Paesi, coordinati da EBU e BBC, hanno controllato oltre 3.000 risposte di ChatGPT, Copilot, Gemini e Perplexity sulle notizie: il 45% conteneva almeno un errore importante, spesso nelle fonti citate. Nell'aprile 2025 OpenAI ha dichiarato che i suoi modelli o3 e o4-mini inventavano informazioni nel 33% e nel 48% delle risposte a un test di domande su persone reali. Sono prove diverse e i modelli cambiano in fretta, ma il messaggio è lo stesso: su fatti e notizie l'errore non è raro.

I quattro tipi di errore

Non tutti gli sbagli sono uguali. L'invenzione è il più noto: una sentenza, una citazione o un dato che non esistono. Poi ci sono gli errori di calcolo e di logica: un modello linguistico non fa i conti come una calcolatrice, li stima, e su passaggi lunghi può perdersi. Terzo, l'informazione superata: il modello conosce il mondo fino alla data in cui è stato addestrato, e senza una ricerca sul web non sa cosa è successo dopo. Infine i pregiudizi: se i testi su cui ha imparato sono sbilanciati, lo sono anche le risposte.

Cinque controlli prima di fidarti

1) Il tema è salute, soldi o legge? Allora la risposta è solo un punto di partenza. 2) Contiene numeri, date o nomi? Verificali su una fonte ufficiale. 3) Cita fonti? Apri i link e controlla che dicano davvero quello che l'AI riporta. 4) Riguarda fatti recenti? Controlla che lo strumento abbia cercato sul web. 5) Ti sembra troppo comoda? Rifai la domanda in un altro modo: se la risposta cambia, non è solida.

Come verificare una risposta

Chiedi le fonti e aprile. Controlla numeri e citazioni su un sito ufficiale. Rifai la domanda in un altro modo, o a un'altra AI: se le risposte cambiano, c'è da dubitare. E ricorda che una risposta ben scritta non è per forza una risposta giusta.

Domande frequenti

L'intelligenza artificiale può sbagliare?

Sì. Può inventare informazioni false presentandole con sicurezza, soprattutto su fatti, numeri e citazioni. Per questo le risposte vanno verificate.

Ci si può fidare di ChatGPT?

Per riassumere, riscrivere e spiegare sì, con un controllo finale. Per decisioni su salute, denaro e questioni legali serve sempre un professionista.

Quanto è attendibile l'intelligenza artificiale?

Molto quando lavora su testi che le dai tu, molto meno su fatti e notizie: in uno studio europeo del 2025 il 45% delle risposte sulle notizie conteneva almeno un errore importante. Va usata con una verifica finale.

L'intelligenza artificiale dice sempre la verità?

No. Non mente di proposito, ma genera la risposta più plausibile, e quando non sa può inventare con tono sicuro. Per questo conviene chiedere le fonti e aprirle.

Perché l'AI inventa le fonti?

Perché non cerca in un archivio ma genera il testo più probabile: un titolo di articolo o una sentenza "verosimili" possono uscire anche se non esistono. Le AI che cercano sul web e mostrano i link sbagliano meno, ma i link vanno comunque aperti.

Chi è responsabile se l'AI sbaglia?

Chi la usa e, in molti casi, chi la offre: nel 2024 un tribunale canadese ha dato torto ad Air Canada per una regola di rimborso inventata dal suo chatbot. Per questo le aziende serie chiedono sempre una verifica umana.

Fonti

• EBU e BBC, "News Integrity in AI Assistants" (ottobre 2025)
• OpenAI, scheda tecnica di o3 e o4-mini (aprile 2025)
• OpenAI, "Why language models hallucinate" (settembre 2025)
• Tribunale distrettuale di New York, Mata contro Avianca (giugno 2023)
• Civil Resolution Tribunal della British Columbia, Moffatt contro Air Canada (febbraio 2024)

Altri approfondimenti

L'intelligenza artificiale sostituirà l'uomo? I lavori a rischio e quelli noQuali lavori spariranno, quali cambiano e quali restano: cosa dicono i dati.L'intelligenza artificiale è pericolosa? Può davvero ribellarsi?Ribellione, estinzione, perdita di controllo: cosa c'è di vero e cosa no.Come usare l'intelligenza artificiale: guida per iniziare da zeroUna guida per chi parte da zero: quale usare, cosa chiederle, cosa evitare.Guadagnare con l'intelligenza artificiale: cosa funziona davveroNiente formule magiche: dove l'AI fa risparmiare tempo e dove le promesse sono vuote.