Allucinazione dell’AI: cos’è e come accorgersene
Allucinazione Quando l’AI scrive una cosa falsa con la stessa sicurezza con cui ne scrive una vera, per esempio una sentenza, una norma o una cifra che non esistono. Si scopre controllando le fonti.
Redazione SpaccioAI15 ottobre 20261 min di letturaLivello base
Un’allucinazione è una risposta sbagliata o inventata che l’AI presenta con tono sicuro. Può essere una citazione mai pronunciata, una sentenza che non esiste, un articolo di legge con il numero sbagliato, una cifra plausibile ma falsa. Succede perché un modello linguistico produce il testo più probabile, non il più vero. Se non conosce la risposta, spesso ne costruisce una che suona bene.
Un esempio
Un avvocato chiede all’assistente tre sentenze a sostegno di una tesi. Ne arrivano tre, con numero e data. Una non esiste. Per accorgersene si cerca ogni riferimento nella banca dati ufficiale, si chiede il link alla fonte e si apre davvero. Si diffida anche delle risposte troppo precise su dati che non hai fornito.
Perché ti interessa
Le allucinazioni diminuiscono se dai all’AI il documento su cui lavorare, come avviene con la RAG, invece di chiederle di ricordare. Non spariscono mai del tutto. Nomi, cifre, date e norme li controlli sempre tu.