Allucinazione AI

Un'allucinazione dell'AI è un'affermazione sicura ma falsa o inventata prodotta da un modello di AI, come un fatto inventato, un dettaglio di prodotto sbagliato o una fonte inesistente.

Allucinazione AI è il termine che indica le risposte in cui un modello linguistico afferma qualcosa di falso come se fosse un fatto. Esempi: inventare una citazione, indicare il prezzo o l'anno di fondazione sbagliati di un'azienda, attribuire una funzione di prodotto al brand sbagliato o citare uno studio che non esiste. Il modello non mente di proposito. Genera il testo che suona più probabile, e a volte quel testo è sbagliato.

Perché si verificano le allucinazioni

  • Lacune nei dati di addestramento. Se un modello ha visto poche informazioni su un argomento o un brand, colma il vuoto con ipotesi plausibili.
  • Conoscenze non aggiornate. Senza una ricerca web, un modello conosce solo ciò che ha imparato prima della sua data di cutoff.
  • Fonti contrastanti. Quando siti diversi danno informazioni diverse, il modello può confonderle.
  • Recupero scadente. Nella ricerca con AI, il sistema può scegliere una pagina non pertinente o di bassa qualità e riassumerla fedelmente, producendo comunque una risposta sbagliata.
  • Contesto frainteso. Un modello può attribuire un'affermazione presente in una parte della pagina al soggetto sbagliato.

Basare le risposte su fonti recuperate riduce notevolmente le allucinazioni, ma non le elimina.

Perché conta per i brand

Quando un assistente AI dice a un potenziale cliente che il tuo prodotto non ha una funzione che invece ha, o cita prezzi vecchi, perdi clienti senza saperlo. Le allucinazioni sui brand nascono spesso da informazioni online scarse o incoerenti. Meno materiale chiaro e coerente c'è, più il modello deve tirare a indovinare.

Come ridurre le allucinazioni sul tuo brand

  • Pubblica pagine chiare e concrete sulla tua azienda, sui prodotti, sui prezzi e sulle policy, e tienile aggiornate.
  • Usa nomi e descrizioni coerenti su sito, profili, directory e materiale per la stampa.
  • Aggiungi dati strutturati per la tua organizzazione e i tuoi prodotti, così i fatti chiave sono leggibili dalle macchine.
  • Correggi le informazioni obsolete su siti di terzi, come vecchie recensioni, directory e articoli.
  • Ottieni copertura su testate affidabili che descrivono il tuo brand in modo accurato, perché sono fonti probabili sia per l'addestramento sia per il recupero delle informazioni.
  • Monitora regolarmente i prompt chiave per individuare presto gli errori.

Errori comuni

Pensare che basti una homepage corretta, mentre decine di pagine obsolete altrove dicono altro. Inoltre, non usare le risposte dell'AI come fonte per i tuoi contenuti senza verificarle. Copiare un fatto allucinato in un articolo diffonde ulteriormente l'errore e può minare la fiducia nel tuo sito.

Domande su Allucinazione dell'AI

Cos'è un'allucinazione dell'AI?

È un'affermazione falsa o inventata che un modello di AI presenta come un fatto, come una data sbagliata, una fonte inventata o informazioni di prodotto errate.

Posso correggere ciò che ChatGPT dice del mio brand?

Non puoi modificare direttamente la risposta, ma puoi pubblicare informazioni chiare e coerenti e correggere le fonti obsolete, migliorando ciò che gli strumenti di AI recuperano e imparano.

Il grounding previene le allucinazioni?

Le riduce, perché basa le risposte su fonti recuperate, ma un modello può comunque fraintendere o confondere quelle fonti.

Termini correlati