AI-hallucinatie

Een AI-hallucinatie is een stellige maar onjuiste of verzonnen bewering van een AI-model, zoals een verzonnen feit, een verkeerd productdetail of een bron die niet bestaat.

AI-hallucinatie is de term voor antwoorden waarin een taalmodel iets onjuists als feit presenteert. Voorbeelden zijn een verzonnen citaat, een verkeerde prijs of een verkeerd oprichtingsjaar van een bedrijf, een productkenmerk dat aan het verkeerde merk wordt toegeschreven, of een verwijzing naar een onderzoek dat niet bestaat. Het model liegt niet expres. Het genereert de tekst die het meest waarschijnlijk klinkt, en soms is die tekst fout.

Waarom hallucinaties ontstaan

  • Gaten in de trainingsdata. Als een model weinig informatie over een onderwerp of merk heeft gezien, vult het de gaten met aannemelijke gokken.
  • Verouderde kennis. Zonder webzoekopdracht weet een model alleen wat het vóór zijn cutoff-datum heeft geleerd.
  • Tegenstrijdige bronnen. Als verschillende sites verschillende informatie geven, kan het model die door elkaar halen.
  • Slechte retrieval. Bij AI-zoeken kan het systeem een irrelevante of zwakke pagina kiezen en die netjes samenvatten, wat toch een fout antwoord oplevert.
  • Context verkeerd lezen. Een model kan een uitspraak uit het ene deel van een pagina aan het verkeerde onderwerp toeschrijven.

Antwoorden baseren op opgehaalde bronnen vermindert hallucinaties flink, maar haalt ze niet helemaal weg.

Waarom het belangrijk is voor merken

Als een AI-assistent een potentiële klant vertelt dat je product een functie mist die het wel heeft, of oude prijzen noemt, loop je omzet mis zonder het te weten. Hallucinaties over merken komen vaak voort uit schaarse of tegenstrijdige informatie online. Hoe minder duidelijk, consistent materiaal er is, hoe meer het model moet gokken.

Zo beperk je hallucinaties over je merk

  • Publiceer duidelijke, feitelijke pagina’s over je bedrijf, producten, prijzen en beleid, en houd ze actueel.
  • Gebruik dezelfde namen en beschrijvingen op je website, profielen, bedrijvengidsen en persmateriaal.
  • Voeg gestructureerde data toe voor je organisatie en producten, zodat belangrijke feiten machineleesbaar zijn.
  • Corrigeer verouderde informatie op sites van derden, zoals oude reviews, bedrijvengidsen en artikelen.
  • Zorg voor publiciteit op betrouwbare publicaties die je merk correct beschrijven, want dat zijn waarschijnlijk bronnen voor zowel training als retrieval.
  • Controleer belangrijke prompts regelmatig om fouten vroeg te zien.

Veelgemaakte fouten

Ervan uitgaan dat een kloppende homepage genoeg is, terwijl tientallen verouderde pagina’s elders iets anders zeggen. Gebruik AI-antwoorden ook niet ongecontroleerd als bron voor je eigen content. Een gehallucineerd feit in een artikel overnemen verspreidt de fout verder en kan het vertrouwen in je site schaden.

Vragen over AI-hallucinatie

Wat is een AI-hallucinatie?

Het is een onjuiste of verzonnen bewering die een AI-model als feit presenteert, zoals een verkeerde datum, een verzonnen bron of onjuiste productinformatie.

Kan ik corrigeren wat ChatGPT over mijn merk zegt?

Je kunt het antwoord niet direct aanpassen, maar je kunt duidelijke, consistente informatie publiceren en verouderde bronnen laten corrigeren, waardoor verbetert wat AI-tools ophalen en leren.

Voorkomt grounding hallucinaties?

Het vermindert ze doordat antwoorden op opgehaalde bronnen worden gebaseerd, maar een model kan die bronnen nog steeds verkeerd lezen of door elkaar halen.

Gerelateerde begrippen