Hva er generativ KI: Hva betyr det at en språkmodell «hallusinerer»?

Hallusinasjon er fagbegrepet for når en generativ språkmodell lager innhold som ikke er sant, men som ser ut som fakta. Det kan være oppdiktede kilder, feilaktige navn, gale årstall eller statistikk som ikke finnes. Fordi modellen egentlig bare forutsier hva som språklig sett passer å skrive videre, har den ingen innebygd sjekk av om det den sier faktisk stemmer.

For bedrifter betyr det én ting: alle faktapåstander, tall, navn og sitater må verifiseres før de brukes eller publiseres. Bruk språkmodeller til førsteutkast, struktur og idéarbeid — men sjekk fakta mot uavhengige kilder. En kort prinsipp: jo viktigere påstand, jo viktigere verifisering.