Vad är Hallucination?

Hallucination är när en AI hittar på saker som låter helt trovärdiga men som faktiskt är fel. Tänk dig en väldigt påläst kollega som aldrig vill svara "jag vet inte" — istället gissar hen med full självsäkerhet och packar in gissningen i snygga meningar. Det är precis så en AI-hallucination fungerar: språket är felfritt, men innehållet stämmer inte.

Anledningen är att en språkmodell inte "kollar upp" fakta som du och jag gör. Den räknar istället ut vilket ord som troligen kommer härnäst, baserat på enorma mängder text den tränats på. För det mesta blir det rätt, men ibland fyller den självsäkert i luckor med påhitt — ett datum, en lag, en produktfunktion eller en källa som inte finns.

Det gör att man aldrig blint kan lita på AI-svar. Därför granskar vi alltid AI-genererat innehåll innan det går live, ungefär som en tidning har en redaktör som läser igenom innan texten trycks.

Varför är hallucination viktigt för ditt företag?

Om ni använder AI för kundtjänst, offerter eller texter kan en hallucination sprida felaktig information i ert namn. En kund som får fel pris eller fel villkor av er chatbot minns inte att "det var AI:n" — de minns att ert företag sa fel.

Att förstå hallucinationer hjälper er bygga rutiner: mänsklig granskning på känsliga svar, och tekniska lösningar som tvingar AI:n att hålla sig till era egna, kontrollerade uppgifter.

Hallucination i praktiken

Säg att ett byggföretag i Jönköping har en AI-chatt på sin sajt. En besökare frågar om företaget är certifierat för en viss typ av arbete. AI:n vill vara hjälpsam och svarar "ja, ni har certifiering X" — trots att företaget aldrig matat in den uppgiften. Det är en hallucination, och den kan bli dyr om en kund fattar beslut på den.

Lösningen är oftast att koppla AI:n till företagets egna dokument så att den bara svarar utifrån verklig, godkänd fakta — och att låta en människa granska svaren i känsliga lägen.