Vad är AI-hallucinationer, och vad beror de på?

Vad beror AI-hallucinationer på?  

Hallucinationer uppstår ur AI:ns sätt att förutsäga nästa ord eller idé. I grunden är nämligen generativa AI-verktyg som Chat GPT och Gemini sannolikhetsmodeller, som alltid skapar nytt innehåll. De fungerar lite som en mycket snabb, tränad gissare: de försöker förutsäga vilket ord eller teckensekvens som mest troligt kommer härnäst baserat på allt som tidigare skrivits om ett ämne. Detta kallas “next token prediction” och innebär alltså att AI:n skapar text genom att välja det mest sannolika nästa ordet – om och om igen. 

Det här innebär att AI ibland kan hitta på saker som inte stämmer. I och med att modellen alltid skriver nytt innehåll är det både en inbyggd funktion och delvis oundviklig brist. När informationen är bristfällig eller tvetydig fyller modellen i luckorna och levererar svar som kan låta trovärdiga men som i själva verket är sakligt felaktiga, och det ligger i själva teknologins natur.

Varför är hallucinationer på agendan?   

AI:s förmåga att hitta på har blivit ett diskuterat samhällsfenomen i och med att allt fler svenskar har börjat nyttja generativa AI-verktyg. Enligt undersökningen Svenskarna och internet nyttjade fyra av tio svenskar ett AI-verktyg under 2025 – mest populär är Chat GPT som används av drygt var tredje svensk. 

Modellerna används bland annat för att konsumera nyheter. Enligt Reuters Digital News Report får 7 procent av alla online-nyhetskonsumenter sina nyheter via AI-assistenter – bland personer under 25 år ligger siffran på 15 procent. 

Här ersätter AI-modeller till viss del sökmotorer som Google, trots att det finns vissa grundläggande skillnader mellan dem båda. AI-modeller skapar – som tidigare nämnt – alltid nytt innehåll, medan sökmotorer letar upp information på nätet och fungerar ofta som en mellanhand som leder användare vidare till exempelvis nyhetssajter.

Hur omfattande och allvarligt är det med AI-hallucinationer?  

I oktober 2025 publicerade European Broadcasting Union (EBU) en rapport som visar att fyra av de mest kända AI-assistenterna (Chat GPT, Copilot, Gemini och Perplexity) regelbundet misstolkar eller förvanskar nyhetsinnehåll. Public service-journalister från 18 länder gick igenom 3 000 svar från AI-modellerna och identifierade flera systematiska problem, oavsett vilket språk som användes. 

45 procent av alla AI-svar om nyhetshändelser innehöll minst ett allvarligt fel, medan 31 procent av svaren hade problem med källhänvisningar som antingen saknades, var felaktiga eller vilseledande. Var femte svar innehöll faktiska fel, som exempelvis påhittade detaljer eller utdaterad information. Jean Philip De Tender, EBU:s mediedirektör och vice generaldirektör, menar att rapporten tydligt visar att bristerna är systematiska, gränsöverskridande och flerspråkiga.

– Det här hotar allmänhetens förtroende. När människor inte vet vad de ska lita på, slutar det med att de inte litar på någonting alls – och det kan hämma den demokratiska delaktigheten, säger han.  

En annan studie från Columbia Journalism Review visar att AI-assistenter sällan vägrar svara på frågor de inte kan svara korrekt på, utan i stället levererar felaktiga eller spekulativa svar. Premium-assistenter ger felaktiga svar med högre svansföring än sina gratisvarianter. 

Finns det några kända exempel där AI-hallucinationer har fått betydande följder? 

I vissa scenarion kan AI-hallucinationer upplevas harmlösa, men i andra kan de få allvarliga konsekvenser. Inom vården, där noggrannhet är avgörande, finns det exempel där de har lett till felaktiga diagnoser, olämpliga behandlingar och äventyrad patientsäkerhet. Även inom juridiken kan konsekvenserna bli stora – eller pinsamma. I ett mål nyligen använde en jurist AI för att skriva inlagor till tingsrätten. Personen hänvisade till fyra rättsfall från Högsta domstolen – problemet var dock att rättsfallen inte existerar utan hade hallucinerats fram av AI. 

En annan potentiellt pinsam händelse kommer från Australien där Deloitte producerade en rapport åt landets arbetsmarknadsdepartement. Rapporten innehöll åtskilliga felaktigheter, varpå konsultbolaget fick erkänna att man använt generativ AI i produktionen. En politiker anklagade då Deloitte för att ha problem med “mänsklig intelligens”.

Går AI-hallucinationer att göra något åt?   

Ja, och mycket görs redan. Enligt AI Hallucination Report 2026 minskade vissa ledande AI-modellers hallucinationer med upp till 64 procent under 2025, jämfört med tidigare generationer. Samma rapport visar att fyra modeller (Google Gemini-2.0-Flash-001, Google Gemini-2.0-Pro-Exp, OpenAI o3-mini-high och Vectara Mockingbird-2-Echo) ligger under en procents hallucinationsgrad, en siffra som var otänkbar för några år sedan.

För att leverera mer korrekta svar testar många bolag, däribland Google och Open AI, så kallad RAG-teknik (retrieval-augmented generation) som kopplar ihop språkmodeller med externa fakta. I stället för att bara nyttja träningsdata hämtar modellen först information från dokument i en databas, och bygger sedan sina svar utifrån både databasen och sin egen språkförmåga. RAG går att likna vid en elev som tar med sig sina skolböcker till ett prov, slår upp fakta innan hen svarar och därmed behöver gissa mindre.  

En annan teknik är RIG (retrieval interleaved generation), som precis som RAG är en implementation av context retrieval för att förbättra svaret från en språkmodell. Med RIG-implementationen växlar AI-systemet i realtid mellan att generera svar och hämta fakta. En LLM genererar ord, pausar för att söka i dokument för faktadetaljer, genererar ord igen, söker i dokument igen, fram tills att den blir klar. RIG kan liknas vid en elev som börjar skriva sitt prov, upptäcker vad som fattas och hämtar rätt bok för att komplettera. För att få mest korrekt resultat används ofta en kombination av RAG och RIG eller komplicerade iterativa context retrieval-flöden. 

Utöver RAG och RIG arbetar utvecklare även med andra metoder för att få AI att helt enkelt gissa mindre. Ett sätt är att filtrera och förbättra träningsdata, ett annat är att bygga mer specialiserade modeller. Vissa system tvingar dessutom modellen att endast använda verifierade källor eller avstå från att svara när den inte hittar tillförlitlig information.

Även om de flesta experter verkar eniga om att AI-assistenternas hallucinationer kan fortsätta minska framöver, kommer de förmodligen aldrig undvikas helt, på grund av att de modeller vi använder i grunden är just sannolikhetsmodeller.