Nya språkmodeller svarar hellre fel än inte alls
Foto: Adobe stock
Ju mer avancerad en AI-modell är, desto mer benägen är den att komma med både korrekta och felaktiga svar. Avancerade AI-bottar svarar nämligen hellre fel än inte alls. Det visar en ny studie.
Forskare vid Valencias tekniska universitet har publicerat en studie i tidskriften Nature. I studien har de kommit fram till att ju mer avancerat ett AI-system är, desto mer benägen blir systemet att leverera både korrekta och felaktiga svar.
Enligt studien beror detta på att AI-bottarna hellre svarar fel på en fråga än medger att de inte kan svaret. Dessutom blir användarna mer benägna att tro på svaren de får, vilket bidrar till att felaktig information sprids, enligt forskarna.
– Bottarna svarar på nästan vad som helst nuförtiden. Och det innebär fler korrekta svar, men även fler felaktiga, säger José Hernandez-Orallo, professor på Valencias tekniska universitet.
Llama, GPT och Bloom
Forskarna studerade tre stora språkmodellsfamiljer: OpenAI:s GPT-serie, Metas Llama och open source-alternativet Bloom. Man inledde testerna med tidiga versioner av modellerna, för att sedan gå in på mer moderna, avancerade varianter.
Forskarna uppmanar nu AI-utvecklare att programmera sina chattbotar att vägra svara på frågor som de inte vet svaret på.
Läs mer om ämnet:
