Ny forskning: AI-verktyg kan vara kontraproduktiva – och göra oss dummare

Sebastian Krakowski är forskaren vid Handelshögskolan som studerat effekterna av AI-verktyg som individanpassas och inte. Han förvånades över att tekniken, om dåligt anpassad, är både ineffektiv och kontraproduktiv.

– Det var lite uppseendeväckande. Vi behövde både dubbel- och trippelkolla allting. För herregud, hur kan det bli sämre med AI, säger Sebastian Krakowski till Svd.

Studien genomfördes hos ett läkemedelsbolag där säljare slumpmässigt delades in i tre grupper: En som inte tog hjälp av något AI-stöd, en med tillgång till ett standardiserat AI-verktyg, och en tredje där AI-stödet individanpassades utefter medarbetarens personlighet och arbetssätt.

Bland annat framkom att införandet av ett standardiserat AI-verktyg för säljstöd resulterade i 20 procent sämre försäljning, jämfört med de som inte använde något AI-stöd alls. Bäst presterade gruppen med ett anpassat AI-verktyg, de levererade 40 procent fler säljmöten än personerna utan stöd från AI och ökade sin försäljning med 16 procent.

Förklaringen till siffrorna menar Sebastian Krakowski bottnar i att vi fungerar olika som människor, och att standardiserade verktyg inte kommer ha samma effekt på samtliga. Han vänder sig emot tesen att automatisera så mycket som möjligt, för att.

– Jag tycker det är kortsiktigt. Det är bättre att förstärka och komplettera människan, för att få det bästa från två världar. Man behöver ta hänsyn till människan i större utsträckning än vad man ofta gör idag, för att få samspelet människa och AI att fungera.

Även generativ AI är under lupp

En annan ny studie som påvisar potentiella risker med felriktad användning av AI har genomförts av bland andra Nataliya Kosmyna, forskare vid MIT, rapporterar ETC. Även här studerades tre olika grupper, denna gång med fokus på användning av det generativa AI-verktyget ChatGPT vid uppsatsskrivande.

Totalt skrev 54 personer i åldrarna 18 till 39 flera uppsatser vardera under fyra månaders tid. En grupp fick använda ChatGPT, en annan fick nyttja Googles sökmotor och den tredje fick förlita sig på egna hjärnförmågor. Under perioden mätte forskarna hjärnaktiviteten hos deltagarna genom EEG.

ChatGPT-användarna presterade sämst neurologiskt, språkligt och i sitt beteende. Mindre aktivitet förekom i delar av hjärnan som har med minne och inlärning att göra, och på sikt blev prestationerna allt sämre. 

Den högsta hjärnaktiviteten fanns hos den mest analoga gruppen, främst när det kom till kreativitet, minne och språkförståelse. De som googlade uppvisade samma minnesnivå, men däremot lite lägre engagemang.

MIT-studien har inte expertgranskats, och skedde inledningsvis i liten skala, men forskarna har ändå valt att dela resultatet i ett tidigt skede i hopp om att väcka diskussioner kring hur överanvändning kan vara skadligt: "Frekventa användare av AI-verktyg undviker ofta att fördjupa sig i materialet, vilket leder till 'förtvinade färdigheter' i uppgifter som brainstorming och problemlösning. Det gör att förmågan till kritiskt tänkande och kreativitet riskerar att minska och sårbarheten för manipulation att öka.”