Internetstiftelsen: Så kan generativ AI, deepfakes och sociala medier påverka valet 2026

I september går vi svenskar till valurnorna, och teknikutvecklingen har verkligen inte stått stilla sedan senaste riksdagsvalet. Ett område där det hänt mycket är generativ AI – sedan Open AI:s lansering av Chat GPT i november 2022 använder nu många svenskar chattbottar dagligen. 

– Att det är vårt första val med generativ AI, och att det på så kort tid har blivit en vardagsteknik för många svenskar, kan innebära många olika saker. Det är ett väldigt potent verktyg för att skapa och sprida politiskt innehåll via text, bilder och video. Verktygen är bra på många sätt, men kan också användas för att vilseleda och manipulera. Tidigare behövde man jobba hårt för att skapa den här typen av information, men nu kan egentligen vem som helst ta fram trovärdigt material snabbt, säger Jannike Tillå, chef för kommunikation och samhällsnytta på Internetstiftelsen.

AI-genererade tonårstjejer som sprider högerextremism

Ett exempel på hur tekniken kan nyttjas i manipulationssyfte påvisades häromveckan. Då identifierade P4 Uppland fyra Tiktok-konton som utgav sig för att vara olika svenska tjejer, men samtliga var AI-genererade. ”Tjejerna” spred högerextremism och hade tusentals följare.

– Här var väl tanken från upphovspersonen att normalisera högerextrema tankegångar genom att använda unga tjejer som många andra kan känna igen sig i. Det var ett effektfullt grepp för att ge unga en skev bild av verkligheten.

Bakom kontona stod en enskild svensk person, som nu har erkänt att han utförde manipulationen av politiska skäl.

– I det här fallet avslöjades ju manipulationen, men skadan kan redan vara skedd. Det är inte alls säkert att de som följde tjejerna nu har koll på att de var AI-genererade. I sådana här situationer är det också alltid svårt att ta reda på huruvida andra personer – potentiellt från andra länder – varit inblandade, menar Jannike Tillå.

Hur vanligt är det att andra länder använder ny teknik för att påverka Sveriges befolkning och exempelvis valutgång?

– Numera finns ju en uppsjö av olika tekniker för att kunna utföra informationspåverkan. Detta gör det allt enklare för illvilliga aktörer att skapa material och nå ut målgruppsanpassat. I grunden handlar det om att underminera förtroendet för det svenska samhället – att så frön av misstro och skapa splittring genom att sprida falsk information om bland annat våra politiker, samhällsinstitutioner eller etablerade medier.

– Målet är att vi inte ska kunna lita på något i längden. Ryssland är, föga förvånande, ett av länderna som ofta är inblandade i den här typen av desinformation, enligt Myndigheten för psykologiskt försvar. Det här räknar vi absolut med att få se även i valrörelsen.

Partiska algoritmer på sociala medier

I höstas påvisade Sky News att sociala medieplattformen X:s algoritm – under Elon Musks styre – systematisk gynnar höger- och extremhögerinnehåll, oberoende av användarens egen politiska övertygelse. Vid tiden för avslöjandet varnade brittiska politiker för att detta hotar demokratin och att X numera fungerar som en privat makt-arena där högerextrema röster dominerar den politiska debatten.

Och i en ny studie från Nature framkommer att plattformens algoritm de facto gör användarna mer politiskt höger.

– X är en av mest politiktäta plattformarna som finns, och det är alltid bekymmersamt när publicerat innehåll ges sämre möjligheter att synas av politiska eller ideologiska skäl. Det blir också en ”svart låda-problematik”, då användaren som publicerar innehåll inte vet om att hen har sämre möjligheter att nå ut.

Ur en demokratiaspekt kan X:s algoritm vara speciellt problematisk för förstagångsväljare.

– Många svenskar, speciellt unga och unga vuxna, får sina nyheter från sociala medier. Därmed är det inte självklart att sociala medier ensamt avgör hur exempelvis förstagångsväljare kommer rösta, men det får absolut en betydelse för dagordningen och för vilka frågor de uppfattar som intressanta.

Jannike Tillå menar att vi i Sverige behöver fundera över vilka offentliga rum vi ska föra samtal i framöver. Länge trodde hon och andra experter att sociala medier skulle kunna vara en arena för att diskutera och engagera sig i politik, men det har inte riktigt fungerat.

– Plattformarna har sakta men säkert ändrat karaktär och har numera mindre fokus på att filtrera bort hot och hat. Dessutom ser ägarstyrningen annorlunda ut och även kopplingen till den amerikanska administrationen. Många plattformar har gjort sig av med moderatorer och fokuserar i stället på automatiserad moderering. Kanske behöver vi som samhälle ta fram andra rum för offentliga samtal.

Generativa AI-verktyg istället för sökmotorer

Enligt er undersökning Svenskarna och internet 2025 sker just nu en snabb förflyttning från traditionella sökmotorer till generativa AI-tjänster som Chat GPT och Gemini. Finns det några risker med det?

– Språkmodeller är ofta väldigt förtroendeingivande och är utformade för att vara tillmötesgående. Ofta ger de ju bra svar, men ibland kan det bli helt fel. Jag tror att samhället behöver mer utbildning i hur dessa tjänster fungerar. Ett tips här är att ställa en fråga i ett ämne du är väldigt insatt i, då kan du lätt upptäcka bristerna i svaret. Ett annat tips är att skriva ”Är du helt säker?”, efter att du ställt en fråga och fått svar. Då blir det tydligt att du inte kan lita helt på informationen.

Vilka är egentligen de främsta sätten för att skydda Sverige mot AI-valpåverkan?

– Det finns många olika saker i samhället som sammantaget gör stor nytta. Vi har ett högt förtroende för institutioner och ett bra skolsystem där vi utbildar elever i källkritik. Ju bättre källkritik man besitter, desto mindre risk att bli lurad. AI:s intåg är här för att stanna så det är viktigt att vi påminner människor om att stanna upp och fundera ett slag när de ser något på nätet – inte agera med ryggraden.

– Som förälder till två tonårsbarn tycker jag också det är viktigt att prata om politik hemma. Titta på tv-debatterna, genomför valkompasser, diskutera olika frågor och läs nyheter.  

Ett visst ansvar ligger också på politikerna, menar Jannike Tillå.

– Plattformarna premierar polemik, vilket gör att det politiska innehåll som vi möts av på sociala medier ofta är kortfattat och hårdvinklat. Detta gör det svårt för att få en helhetsbild, framför allt för unga. Här har våra politiker ett ansvar att inte falla in i algoritmernas klor. De kan inte bara fokusera på korta, hårda punchlines som passar för korta Tiktok-klipp, utan de behöver tänka på att det finns en mottagare på andra sidan.