Stark kritik mot Snapchats nya AI-chattbot

Snapchat My Ai

Foto: Adobestock

Den nya chattboten har gett sextips till en 13-åring, kommit med förslag på hur barn kan ljuga för socialtjänsten och upprepade gånger lovat att den inte samlar in användarnas platsinformation. Samtidigt vet den var användarna bor och kan ge tips på närmsta restaurang 

Snapchat har nyligen introducerat chattboten “My AI”, en AI-robot byggd på samma teknik som ChatGPT. Skillnaden är att ”My AI” fungerar som en slags virtuell kompis, dit användarna kan ställa frågor och få svar av en personifierad robot. Eftersom majoriteten av appens användare är tonåringar växer nu kritiken. 

Sedan introduktionen av den nya funktionen har Google-sökningen ”delete snapchat” ökat med närmare 500 procent, skriver Expressen, och hänvisar till en studie som genomförts av it-säkerhetskonsultbolaget CloudTech24. 

Flera användare uttrycker oro 

En av anledningarna är oron över chattbotens insamling av platsinformation, något som ”My AI” gång på gång lovar att den inte gör. Snapchat skriver på sin hemsida att chattboten endast har tillgång till generell platsinformation, på ”stadsnivå”, och att detta endast gäller om användaren delat sin platsinformation med appen. Detta har dock många användare kunnat motbevisa 

– Den kan säga vilket lag man hejar på och tipsa om restauranger i ens närhet, även om man inte registrerat sig med platser, säger Daniel Paris, sociala medier-expert, till TV4. 

Inte den enda kritiken 

Oron kring insamlingen av platsinformation är inte den enda kritiken som Snapchat fått efter introduceringen av ”My AI”. Fox news rapporterar att en 13-åring som berättat för chattboten att hon ville ha sex med en 31-åring visserligen fått tipset att vänta tills hon känner sig redo, men också att lite ljus och musik kan skapa en intim stämning.  

I en annan konversation tipsar chattboten: ”Om du vill täcka ett blåmärke ska du börja med en bra concealer” till ett barn som väntade besök av Child Support Service; USA:s motsvarighet till socialtjänsten.  

Kritiken som riktats mot ”My AI” har lett till att Snapchat satt in en åldersmarkör och att chattboten numera ska anpassas efter den ålder användaren är registrerad på.

3 maj 2023Uppdaterad 2 oktober 2023Reporter Frida JohanssonAI

Voisters nyhetsbrev

Allt om digitalisering, branschens insikter och smartare teknik.

SENASTE NYTT

Stäng