AI-genererad barnpornografi sprids på nätet – Europol varnar

Som bekant har AI under det senaste året blivit bättre på att skapa fotorealistiska bilder på människor. En följd av detta är att det på nätet nu sprids AI-genererade bilder som visar sexuella övergrepp på barn. Enligt Europol innebär den här typen av AI-genererat material en stor utmaning. 

– Europol är medvetet om förekomsten av denna typ av AI-genererat material inom EU. Framstegen inom AI har gjort det lättare för brottslingar att skapa material som visar sexuellt utnyttjande av barn. AI-teknik som kan generera den här typen av bilder utgör en betydande utmaning, skriver Claire Georges, talesperson för Europol. 

"Svensk lagstiftning är rigid"

Den svenska polisen har en liknande syn på situationen. I en intervju med SVT Nyheter pratar Björn Sellström på polisens nationella operativa avdelning (NOA) om utvecklingen, och om denna typ av genererade bilder är olagliga i Sverige. 

– Det är olagligt i Sverige. Den svenska lagstiftningen när det gäller barnpornografibrott är ganska rigid. Den innefattar även material som du skapar själv, exempelvis genom att teckna eller måla, eller som i det här fallet då det är en dator som genererar dem.

Björn Sellström menar att det kommer krävas ökade resurser för att motarbeta AI-genererade sexuella övergrepp på barn, vilket kan få tråkiga konsekvenser. 

– Det finns skäl att tro att det kommer att produceras ganska mycket av den här typen av material. Ju mer material som finns där ute, desto mer får vi att göra. 

– Vi kommer bli tvungna att fokusera på material som inte beskriver verkliga övergrepp på verkliga barn. Detta gör att det kommer finnas barn som vi inte kommer identifiera, för att vi tvingas ägna tid åt datoranimerat material istället.