Genom att surfa vidare godkänner du att vi använder cookies. Jag förstår

En smartare it-nyhetssajt

Kritik mot Trelleborg

Användningen av automatiserat beslutsfattande har fått stort genomslag i hela Europa. I många fall kan de gynna medborgarna, men tillämpningen skapar också risker för ökad övervakning. En ny rapport använder Trelleborgs försörjningsstöd som exempel på lösning som strider mot lagen.

Text anne hammarskjöld Foto adobestock 5 februari 2019 digit

gulliga-hus-i-trelleborg.jpg

I rapporten Automating Society – Taking Stock of Automated Decision-Making in the EU utvärderar den tyska organisationen AlgorithmWatch samt Bertelsmann Stiftung för första gången olika modeller för automatiserat beslutfattande.

Rapporten innehåller drygt 60 exempel från 12 länder samt en översikt över de relevanta aktörerna i processen och de aktuella politiska debatterna kring automatiserat beslutsfattande.

– Denna rapport visar att vi inte längre kan tänka på problem kring algoritmer och automatiserat beslutsfattande som något som ligger långt borta från oss i Norden. Vi lever i en vardag där beslut om välfärd och ekonomi alltmer delegeras till maskiner, ibland i strid mot befintlig lagstiftning eller i strid mot etablerade värderingar kring vad som är rätt och rimligt. Det är därför viktigt att inte bara uppmuntra mer teknisk utveckling kring maskininlärning och automatisering, utan även noga analysera de bredare samhälleliga konsekvenserna och frågor som systemen väcker, säger Julia Velkova, forskare och samförfattare av rapporten för Sverige och Finland, Helsingfors universitet.

Diskuteras på EU-nivå

Enligt rapporten har politiker och beslutsfattare svårt att överblicka alla användningsområden, och syftet med algoritmer som tar automatiserade beslut. På EU-nivå samt inom Europaparlamentet diskuteras nu frågor om automatiserat beslutsfattande med syfte att komma fram till gemensamma regler som kan styra och utvärdera automatiserade system, bland annat genom etiska riktlinjer.

Samtidigt är det viktigt att uppmärksamma de faktiska tillämpningsområdena av automatiserat beslutsfattande, för att utveckla lämpliga och konkreta idéer som kan ta tag i utmaningen.

Idag har områdena där automatiserat beslutsfattande används vidgats. I Finland profileras arbetssökande utifrån vad de har i sin inkorg; i Italien bestämmer algoritmer vilka som ska få behandling i sjukvården; i Polen sorterar algoritmer arbetslösa; barn som kan behöva extra socialomsorg identifieras av algoritmer i Danmark.

Rapporten innehåller också exempel från Sverige:

Sedan 2017 har kommuner runt om i landet börjat resan med att automatisera beslutsfattande för försörjningsstöd. Med Trelleborgs kommun i framkant har en algoritm utvecklats som automatisk kopplar uppgifter från Skatteverket med databaser från andra myndigheter.

Omedveten allmänhet

Ett beslut genereras automatiskt genom systemet och levereras till kunden. Antalet handläggare har reducerats från elva till tre och utgör därmed en ganska omfattande nedskärning av resurser. Samtidigt hävdar Trelleborg att de kunnat sänka antalet personer med försörjningsstöd signifikant och därmed sänkt kostnaderna även när det gäller försörjningsstöd.

Trelleborg har utvecklat algoritmen som pilotprojekt och har exporterat sin automatiseringsmodell till fjorton andra kommuner som förbereder en introduktion av samma lösning. Medan den här typen av automatisering har fått viss publicitet, är allmänheten fortfarande omedveten om att människor ska ersättas med algoritmiskt beslutsfattande som till exempel bestämmer fördelningen av försörjningsstöd.

Ifrågasatt lösning

Handläggare ersätts genom tekniska system som inte kan ställas till svars när det gäller myndighetsutövande. Projektet strider just nu mot befintlig lagstiftning som förbjuder helt automatiserade beslut i Sverige på kommunnivå. Dessutom bygger beslutsfattning på att samköra registerdata av olika myndigheter som är en ny utveckling i den svenska kontexten utan en bredare offentlig diskussion.

– Sverige och andra nordiska länder, med välfärdsstaten som bakgrund, har varit exceptionella i att bygga byråkratier baserat på mycket information om sina medborgare. Att dessa olika register nu kan samköras har effekter för medborgarna som behöver en öppen diskussion. Tekniken möjliggör helt nya sätt att spåra och förutsäga beteende och attityder baserat på stora datamängder. När det får konsekvenser för till exempel försörjningsstöd måste samhället vara en del av beslut kring hur vi vill använda tekniska lösningar, avslutar Anne Kaun, docent i medie- och kommunikationsvetenskap vid Södertörns högskola, som har bidragit till rapporten.

Senaste nytt

Smarta coronaköer

27 maj 2020

Appen Kölapp gör det möjligt för butiker och restauranger att utan risk för smittspridning hjälpa sina kunder i tur och ordning. En QR-kod är allt som behövs för att köa i molnet.

Varning för nätfiske

26 maj 2020

Nästan var tionde personuppgiftsincident orsakas av ett it-angrepp, visar en ny rapport från Datainspektionen. Vanligt förekommande är nätfiske där mottagaren via mejl klickar på länkar.

Elever om distansskola

26 maj 2020

Distansundervisning innebär större arbetsbörda, mer personligt ansvar och oro över hur man ska visa sina kunskaper. Drygt hälften är av gymnasieelever är nöjda med sin arbetsmiljö men många upplever en ökad stress och ensamhet. Det visar en ny undersökning från Sveriges elevkårer. 

Nästan enligt plan

25 maj 2020

Kommunala huvudmän är bättre på att ta fram digitaliseringsplaner för sina skolor. Men tre av tio, av alla som tagit fram en handlingsplan, har inte följt upp den under det senaste året. Det visar en ny undersökning från Skolverket. 

Sveriges första 5G

25 maj 2020

Tele2 har aktiverat Sveriges första publika 5G-nät i Stockholm, näst på tur är Göteborg och Malmö. Även Telia och Tre arbetar med införandet av tekniken. 

Gartner om it-året

20 maj 2020

Marknaden för global it beräknas uppgå till totalt 3,4 biljoner dollar 2020, en minskning med 8 procent jämfört med 2019. Nedgången är en följd av coronapandemin vilket lett till att it-chefer endast får prioritera verksamhetskritiska initiativ.