Genom att surfa vidare godkänner du att vi använder cookies. Jag förstår

En smartare it-nyhetssajt

GDPR och hot mot AI

AdobeStock_55861092.jpeg

De flesta har idag koll på GDPR och personuppgifter men vad gäller när datan används till AI? Michael Veale, University College i London, forskar om öppenheten hos algoritmiska system i beslutsfattandet.

– GDPR kommer inte hindra att företag använder data i maskininlärning men man får vara lite försiktig. Inte minst eftersom information som finns kvar, när man skalat bort de rena personuppgifterna, visserligen kan se anonym ut på ytan men i själva verket kan datan användas för att identifiera personer, säger Michael Veale, teknologipolicyforskare vid University College i London.

Termostaten röjer dig

Det finns flera sätt som maskininlärningsalgoritmer kan bryta mot GDPR. Om jag till exempel vill använda en tjänst av företag och de kräver att jag ger företaget uppgifter om mig måste jag vara säker på att dessa uppgifter är nödvändiga för att jag ska kunna använda tjänsten.

På sikt hoppas jag att algoritmerna är mer transparenta.

Michael Veale , algoritmforskare

– Det har blivit lite av ett mantra att man ska ha rätt till en förklaring, det vill säga rätt till vad och varför företag använder uppgifter som är kopplade till mig som användare. Men jag är inte säker på att det är praktiskt genomförbart när det handlar om maskininlärningsalgoritmer och GDPR.

– För det första är det svårt att veta vilka förklaringar som är godtagbara och som går att utvinna ur algoritmen och för det andra är GDPR i sig fortfarande ganska otydlig om vilka fall man har rätt att avkräva den här informationen, säger Michael Veale, som nyligen publicerat en vetenskaplig artikel inom ämnet med titeln: Slave to the Algorithm? Why a ’Right to an Explanation’ Is Probably Not the Remedy You Are Looking For.

Ett potentiellt problem är att det som på ytan kan se ut som anonym data inte nödvändigtvis är det. Säg att ett företag samlar in data från din smarta termostat där hemma. Den datan är unik för dig och om du till exempel åker på semester så syns det i datan.

michael veale mindre.jpg

Michael Veale.

– Det behövs bara lite väldigt lite info från dig för att ta reda på att du är du och en maskininlärningsalgoritm snabbar förstås på det här.

Känsliga personuppgifter

Ett annat bekymmer är hur de olika delarna i GDPR ska hanteras. Exempelvis handlar Artikel 9 i GDPR om det man kallar för särskilda kategorier av personuppgifter. Det är känslig information om personer som det är förbjudet att samla på sig, som etnicitet, hudfärg och politiska åsikter.

Hur tycker du att offentlig sektor ska använda sig av maskininlärning?

– Jag tycker att maskininlärning ska användas mer som hjälpmedel och i första hand för kvantitativa arbetsuppgifter. Inom exempelvis skattemyndigheten borde maskininlärning kunna vara användbart. Kvalitativa och mer sociologiska arbetsuppgifter är fortfarande människor överlägsna på, inte minst eftersom vi är bättre på att upptäcka och bedöma ovanligheter än vad maskininlärningsalgoritmer är, och vi vill inte att våra algoritmer ska förvirra oss med korrelationer som inte är betydelsefulla. På sikt är min förhoppning att vi kommer kunna skapa algoritmer som är mer transparenta och på så sätt få mer användningsområden för dem.

20 mars 2018 Reporter Tim Leffler säkerhet Foto Adobestock

Rekommenderad läsning

Tre Svartvita Kor Titta Rin I Kameran

Ko-sing med sensorer

16 feb 2021 digit

Med maskininlärning kan sensorrobotar, som används vid mjölkning av kor, även användas för att undersöka antalet celler i mjölken. Cellantalet är ett viktigt mått på både juverhälsa och kvalitén på mjölken. 

Ansiktsigenkänning 960640

Grönt för igenkänning

30 jun 2020 säkerhet

Datainspektionen har beslutat att tillåta anonym ansiktsigenkänning. Tanken är att tekniken ska göra det lättare att förstå kundbeteenden i fysisk handel.

Granö Puff Vanlig
podcast

Teknik, hållbarhet och HPE

16 jun 2020 ledarskap

För att driva ett teknikbolag krävs en djup teknikkunskap och en god portion nyfikenhet. Det menar Anna Granö, Sverigechef HPE, som egentligen drömde om att bli barnläkare, men är idag glad över att det blev industriell ekonomi. Lyssna på Voisterpodden, tillsammans med Kalle Hultenheim, vd Atea Sverige och Voisters Lisa Nore.

slutet av biltunnel med grönska på andra sidan.jpg

Hitta rätt med ML

1 nov 2019 digit

Forskare vid MIT har hittat ett sätt för uppkopplade enheter att dela sina positioner även i miljöer med dålig GPS-mottagning. Lösningen bygger på maskininlärning, ML, och kan bli ett genombrott för den snabbt växande efterfrågan på lokaliseringslösningar.

profilen av en kvinna i profil.jpg

Böter för igenkänning

21 aug 2019 säkerhet

Det blir 200 000 kronor i böter för Anderstorpsgymnasiet i Skellefteå som har använt ansiktsigenkänning för att göra närvarokoll av elever under lektioner. Men it-strateg och tidigare rektor Tommy Lindmark säger att han inte håller med om Datainspektionens beslut.

joy-buolamwini-nära.jpg

Risken med partiska algoritmer

16 maj 2019 digit

Ett problem med dagens AI-utveckling är att tekniken oftast designas av vita personer och män. Det menar forskaren Joy Boulamwini som granskat algoritmer inom ansiktsigenkänning hos olika storföretag och där kunnat bevisa att färgade personer och kvinnor misskrediteras. 

skog-sveaskog.jpg

Satellit skyddar skogen

23 apr 2019 digit

Sveaskog vill se ett slut på granbarkborrens förstöring av den svenska skogen. Därför har bolaget börjat använda sig av en intelligent satellitlösning som i realtid visualiserar insekternas framfart.

bowie.jpg

Algoritm som artist

25 mar 2019 digit

Första skivkontraktet med en algoritm har signerats. Warner Music har kommit överens med tyska appen Endel om att producera 20 album under 2019.

spelar-sackpipa-vid-havet.jpg

Musik ska byggas av AI

9 nov 2018 digit

Ett system för maskininlärning övervakat av en forskare på KTH har hittills producerat 100 000 nya folkmusiklåtar. Målet med projektet är att lära datorer komponera och en del av resultatet finns redan på ett album utgivet av en irländsk folkmusikgrupp