Genom att surfa vidare godkänner du att vi använder cookies. Jag förstår

Nominerad till
Publishingpriset 2017

En smartare it-nyhetssajt

Nominerad till
Publishingpriset 2017

GDPR och hot mot AI

De flesta har idag koll på GDPR och personuppgifter men vad gäller när datan används till AI? Michael Veale, University College i London, forskar om öppenheten hos algoritmiska system i beslutsfattandet.

Text Tim Leffler Foto Adobestock 20 mars 2018 säkerhet

AdobeStock_55861092.jpeg

– GDPR kommer inte hindra att företag använder data i maskininlärning men man får vara lite försiktig. Inte minst eftersom information som finns kvar, när man skalat bort de rena personuppgifterna, visserligen kan se anonym ut på ytan men i själva verket kan datan användas för att identifiera personer, säger Michael Veale, teknologipolicyforskare vid University College i London.

Termostaten röjer dig

Det finns flera sätt som maskininlärningsalgoritmer kan bryta mot GDPR. Om jag till exempel vill använda en tjänst av företag och de kräver att jag ger företaget uppgifter om mig måste jag vara säker på att dessa uppgifter är nödvändiga för att jag ska kunna använda tjänsten.

På sikt hoppas jag att algoritmerna är mer transparenta.

Michael Veale , algoritmforskare

– Det har blivit lite av ett mantra att man ska ha rätt till en förklaring, det vill säga rätt till vad och varför företag använder uppgifter som är kopplade till mig som användare. Men jag är inte säker på att det är praktiskt genomförbart när det handlar om maskininlärningsalgoritmer och GDPR.

– För det första är det svårt att veta vilka förklaringar som är godtagbara och som går att utvinna ur algoritmen och för det andra är GDPR i sig fortfarande ganska otydlig om vilka fall man har rätt att avkräva den här informationen, säger Michael Veale, som nyligen publicerat en vetenskaplig artikel inom ämnet med titeln: Slave to the Algorithm? Why a ’Right to an Explanation’ Is Probably Not the Remedy You Are Looking For.

Ett potentiellt problem är att det som på ytan kan se ut som anonym data inte nödvändigtvis är det. Säg att ett företag samlar in data från din smarta termostat där hemma. Den datan är unik för dig och om du till exempel åker på semester så syns det i datan.

michael veale mindre.jpg

Michael Veale.

– Det behövs bara lite väldigt lite info från dig för att ta reda på att du är du och en maskininlärningsalgoritm snabbar förstås på det här.

Känsliga personuppgifter

Ett annat bekymmer är hur de olika delarna i GDPR ska hanteras. Exempelvis handlar Artikel 9 i GDPR om det man kallar för särskilda kategorier av personuppgifter. Det är känslig information om personer som det är förbjudet att samla på sig, som etnicitet, hudfärg och politiska åsikter.

Hur tycker du att offentlig sektor ska använda sig av maskininlärning?

– Jag tycker att maskininlärning ska användas mer som hjälpmedel och i första hand för kvantitativa arbetsuppgifter. Inom exempelvis skattemyndigheten borde maskininlärning kunna vara användbart. Kvalitativa och mer sociologiska arbetsuppgifter är fortfarande människor överlägsna på, inte minst eftersom vi är bättre på att upptäcka och bedöma ovanligheter än vad maskininlärningsalgoritmer är, och vi vill inte att våra algoritmer ska förvirra oss med korrelationer som inte är betydelsefulla. På sikt är min förhoppning att vi kommer kunna skapa algoritmer som är mer transparenta och på så sätt få mer användningsområden för dem.

Rekommenderad läsning

Förändringen som alla vill ha

23 feb 2018 digit

en liten väg rör sig nedför en backe bland pittoreska engelska hus.jpg en liten väg rör sig nedför en backe bland pittoreska engelska hus.jpg en liten väg rör sig nedför en backe bland pittoreska engelska hus.jpg

För första gången på 80 år är invånarna i byarna Newmarket och Haverhill i England på väg att få nya pendlingsmöjligheter – tack vare en förnyad datahantering. Lingjing Yin är en av personerna som bokstavligen har fått de nya hjulen att börja snurra.

AI skapar malariamedicin

29 jan 2018 it i vården

närbild på malariamygga som suger blod ur mänsklig hud.jpg närbild på malariamygga som suger blod ur mänsklig hud.jpg närbild på malariamygga som suger blod ur mänsklig hud.jpg

Den artificiella robotforskaren Eve har hjälpt sina mänskliga kollegor att identifiera ett ämne i tandkräm som skulle kunna fungera som medicin mot resistenta malariaparasiter.

AI letar bakteriedödande virus

6 feb 2018 it i vården

en bakteriofag.jpg en bakteriofag.jpg en bakteriofag.jpg

En amerikansk startup tar hjälp av AI för att snabbare kunna hitta bakteriofager som dödar bakterier.

Google hjälper Pentagon

13 mar 2018 digit

en flygbild över afghanistan.jpg en flygbild över afghanistan.jpg en flygbild över afghanistan.jpg

Google har under en tid ingått i ett samarbete med amerikanska försvarsdepartementet för att utveckla AI som kan analysera material från militära drönare.

Upptäck vd-mejl med AI

18 apr 2018 säkerhet

vd-mejl-trend-micro-960640.jpg vd-mejl-trend-micro-960640.jpg vd-mejl-trend-micro-960640.jpg

Trend Micros nya lösning Writing Style DNA gör det möjligt att upptäcka vd-bedrägerier med hjälp av artificiell intelligens. AI:n analyserar chefers sätt att mejla och vid misstanke om brott så skickas en varning ut till påstådd avsändare, mottagare och it-avdelning.

Jakten på säkerhet

23 apr 2018 säkerhet

mikko1.png mikko1.png mikko1.png video

I takt med att IoT blir allt vanligare i våra hem krävs regleringar och mer kunskap bland konsumenter för att vi ska hålla oss säkra från cyberattacker. Samtidigt letar säkerhetsföretagen med ljus och lykta efter talanger som kan bygga framtidens AI-försvar.

Ett samarbete mellan Lenovo och Voister

Server som möter GDPR-krav

17 nov 2017 digit

skargard foto.jpg skargard foto.jpg skargard foto.jpg

Allt mer handlar om mjukvarudefinierade system. Lenovo vill göra det ännu enklare att möta framtidens krav och lanserar nu en helt ny serie servrar under namnet ThinkSystem.

Säkerhetsåret 2017

27 dec 2017 säkerhet

folk.jpg folk.jpg folk.jpg

Skandalen på Transportstyrelsen, allt mer GDPR-oro och ett exploderande antal ransomware-attacker - säkerhetsåret 2017 har varit intensivt. Och inget tyder på en avtrappning nästa år. Voister summerar 2017 och blickar framåt.

Gammal är äldst i Skellefteå

23 okt 2017 it i vården

AdobeStock_136906517_2.jpg AdobeStock_136906517_2.jpg AdobeStock_136906517_2.jpg

För att ta reda på vad seniorer tycker och tänker när det gäller smarta, trygga hem vänder sig Skellefteå kommunen till experterna – seniorerna själva som vid sittande bord bekräftar för politiker och andra beslutsfattare att ålder bara är en siffra när det gäller digitalisering.