Genom att surfa vidare godkänner du att vi använder cookies. Jag förstår

En smartare it-nyhetssajt

GDPR och hot mot AI

De flesta har idag koll på GDPR och personuppgifter men vad gäller när datan används till AI? Michael Veale, University College i London, forskar om öppenheten hos algoritmiska system i beslutsfattandet.

Text Tim Leffler Foto Adobestock 20 mars 2018 säkerhet

AdobeStock_55861092.jpeg

– GDPR kommer inte hindra att företag använder data i maskininlärning men man får vara lite försiktig. Inte minst eftersom information som finns kvar, när man skalat bort de rena personuppgifterna, visserligen kan se anonym ut på ytan men i själva verket kan datan användas för att identifiera personer, säger Michael Veale, teknologipolicyforskare vid University College i London.

Termostaten röjer dig

Det finns flera sätt som maskininlärningsalgoritmer kan bryta mot GDPR. Om jag till exempel vill använda en tjänst av företag och de kräver att jag ger företaget uppgifter om mig måste jag vara säker på att dessa uppgifter är nödvändiga för att jag ska kunna använda tjänsten.

På sikt hoppas jag att algoritmerna är mer transparenta.

Michael Veale , algoritmforskare

– Det har blivit lite av ett mantra att man ska ha rätt till en förklaring, det vill säga rätt till vad och varför företag använder uppgifter som är kopplade till mig som användare. Men jag är inte säker på att det är praktiskt genomförbart när det handlar om maskininlärningsalgoritmer och GDPR.

– För det första är det svårt att veta vilka förklaringar som är godtagbara och som går att utvinna ur algoritmen och för det andra är GDPR i sig fortfarande ganska otydlig om vilka fall man har rätt att avkräva den här informationen, säger Michael Veale, som nyligen publicerat en vetenskaplig artikel inom ämnet med titeln: Slave to the Algorithm? Why a ’Right to an Explanation’ Is Probably Not the Remedy You Are Looking For.

Ett potentiellt problem är att det som på ytan kan se ut som anonym data inte nödvändigtvis är det. Säg att ett företag samlar in data från din smarta termostat där hemma. Den datan är unik för dig och om du till exempel åker på semester så syns det i datan.

michael veale mindre.jpg

Michael Veale.

– Det behövs bara lite väldigt lite info från dig för att ta reda på att du är du och en maskininlärningsalgoritm snabbar förstås på det här.

Känsliga personuppgifter

Ett annat bekymmer är hur de olika delarna i GDPR ska hanteras. Exempelvis handlar Artikel 9 i GDPR om det man kallar för särskilda kategorier av personuppgifter. Det är känslig information om personer som det är förbjudet att samla på sig, som etnicitet, hudfärg och politiska åsikter.

Hur tycker du att offentlig sektor ska använda sig av maskininlärning?

– Jag tycker att maskininlärning ska användas mer som hjälpmedel och i första hand för kvantitativa arbetsuppgifter. Inom exempelvis skattemyndigheten borde maskininlärning kunna vara användbart. Kvalitativa och mer sociologiska arbetsuppgifter är fortfarande människor överlägsna på, inte minst eftersom vi är bättre på att upptäcka och bedöma ovanligheter än vad maskininlärningsalgoritmer är, och vi vill inte att våra algoritmer ska förvirra oss med korrelationer som inte är betydelsefulla. På sikt är min förhoppning att vi kommer kunna skapa algoritmer som är mer transparenta och på så sätt få mer användningsområden för dem.

Rekommenderad läsning

Ett samarbete mellan Adobe och Voister

Sensei gör Adobe AI-smart

21 maj 2018 digit

snip adobe AI UTAN KNAPP.jpg snip adobe AI UTAN KNAPP.jpg snip adobe AI UTAN KNAPP.jpg video

Nu implementeras AI i alla Adobes produkter. Genom den intelligenta assistenten Adobe Sensei försvinner de tråkiga momenten för användaren som nu istället kan fokusera fullt ut på att nyttja sin kreativitet.

Snabbare vårdcentral med AI

8 maj 2018 it i vården

några personer sitter i ett väntrum och väntar.jpg några personer sitter i ett väntrum och väntar.jpg några personer sitter i ett väntrum och väntar.jpg video

Med hjälp av AI kan läkare inom primärvården ta emot närmare 50 procent fler patienter. Det menar Ola Ekström, en av personerna bakom Läkarexpressen.

Två av tio förstår GDPR

8 maj 2018 digit

healthcare-ai-gdpr-960640.jpg healthcare-ai-gdpr-960640.jpg healthcare-ai-gdpr-960640.jpg

Majoriteten av Sveriges befolkning är positiv till att myndigheter digitaliseras men tveksamma till att AI ska utföra arbetsuppgifter. Det visar en undersökning från Tieto, som även uppger att bara 20 procent av de tillfrågade förstår vad GDPR innebär. 

 

Upptäck vd-mejl med AI

18 apr 2018 säkerhet

vd-mejl-trend-micro-960640.jpg vd-mejl-trend-micro-960640.jpg vd-mejl-trend-micro-960640.jpg

Trend Micros nya lösning Writing Style DNA gör det möjligt att upptäcka vd-bedrägerier med hjälp av artificiell intelligens. AI:n analyserar chefers sätt att mejla och vid misstanke om brott så skickas en varning ut till påstådd avsändare, mottagare och it-avdelning.

Jakten på säkerhet

23 apr 2018 säkerhet

mikko1.png mikko1.png mikko1.png video

I takt med att IoT blir allt vanligare i våra hem krävs regleringar och mer kunskap bland konsumenter för att vi ska hålla oss säkra från cyberattacker. Samtidigt letar säkerhetsföretagen med ljus och lykta efter talanger som kan bygga framtidens AI-försvar.

Gammal är äldst i Skellefteå

23 okt 2017 it i vården

AdobeStock_136906517_2.jpg AdobeStock_136906517_2.jpg AdobeStock_136906517_2.jpg

För att ta reda på vad seniorer tycker och tänker när det gäller smarta, trygga hem vänder sig Skellefteå kommunen till experterna – seniorerna själva som vid sittande bord bekräftar för politiker och andra beslutsfattare att ålder bara är en siffra när det gäller digitalisering.

Politiker pluggar digitalisering

29 jan 2018 it i skolan

presentation-for-arbetsgrupp.jpg presentation-for-arbetsgrupp.jpg presentation-for-arbetsgrupp.jpg video

Politiker får ofta kritik att de har dålig koll på verksamheten de fattar beslut för. Men i Skellefteå utbildar sig Fredrik Stenberg och hans kollegor i för- och grundskolenämnden i skolans digitalisering.

Den nya ansvarsfulla intelligensen

22 feb 2018 digit

ai-robot-hållbar-AI-Daniel-Akenine.jpg ai-robot-hållbar-AI-Daniel-Akenine.jpg ai-robot-hållbar-AI-Daniel-Akenine.jpg

Artificiell intelligens som ärver människans fördomar, arbetsplatser där de anställda slutar och algoritmer som gör läkare och piloter överflödiga. Daniel Akenine, Microsoft, är initiativtagare till det humanistiska initiativet addAI.org som arbetar för att AI blir ansvarsfullt och människovänligt.

Förändringen som alla vill ha

23 feb 2018 digit

en liten väg rör sig nedför en backe bland pittoreska engelska hus.jpg en liten väg rör sig nedför en backe bland pittoreska engelska hus.jpg en liten väg rör sig nedför en backe bland pittoreska engelska hus.jpg

För första gången på 80 år är invånarna i byarna Newmarket och Haverhill i England på väg att få nya pendlingsmöjligheter – tack vare en förnyad datahantering. Lingjing Yin är en av personerna som bokstavligen har fått de nya hjulen att börja snurra.