Genom att surfa vidare godkänner du att vi använder cookies. Jag förstår

En smartare it-nyhetssajt

GDPR och hot mot AI

De flesta har idag koll på GDPR och personuppgifter men vad gäller när datan används till AI? Michael Veale, University College i London, forskar om öppenheten hos algoritmiska system i beslutsfattandet.

Text Tim Leffler Foto Adobestock 20 mars 2018 säkerhet

AdobeStock_55861092.jpeg

– GDPR kommer inte hindra att företag använder data i maskininlärning men man får vara lite försiktig. Inte minst eftersom information som finns kvar, när man skalat bort de rena personuppgifterna, visserligen kan se anonym ut på ytan men i själva verket kan datan användas för att identifiera personer, säger Michael Veale, teknologipolicyforskare vid University College i London.

Termostaten röjer dig

Det finns flera sätt som maskininlärningsalgoritmer kan bryta mot GDPR. Om jag till exempel vill använda en tjänst av företag och de kräver att jag ger företaget uppgifter om mig måste jag vara säker på att dessa uppgifter är nödvändiga för att jag ska kunna använda tjänsten.

På sikt hoppas jag att algoritmerna är mer transparenta.

Michael Veale , algoritmforskare

– Det har blivit lite av ett mantra att man ska ha rätt till en förklaring, det vill säga rätt till vad och varför företag använder uppgifter som är kopplade till mig som användare. Men jag är inte säker på att det är praktiskt genomförbart när det handlar om maskininlärningsalgoritmer och GDPR.

– För det första är det svårt att veta vilka förklaringar som är godtagbara och som går att utvinna ur algoritmen och för det andra är GDPR i sig fortfarande ganska otydlig om vilka fall man har rätt att avkräva den här informationen, säger Michael Veale, som nyligen publicerat en vetenskaplig artikel inom ämnet med titeln: Slave to the Algorithm? Why a ’Right to an Explanation’ Is Probably Not the Remedy You Are Looking For.

Ett potentiellt problem är att det som på ytan kan se ut som anonym data inte nödvändigtvis är det. Säg att ett företag samlar in data från din smarta termostat där hemma. Den datan är unik för dig och om du till exempel åker på semester så syns det i datan.

michael veale mindre.jpg

Michael Veale.

– Det behövs bara lite väldigt lite info från dig för att ta reda på att du är du och en maskininlärningsalgoritm snabbar förstås på det här.

Känsliga personuppgifter

Ett annat bekymmer är hur de olika delarna i GDPR ska hanteras. Exempelvis handlar Artikel 9 i GDPR om det man kallar för särskilda kategorier av personuppgifter. Det är känslig information om personer som det är förbjudet att samla på sig, som etnicitet, hudfärg och politiska åsikter.

Hur tycker du att offentlig sektor ska använda sig av maskininlärning?

– Jag tycker att maskininlärning ska användas mer som hjälpmedel och i första hand för kvantitativa arbetsuppgifter. Inom exempelvis skattemyndigheten borde maskininlärning kunna vara användbart. Kvalitativa och mer sociologiska arbetsuppgifter är fortfarande människor överlägsna på, inte minst eftersom vi är bättre på att upptäcka och bedöma ovanligheter än vad maskininlärningsalgoritmer är, och vi vill inte att våra algoritmer ska förvirra oss med korrelationer som inte är betydelsefulla. På sikt är min förhoppning att vi kommer kunna skapa algoritmer som är mer transparenta och på så sätt få mer användningsområden för dem.

Rekommenderad läsning

snip adobe AI UTAN KNAPP.jpg
video
Ett samarbete mellan Adobe och Voister

Sensei gör Adobe AI-smart

21 maj 2018 digit

Nu implementeras AI i alla Adobes produkter. Genom den intelligenta assistenten Adobe Sensei försvinner de tråkiga momenten för användaren som nu istället kan fokusera fullt ut på att nyttja sin kreativitet.

cool-snubbe-med-motorcykel2.jpg

AI bäst på hjärtsjukdom

7 sep 2018 it i vården

En diagnostisk modell som utvecklats med AI och maskininlärning har bättre kunnat förutsäga risken att drabbas av hjärtinfarkt än en modell som konstruerats av medicinska experter. Det visar en ny studie och resultaten öppnar för nya möjligheter att använda AI för diagnos och behandling av en rad olika sjukdomar.

spelar-sackpipa-vid-havet.jpg

Musik ska byggas av AI

9 nov 2018 digit

Ett system för maskininlärning övervakat av en forskare på KTH har hittills producerat 100 000 nya folkmusiklåtar. Målet med projektet är att lära datorer komponera och en del av resultatet finns redan på ett album utgivet av en irländsk folkmusikgrupp

glad-kvinna-i-vaxthus.jpg

AI hjälper psykologer

19 sep 2018 it i vården

En ny algoritm ställer psykologiska diagnoser genom att analysera vilka ord patienten använder för att beskriva sitt mående. Forskningen och innovationen har utnämnts till Startup of the year i entreprenörstävlingen Venture Cup. Nu testas Worddiagnostics på tre kliniker i Malmö.

ssab-utvecklas-med-ai.jpg

Big data på SSAB

6 nov 2018 digit

Nu ska stålindustrin utveckla sina redan omfattande mätprocesser med hjälp av AI, big data och maskininlärning. Bakom forskningsprojektet Swedish Metal finns Sandvik och SSAB och målet är en mer konkurrenskraftig och hållbar ståltillverkning.

bowie.jpg

Algoritm som artist

25 mar 2019 digit

Första skivkontraktet med en algoritm har signerats. Warner Music har kommit överens med tyska appen Endel om att producera 20 album under 2019.

joy-buolamwini-nära.jpg

Risken med partiska algoritmer

16 maj 2019 digit

Ett problem med dagens AI-utveckling är att tekniken oftast designas av vita personer och män. Det menar forskaren Joy Boulamwini som granskat algoritmer inom ansiktsigenkänning hos olika storföretag och där kunnat bevisa att färgade personer och kvinnor misskrediteras. 

skog-sveaskog.jpg

Satellit skyddar skogen

23 apr 2019 digit

Sveaskog vill se ett slut på granbarkborrens förstöring av den svenska skogen. Därför har bolaget börjat använda sig av en intelligent satellitlösning som i realtid visualiserar insekternas framfart.

skargard foto.jpg
Ett samarbete mellan Lenovo och Voister

Server som möter GDPR-krav

17 nov 2017 digit

Allt mer handlar om mjukvarudefinierade system. Lenovo vill göra det ännu enklare att möta framtidens krav och lanserar nu en helt ny serie servrar under namnet ThinkSystem.