Genom att surfa vidare godkänner du att vi använder cookies. Jag förstår

En smartare it-nyhetssajt

Hållbar AI för Sverige

Anna Felländer är medlem i regeringens digitaliseringsråd och arbetar med ett Vinnova-projekt om hållbar AI. Det kan behövas, för algoritmer kan lätt lura oss till att göra saker som inte är bra, som att skapa ett sockerberoende enbart för att öka försäljningen. 

Text Fredrik Adolfsson Foto Mostphotos 30 november 2018 digit

kaffe-bulle-960640.jpg

AI dyker upp överallt och något som det forskas mycket kring just nu är hur samhället får till en etisk och moralisk intelligens. Anna Felländer arbetar med just detta och ger ett exempel från en internationell kaffekedja där AI användes för att skräddarsy caféets tjänster och öka kedjans försäljning. 

 Algoritmen kände av när under dagen den kunde rekommendera en kaffe eller bulle för att bättra på blodsockerhalten. Sedan var den också väldigt duktig på att tipsa om andra typer av service vid kundens köp av kaffe. Resultatet var så effektivt att försäljningen gick upp med 6 000 kalorier per konsument.

anna-felländer-redigerad.jpg

Anna Felländer

Anna Felländer är affilierad fakultet vid KTH, medlem i regeringens digitaliseringsråd och styrelsemedlem i Transportstyrelsen. 

 Algoritmen lärde sig att det finns en högre marginal på socker och munkar och kunde pressa på till att skapa ett sockerberoende. Det är ett exempel på när vinsterna med AI är förföriska och därför är det viktigt att föra etiska värderingar tillbaka på agendan. Företag har självklart sådana sedan tidigare, men de kan te sig annorlunda inom AI-ramverket, säger hon på Internetdagarna. 

Fyra fällor

Därför har nu Anna Felländer i projektet hållbar AI, tillsammans med Vinnova-gruppen, tagit fram fyra negativa etiska fallgropar kring AI och etik.

Den första fällan är missbruk av AI och data. Även om man är GDPR-compliant så kan AI skapa något som för dig som individ är integritetskränkande, eftersom att du arbetar på öppen data. Fastän vi genom GDPR tror oss ha hand om vår data så är det svårt att överblicka hur den används, menar Anna Felländer.

Nummer 2 handlar om att AI inte är neutralt, utan det är upp till personen som programmerar. Detta kan göras både omedvetet och medvetet.

– De som programmerar har ofta begränsad kunskap kring vad påverkan blir, inte bara vad gäller värderingar utan även vilken konsekvens det får. Till exempel blev Amazon anklagade för att vara diskriminerande när viss marknadsföring inte kom ut i vissa områden där mest svarta människor bodde. Då hade algoritmen lärt sig att det inte var kostnadseffektivt att rikta reklam dit.

Träning ger färdighet

En tredje fallgrop handlar om otränad data. Här finns det exempel på face recognition-applikationer som används idag som inte tränats tillräckligt på mörkhyade kvinnor. Detta är beklagligt men också något som kan skada förtroendet för applikationerna och teknologin som sådan, menar Anna Felländer.

Sista fällan är partiskhet i data. Det handlar om när data inte beskriver verkligheten eller den önskade verkligheten.

– Ett exempel kan vara en rekryteringsapp som arbetar med att rekommendera vd-kandidater där man sett att beteendena och kvalitéerna som gett upphov till befordring gjorts på en manlig population eller en bransch som varit väldigt mansdominerad, vilket förstärker normerna.

Det vill Anna Felländer, och de andra i projektet, arbeta emot samtidigt som de vill förstärka det som är bra med AI-utvecklingen.

– Fallgroparna blir allt fler och vi vill skapa verktyg som gör att vi kan undvika dessa. Kina och USA investerar otroligt mycket i AI-teknik utan att förstå fallgroparna som dyker upp om vi inte styr den rätt, men jag tror att vi i Sverige står väl positionerade på andra sidan myntet och kan skapa en mer hållbar AI.  

Rekommenderad läsning

ai robot .jpg
Voister förklarar

Artificiell intelligens

5 dec 2017 Voister förklarar

Är AI en hjälp i vår strävan efter ett bättre samhälle eller det största hotet mot mänskligheten? Därom tvista de lärde men forskarna låter inte lite käbbel stoppa dem. Idag anser it-förgrundsfigurer som Microsofts Satya Nadella och Amazons Jeff Bezos att AI är den nya digitala guldådern.

ai-robot-hållbar-AI-Daniel-Akenine.jpg

Den nya ansvarsfulla intelligensen

22 feb 2018 digit

Artificiell intelligens som ärver människans fördomar, arbetsplatser där de anställda slutar och algoritmer som gör läkare och piloter överflödiga. Daniel Akenine, Microsoft, är initiativtagare till det humanistiska initiativet addAI.org som arbetar för att AI blir ansvarsfullt och människovänligt.

självkörande-bil.jpg

Säkrare trafik med AI

23 jan 2018 digit

När svenskarna får drömma fritt om vad AI kan hjälpa dem med ligger säkrare trafik i topp. Men många hoppas även på att få en AI-kompis och att AI kan planera pensionen.

crowd.jpg

Telias chattbottar tar över kundmötet

5 jan 2018 digit

Efter köpet av Humany ska Telia snart kunna erbjuda en helt AI-baserad kundservice med naturlig språkförståelse för olika kontaktytor. 

människa och robot öga står öga mot öga.jpg

När AI är smartare än människan

2 jan 2018 digit

2045 kan vara året då vi har supermänsklig artificiell intelligens på jorden. Hur förbereder vi oss för den sista uppfinningen och vilken moral ska gälla?

gröna växter i stort jordbruksfält en solig dag.jpg
Nominerad årets digitaliseringsledare

Lantmäteriets lovande lösningar

9 jan 2018 digit

På Lantmäteriet blygs man inte digitala innovationer. De senaste åren har myndigheten introducerat blockkedjor, AR och gamification – allt för att förbättra kundupplevelsen.

snip hasel.JPG

Mänskliga roboten Hasel

17 jan 2018 digit

Nästa steg inom mjuk robotik tros vara här. Roboten Hasel kan handskas med råa ägg, lyfta 200 gånger sin egen vikt, och är billig och självläkande.

kth-självseglande-båt-960640.jpg

Självkör i vind

15 mar 2018 digit

Snart kan du ute till sjöss möta på en segelbåt utan besättning. På KTH forskas det om autonoma segelbåtar som ska kunna segla i en månad oberoende av väder helt utan mänsklig hjälp.

en bild över vatikanen och rom i när solen är i horisonten.jpg

Vatikanen löser språket med AI

28 mar 2018 digit

Italienska forskare vill ta hjälp av AI för att försöka transkribera några av de urgamla texter som finns gömda i Vatikanens enorma samling.