Genom att surfa vidare godkänner du att vi använder cookies. Jag förstår

En smartare it-nyhetssajt

Hållbar AI för Sverige

Anna Felländer är medlem i regeringens digitaliseringsråd och arbetar med ett Vinnova-projekt om hållbar AI. Det kan behövas, för algoritmer kan lätt lura oss till att göra saker som inte är bra, som att skapa ett sockerberoende enbart för att öka försäljningen. 

Text Fredrik Adolfsson Foto Mostphotos 30 november 2018 digit

kaffe-bulle-960640.jpg

AI dyker upp överallt och något som det forskas mycket kring just nu är hur samhället får till en etisk och moralisk intelligens. Anna Felländer arbetar med just detta och ger ett exempel från en internationell kaffekedja där AI användes för att skräddarsy caféets tjänster och öka kedjans försäljning. 

 Algoritmen kände av när under dagen den kunde rekommendera en kaffe eller bulle för att bättra på blodsockerhalten. Sedan var den också väldigt duktig på att tipsa om andra typer av service vid kundens köp av kaffe. Resultatet var så effektivt att försäljningen gick upp med 6 000 kalorier per konsument.

anna-felländer-redigerad.jpg

Anna Felländer

Anna Felländer är affilierad fakultet vid KTH, medlem i regeringens digitaliseringsråd och styrelsemedlem i Transportstyrelsen. 

 Algoritmen lärde sig att det finns en högre marginal på socker och munkar och kunde pressa på till att skapa ett sockerberoende. Det är ett exempel på när vinsterna med AI är förföriska och därför är det viktigt att föra etiska värderingar tillbaka på agendan. Företag har självklart sådana sedan tidigare, men de kan te sig annorlunda inom AI-ramverket, säger hon på Internetdagarna. 

Fyra fällor

Därför har nu Anna Felländer i projektet hållbar AI, tillsammans med Vinnova-gruppen, tagit fram fyra negativa etiska fallgropar kring AI och etik.

Den första fällan är missbruk av AI och data. Även om man är GDPR-compliant så kan AI skapa något som för dig som individ är integritetskränkande, eftersom att du arbetar på öppen data. Fastän vi genom GDPR tror oss ha hand om vår data så är det svårt att överblicka hur den används, menar Anna Felländer.

Nummer 2 handlar om att AI inte är neutralt, utan det är upp till personen som programmerar. Detta kan göras både omedvetet och medvetet.

– De som programmerar har ofta begränsad kunskap kring vad påverkan blir, inte bara vad gäller värderingar utan även vilken konsekvens det får. Till exempel blev Amazon anklagade för att vara diskriminerande när viss marknadsföring inte kom ut i vissa områden där mest svarta människor bodde. Då hade algoritmen lärt sig att det inte var kostnadseffektivt att rikta reklam dit.

Träning ger färdighet

En tredje fallgrop handlar om otränad data. Här finns det exempel på face recognition-applikationer som används idag som inte tränats tillräckligt på mörkhyade kvinnor. Detta är beklagligt men också något som kan skada förtroendet för applikationerna och teknologin som sådan, menar Anna Felländer.

Sista fällan är partiskhet i data. Det handlar om när data inte beskriver verkligheten eller den önskade verkligheten.

– Ett exempel kan vara en rekryteringsapp som arbetar med att rekommendera vd-kandidater där man sett att beteendena och kvalitéerna som gett upphov till befordring gjorts på en manlig population eller en bransch som varit väldigt mansdominerad, vilket förstärker normerna.

Det vill Anna Felländer, och de andra i projektet, arbeta emot samtidigt som de vill förstärka det som är bra med AI-utvecklingen.

– Fallgroparna blir allt fler och vi vill skapa verktyg som gör att vi kan undvika dessa. Kina och USA investerar otroligt mycket i AI-teknik utan att förstå fallgroparna som dyker upp om vi inte styr den rätt, men jag tror att vi i Sverige står väl positionerade på andra sidan myntet och kan skapa en mer hållbar AI.  

Rekommenderad läsning

Penna Skriver På Vit Bakgrund

Nyheter i Word

25 feb 2021 digit

Snart kommer en AI att föreslå vilket ord du ska skriva när du arbetar i Word och Outlook. Funktionen finns sedan tidigare hos Google och nu gör Microsoft en AI-lansering.

Studentmössa Mot Himmel

AI bättre än en student

25 feb 2021 digit

En AI, utvecklad av Elon Musks bolag OpenAI, fick i bättre betyg än några av studenterna, som skrev samma uppsats. Dessutom var AI:n betydligt snabbare än alla studenterna på att färdigställa sin text.

Träd 960640

AI gör Sverige klimatsmart

24 feb 2021 digit

AI kan hjälpa oss att möta klimatutmaningarna och genom forskning, en gemensam databank och övergripande samarbeten kan Sverige bli bäst på området. Det visar en ny rapport från bland annat AI Sweden och Rise. 

Person På Ett Av Bolidens Smältverk

Lönsam data för Boliden

23 feb 2021 digit

För att öka lönsamheten har Boliden Smältverk utvecklat en algoritm som ska optimera inköpsprocessen. En AI tränas med en stor mängd data om alltifrån råvarukvalitet till valutakurser och nu handlar det om att hitta den mest relevanta datakombinationen.

Workshop960640

Robotar i grupparbete

16 feb 2021 digit

För att robotar ska fungera i en grupp behöver de lära sig att inte upprepa vad andra har sagt och inte heller prata oväsentligheter. Det visar en studie från Umeå universitet.

Stål Verkstad Ai

AI för bättre stål

15 feb 2021 digit

Stålindustrin behöver bli mer effektiv och hållbar. Därför startas nu ett AI-projekt för att analysera stora mängder data och maskindynamik. Bland annat ingår Ovako i projektet.

Beingunthinkable Redigerad

AI-konst på IBM

9 feb 2021 digit

Den 11 februari invigs konstverket Being Unthinkable… vilket är en interaktiv bläckfiskliknande AI-skulptur. Den ska sväva fyra meter över marken på IBM:s huvudkontor i Kista och visa hur högavancerad teknik kan användas som verktyg för konst.

Pratbubbla I 3D Och I Svenska Flaggan

AI för myndigheter

4 feb 2021 digit

Snart finns en AI-lösning för svensk språkförståelse. Med Rise-projektet Språkmodeller för svenska myndigheter hoppas bland annat Skatteverket på smidigare administration och en mer flexibel dialog med medborgarna.

Markus Lingman 960640

Så jobbar Årets AI-svensk

1 feb 2021 digit

Inom en inte alltför avlägsen framtid kommer vi att få skräddarsydda behandlingar baserade på vårt unika genom. Det menar Markus Lingman, överläkare i Region Halland som 2020 utsågs till Årets AI-svensk.