Genom att surfa vidare godkänner du att vi använder cookies. Jag förstår

En smartare it-nyhetssajt

Hållbar AI för Sverige

Anna Felländer är medlem i regeringens digitaliseringsråd och arbetar med ett Vinnova-projekt om hållbar AI. Det kan behövas, för algoritmer kan lätt lura oss till att göra saker som inte är bra, som att skapa ett sockerberoende enbart för att öka försäljningen. 

Text Fredrik Adolfsson Foto Mostphotos 30 november 2018 digit

kaffe-bulle-960640.jpg

AI dyker upp överallt och något som det forskas mycket kring just nu är hur samhället får till en etisk och moralisk intelligens. Anna Felländer arbetar med just detta och ger ett exempel från en internationell kaffekedja där AI användes för att skräddarsy caféets tjänster och öka kedjans försäljning. 

 Algoritmen kände av när under dagen den kunde rekommendera en kaffe eller bulle för att bättra på blodsockerhalten. Sedan var den också väldigt duktig på att tipsa om andra typer av service vid kundens köp av kaffe. Resultatet var så effektivt att försäljningen gick upp med 6 000 kalorier per konsument.

anna-felländer-redigerad.jpg

Anna Felländer

Anna Felländer är affilierad fakultet vid KTH, medlem i regeringens digitaliseringsråd och styrelsemedlem i Transportstyrelsen. 

 Algoritmen lärde sig att det finns en högre marginal på socker och munkar och kunde pressa på till att skapa ett sockerberoende. Det är ett exempel på när vinsterna med AI är förföriska och därför är det viktigt att föra etiska värderingar tillbaka på agendan. Företag har självklart sådana sedan tidigare, men de kan te sig annorlunda inom AI-ramverket, säger hon på Internetdagarna. 

Fyra fällor

Därför har nu Anna Felländer i projektet hållbar AI, tillsammans med Vinnova-gruppen, tagit fram fyra negativa etiska fallgropar kring AI och etik.

Den första fällan är missbruk av AI och data. Även om man är GDPR-compliant så kan AI skapa något som för dig som individ är integritetskränkande, eftersom att du arbetar på öppen data. Fastän vi genom GDPR tror oss ha hand om vår data så är det svårt att överblicka hur den används, menar Anna Felländer.

Nummer 2 handlar om att AI inte är neutralt, utan det är upp till personen som programmerar. Detta kan göras både omedvetet och medvetet.

– De som programmerar har ofta begränsad kunskap kring vad påverkan blir, inte bara vad gäller värderingar utan även vilken konsekvens det får. Till exempel blev Amazon anklagade för att vara diskriminerande när viss marknadsföring inte kom ut i vissa områden där mest svarta människor bodde. Då hade algoritmen lärt sig att det inte var kostnadseffektivt att rikta reklam dit.

Träning ger färdighet

En tredje fallgrop handlar om otränad data. Här finns det exempel på face recognition-applikationer som används idag som inte tränats tillräckligt på mörkhyade kvinnor. Detta är beklagligt men också något som kan skada förtroendet för applikationerna och teknologin som sådan, menar Anna Felländer.

Sista fällan är partiskhet i data. Det handlar om när data inte beskriver verkligheten eller den önskade verkligheten.

– Ett exempel kan vara en rekryteringsapp som arbetar med att rekommendera vd-kandidater där man sett att beteendena och kvalitéerna som gett upphov till befordring gjorts på en manlig population eller en bransch som varit väldigt mansdominerad, vilket förstärker normerna.

Det vill Anna Felländer, och de andra i projektet, arbeta emot samtidigt som de vill förstärka det som är bra med AI-utvecklingen.

– Fallgroparna blir allt fler och vi vill skapa verktyg som gör att vi kan undvika dessa. Kina och USA investerar otroligt mycket i AI-teknik utan att förstå fallgroparna som dyker upp om vi inte styr den rätt, men jag tror att vi i Sverige står väl positionerade på andra sidan myntet och kan skapa en mer hållbar AI.  

Rekommenderad läsning

ai robot .jpg
video
Voister förklarar

Artificiell intelligens

5 dec 2017 Voister förklarar

Är AI en hjälp i vår strävan efter ett bättre samhälle eller det största hotet mot mänskligheten? Därom tvista de lärde men forskarna låter inte lite käbbel stoppa dem. Idag anser it-förgrundsfigurer som Microsofts Satya Nadella och Amazons Jeff Bezos att AI är den nya digitala guldådern.

ai-robot-hållbar-AI-Daniel-Akenine.jpg

Den nya ansvarsfulla intelligensen

22 feb 2018 digit

Artificiell intelligens som ärver människans fördomar, arbetsplatser där de anställda slutar och algoritmer som gör läkare och piloter överflödiga. Daniel Akenine, Microsoft, är initiativtagare till det humanistiska initiativet addAI.org som arbetar för att AI blir ansvarsfullt och människovänligt.

student.jpg

Kommunens nytta med AI

21 feb 2019 digit

Mycket av det som sägs om AI inom offentlig sektor är högst tveksamt och istället bör det vara mer fokus på verklig nytta. Det menar Markus Bylund, strategichef it och digitalisering i Uppsala kommun.

bygghjälm och pappersrulle.jpg

Jobben som försvinner

3 apr 2019 digit

Hela 80 procent av all den manuella projektledningen som sker idag kommer 2030 att genomföras av artificiell intelligens. Det skriver Gartner i en ny rapport.

diskmaskin.jpg
video

Första smarta roboten

22 mar 2019 digit

Genom det nya KPAM-systemet så kan robotar identifiera, plocka upp och hantera föremål som den inte sett tidigare. Detta kan vara till stor hjälp på bland annat fabriker och ses som ett genombrott då robotar tidigare krävt förprogrammering.

bowie.jpg

Algoritm som artist

25 mar 2019 digit

Första skivkontraktet med en algoritm har signerats. Warner Music har kommit överens med tyska appen Endel om att producera 20 album under 2019.

personer.jpg

Ursäkta, vem är du?

16 jan 2019 digit

Har du problem med att känna igen och placera några av dina mer flyktiga kollegor? Eller kanske rent utav dina vänner? Du kan vara lugn, snart lanseras MyMe. 

kugghjul-i-glada-farger.jpg

Ännu smartare AI

19 feb 2019 digit

En transistor i organisk elektronik som kan lära sig och både har kort- såväl som långtidsminne är ett genombrott inom maskininlärning. Tekniken som utvecklats vid Linköpings universitet gör det möjligt att efterlikna hur den mänskliga hjärnan fungerar.

goteborg-ai.jpg

Göteborg navet för AI

8 feb 2019 digit

Det nationella centret AI Innovation of Sweden har öppnats. Satsningen ska fungera som en motor i det svenska AI-ekosystemet.