Genom att surfa vidare godkänner du att vi använder cookies. Jag förstår

En smartare it-nyhetssajt

När AI är smartare än människan

2045 kan vara året då vi har supermänsklig artificiell intelligens på jorden. Hur förbereder vi oss för den sista uppfinningen och vilken moral ska gälla?

Text Tim Leffler Foto Adobestock, Jonatan Permert 2 januari 2018 digit

människa och robot öga står öga mot öga.jpg

– En stor europeisk undersökning har gjorts bland maskininlärningsforskare med olika specialisering med frågan om vilket år det är 50 procents chans att det finns superintelligens på jorden. Mediansvaret blev år 2045. Det kan förstås hända tidigare, men det kan också hända betydligt senare. Det finns ingen ordentlig koncensus men det är ändå mycket viktigt att vara redo när den tiden kommer, oavsett när, säger Nick Bostrom.

Nick Bostrom växte upp i Helsingborg och är i dag professor i filosofi vid Oxfords universitet. Där grundade han för 16 år sedan Future Humanity Institute, FHI. Då hade han just myntat uttrycket existentiell risk och drev hypotesen att vi människor en dag antingen kunde bli helt förintade, eller få våra mål och vår potential kringskuren.

I höstas besökte filosoferna Nick Bostrom och Daniel Dennett Stockholm för att diskutera medvetande och supermänsklig artificiell intelligens i ett arrangemang av Fri Tanke förlag och Kungliga Vetenskapsakademien. 

Kompetens utan förståelse

Under sin karriär som filosof och kognitionsforskare har Daniel Dennett intresserat sig för det mänskliga medvetandet. Daniel Dennett har skrivit flera böcker i ämnet och hans grundtes går ut på att det inte finns någon enskild förare i huvudet där vårt medvetande sitter. Det vi kallar medvetandet är ett resultat av hjärnans alla neuroner, alltså den bearbetning av olika sinnesintryck och annan information som resulterar i komplexa beteenden hos människor och andra djur.

Han kallar detta för kompetens med förståelse. Det finns nämligen många system som är kompetenta men som saknar förståelse. Ett bra exempel är myran som tillsammans med miljontals kompisar bygger myrstackar och samlar mat. Imponerande, javisst, men till skillnad från när människor löser komplexa uppgifter inte ett resultat av att myrorna gör summan större än sina delar. I myrornas fall handlar det alltså om kompetens men inte om förståelse.

Vi behöver fråga oss om det är nya verktyg eller nya kollegor vi vill ha.

DANIEL DENNET , PROFESSOR I FILOSOFI VID TUFTUNIVERSITETET

Enligt Daniel Dennett är det i princip så dagens datorer fungerar. De är kompetenta men inte särskilt förståndiga. Han är dessutom tveksam till att vi verkligen kommer att se system som kombinerar förståelse med kompetens, och särskilt skeptisk är han till att vi kommer att se system med supermänsklig intelligens. Kortfattat kan Daniel Dennetts invändningar sammanfattas så här:

1. Medvetande är effekten av hur ett stort antal av våra miljarder neuron är ihopkopplade;

2. Medvetande bör därför kunna uppstå varhelst ett tillräckligt antal neuron (artificiella eller naturliga) är ihopkopplade på ett liknande sätt som hos människor. Var gränsen går vet vi inte i dag.

Detta lämnar oss enligt Dennett med en hård nöt att knäcka givet att varje neuron i sig är en uppbyggd cell med en unik uppgift i vårt komplexa nervsystem. Enbart i hjärnan finns uppskattningsvis 86 miljarder neuron, hjärnceller. Därför krävs det enorma mängder information, kunskap och kompetens för att sätta ihop ett liknande system på artificiell väg – om det överhuvudtaget är önskvärt.

– Jag frågar mig varför företag är villiga att utveckla en supermänsklig AI? I första hand är det ju olika typer av verktyg för oss människor som man vill utveckla; verktyg som förenklar och förbättrar livet för oss. Ju mer självgående och självlärande ett system blir, desto mindre praktiskt verktyg blir det och desto mer hänsyn måste vi visa det. Vi behöver fråga oss om det är nya verktyg eller nya kollegor som vi eftersträvar, säger Daniel Dennet som är professor i filosofi vid Tuftsuniversitetet i USA och föreståndare för dess centrum för kognitiva studier.

Hur ska vi behandla AI?

Daniel Dennetts teori förutsätter alltså att medvetande och förståelse går hand i hand och att vägen till konstgjorda system med samma egenskaper torde ligga mycket längre in i framtiden än vad många verkar tro.

Det finns fler skäl att vara ödmjuk inför kommande robotiserade innovationer, menar filosofen Daniel Dennett.

– Medvetande är en gradfråga; det är inte så att man antingen har det eller inte. Därför finns det anledning att behandla andra djurarter som mål i sig, och kanske även kommande artificiellt intelligenta entiteter. Men för mig handlar moraliskt ansvar mindre om medvetenhet och mer om politik – vi kan bli känslosamma och uppleva orättvisa utan att något som är medvetet har drabbats.

dennet och bostrom diskuterar ai på cirkus i stockholm.jpg

Filosoferna Daniel Dennet (t.v.) och Nick Bostrom diskuterar supermänsklig artificiell intelligens med Humanisternas Christer Sturmark (t.h.) på Cirkus i Stockholm.

Daniel Dennett tar den amerikanska flaggan och hur människor mår dåligt om någon spottar på den som exempel. Flaggan saknar medvetenhet men angrepp på den innebär angrepp på en idé om USA:s värde och värderingar som har stor känslomässig betydelse för många.

Det är svårt att veta om myran lider när den lille pojken sätter eld på den med ett förstoringsglas och solen, men det finns ändå starka skäl för pojken att inte göra det.

– Detta måste vi ha med oss när vi talar om hur vi bemöter och betraktar kommande artificiella, generella intelligenssystem oavsett om de är en maskin i en låda eller något som liknar en människa på pricken. Att vi inte vill behandla de sistnämnda illa bör ha evolutionära förklaringar eftersom de verkar mer lika oss. Det är också en farlig tanke att den likheten är viktig för vår moraliska kompass, säger Daniel Dennett.

Sanningens ögonblick

Som kontrast till alla forskare och företag som utvecklar allt mer avancerad AI och har tagit upp jakten på den supermänskliga intelligensen, tar Nick Bostrom och hans kollegor på Future Humanity Institute ett steg tillbaka och frågar sig vilka potentiella effekter den utvecklingen kan ha på mänskligheten. Det handlar framför allt om det som brukar kallas generell artificiell intelligens och som tack vare en sorts förståelse kan lösa flera uppgifter. Enligt Nick Bostrom finns det ingen tid att förlora. 

Det som ibland kallas för den sista uppfinningen har enligt Nick Bostrom potentialen att kasta oss snabbare in i framtiden än vad någon annan uppfinning har gjort. Inte minst för att den kommer lösa problem och skapa nya intelligenta system som vi människor tidigare inte varit kapabla till.

Vi vill inte stå oförberedda.

Nick Bostrom, professor i filosofi vid Oxforduniversitetet.

Hur ska AI behandla oss?

Även om Nick Bostrom inte vill ange någon tidshorisont för den pågående utvecklingen bedömer han att den kanske enskilt viktigaste frågan för oss idag är hur vi ska kunna kontrollera dessa system. Går det överhuvudtaget att bygga in kontrollmekanismer som säkrar att systemens moraliska kompass stämmer med vår? Och vilken moralbild förenar oss, vilken är den ”bästa” om det finns en sådan?

Frågorna för Nick Bostrom och hans 20 kollegor på Future Humanity Institute är många.

– Det finns anledning att fundera över hur människans alla egenheter och egenskaper kan komma till uttryck i artificiella system. Vi vill inte stå oförberedda, säger han.

Enligt Daniel Dennett kan ett sådant område ligga närmare i tiden än vi tror.

– Jag tror att det är framför allt inom äldrevården som dessa än så länge icke-superintelligenta system och manicker kommer ha den första omedelbara effekten. Därför vill jag att dessa tas på allvar även om vi inte kommer att se något superintelligent system inom en överskådlig framtid. Hur ska vi behandla dem och hur bör de behandla oss? Hur skiljer vi på autonoma agenter och rena verktyg? De är de viktigaste rent filosofiska frågor som jag ser framför mig.

Rekommenderad läsning

Brist It Kompetens

70 000 saknas inom it

21 dec 2020 digit

It och telekom stod för 60 procent av nya jobb under 2010 till 2016, men för att branschen ska fortsätta att driva utveckling krävs det 70 000 medarbetare, framförallt inom AI, datahantering och programmering. Det visar en ny rapport från IT&Telekomföretagen.

Arbetsformedlingen Arbetssokande

Så förändras Af

16 nov 2020 digit

Arbetsförmedlingen ska genom digitalisering och automatisering bli mer objektivt och både öka rättssäkerheten och transparensen för de arbetssökande. Med förändringarna går it från att vara stödverksamhet till kärnverksamhet och för att öka förståelsen av arbetsmarknaden använder myndigheten AI och ML.

Kontor Coor 960640

Framtidens IoT-kontor

3 nov 2020 digit

Coor använder sensorer på kontor för att mäta koldioxidhalt, temperatur, luftfuktighet samt hur utrymmen används. Inte minst sedan covid-19 drabbade världen är ren luft, fri från virus, viktigt för att öka tryggheten hos anställda. 

Buss Iot 960640

Sensorer mäter luft

22 okt 2020 digit

Nu mäts Stockholms luftkvalitet med en sensor sittandes på en buss i stadstrafiken. I projektet deltar bland annat Stockholms stad, KTH och MIT. 

Ljus Väg Som En Tunnel Mellan Träd Som Växer Över
video
Ett samarbete med IBM

IBM:s gröna framtid

21 okt 2020 digit

Bättre teknik för att fånga in koldioxid och för att smartare härma naturens sätt att omvandla kväve. Det är två av de fem stora mål som IBM sätter upp och bidra till att utveckla de kommande fem åren. Och det blir möjligt tack vare AI, kvantdatorer och det hybrida molnet. 

Lastbil Kör Fort På Motorväg2

Af:s snabba datorbyte

6 okt 2020 digit

Med 11 500 medarbetare krävs en effektiv process för byte av datorer. Arbetsförmedlingen har valt en swap-tjänst som innebär att en trasig pc ersätts på 16 timmar. Den nya datorn har tvåfaktorautentisering och är dedicerad till medarbetaren.

Ekg Med Fingret

Fingret på mobilpulsen

15 sep 2020 digit

Danderyds sjukhus testar diagnostik av hjärtrytm via hand och telefon. Genom att hålla ett finger mot mobilkameran registrerar en algoritm blodflödet och gör en automatisk tolkning av rytmen och resultaten är lika trovärdiga som traditionell EKG. 

Stockholm Sverige Omstartskommissionen

Så omstartar Sverige

18 aug 2020 digit

Ett nytt digitaliseringsmål, en nationell plattform för myndighetsdata och bibliotek som minskar det digitala utanförskapet. Det är några av Amy Loutfis förslag i Omstartskommissionens rapport för ett starkare digitalt Sverige.

Karolinska

Corona förändrade Karolinska

15 jun 2020 digit

När covid-19 kom till Sverige förändrades verkligheten för medarbetarna på Karolinska Universitetssjukhuset. Plötsligt krävdes ett stort antal virtuella mötesrum och it-avdelningen jobbade sju dagar i veckan för att hinna leverera. Pandemin har också gjort läkare och annan vårdpersonal mer mottaglig för ny teknik.