Genom att surfa vidare godkänner du att vi använder cookies. Jag förstår

En smartare it-nyhetssajt

Stopp för laglös AI

Från beslutsstöd för läkare till avancerade vapensystem finns det många möjligheter och farhågor kring utvecklingen av AI. Med stöd från Vinnova arbetar nu en grupp forskare kring ett verktyg som ska säkra att ny AI följer viktiga lagar och förordningar.

Text anne hammarskjöld Foto adobestock 25 februari 2020 digit

karneval-mask.jpg

– Å ena sidan finns det faror, å andra sidan möjligheter. Vi kan tjäna mänskligheten om vi använder AI till saker som är positiva för människor, som att upptäcka sjukdomar. Men om vi använder AI för att exploatera mänskligheten, så kan följderna bli mycket negativa. Det är orsaken till att vi måste agera på ett etiskt sätt, säger Cristina Trenta, docent i rättsvetenskap vid Örebro universitet.

Stöd från Vinnova

Hon ingår i en grupp forskare inom olika discipliner som ska genomför en första studie kring ett nytt system för en hållbar AI-utveckling. Under ledning av stiftelsen Lightnet Foundation är målet att utveckla ett digitalt verktyg som ska hjälpa AI-projekt att följa god etik och gällande lagar och förordningar. Vinnova stödjer den första delen av projektet.

Den prototyp till ett avancerat verktyg som man tänker konstruera ska ha kontroll över utvecklingen av ny AI. Bakgrunden till projektet är förhoppningarna om hur AI ska kunna användas i framtiden.

FN och EU

Frågan om hur den nya tekniken ska hanteras juridiskt är högaktuell och behandlas på många olika nivåer. FN-organet Unesco arbetar med frågan, och EU-kommissionens expertgrupp har nyligen publicerat ett etiskt ramverk för AI.

Där konstateras att tillförlitlig AI helst ska uppfylla tre kriterier: den ska följa lagarna, vara etisk och tekniskt pålitlig. Redan idag finns en del internationella och nationella lagar som går att använda som grund. Men AI-utvecklingen kommer att ställa mycket höga krav på lagskrivarna.

– Teknik ändras snabbt, lagar långsamt. Vi kan inte skriva en lag som är inaktuell redan när den börjar användas. Vi måste kunna se in i framtiden, säger Cristina Trenta.

Källa: Örebro universitet

 

 

Senaste nytt

Äkta mat med blockkedja

3 juli 2020

Mat till ett värde av 300 miljarder dollar kan spåras med hjälp av blockkedja och IoT, vilket skulle innebär att livsmedelsindustrin kan spara drygt 100 miljarder dollar om året. Det visar en ny rapport.

KTH mot alzheimer

3 juli 2020

Med hjälp av molekylär AI och machine learning kan mysterierna kring alzheimer och andra hjärnsjukdomar komma närmare en lösning. Metoden ska ge en bättre bild av hjärnan än vad mikroskop ger. Det menar forskare på KTH och Karolinska Institutet.

Fejkappar på Google

2 juli 2020

Google har tagit bort 25 appar med skadlig kod som kapade inloggningsuppgifter till bland annat Facebook. Apparna har över 2,3 miljoner nedladdningar.

Coop kör obemannat

2 juli 2020

Coop testar en egenutvecklad ny tjänst för självscanning och betalning med mobilen. I höst kommer matkedjan även öppna sina första obemannade butiker.

Säkra sommartips

1 juli 2020

Dela inte dina semesterbilder med alla, skippa öppna trådlösa nätverk och säkerhetskopiera och uppdatera dina enheter. Det är Internetstiftelsens tips för en säkrare sommar.

2 miljoner mobiler

1 juli 2020

Två miljoner relativt nya och fungerande mobiltelefoner finns i svenska hushåll, men används inte. Det visar en ny undersökning från Halebop.