Genom att surfa vidare godkänner du att vi använder cookies. Jag förstår

En smartare it-nyhetssajt

Stopp för laglös AI

Från beslutsstöd för läkare till avancerade vapensystem finns det många möjligheter och farhågor kring utvecklingen av AI. Med stöd från Vinnova arbetar nu en grupp forskare kring ett verktyg som ska säkra att ny AI följer viktiga lagar och förordningar.

Text anne hammarskjöld Foto adobestock 25 februari 2020 digit

karneval-mask.jpg

– Å ena sidan finns det faror, å andra sidan möjligheter. Vi kan tjäna mänskligheten om vi använder AI till saker som är positiva för människor, som att upptäcka sjukdomar. Men om vi använder AI för att exploatera mänskligheten, så kan följderna bli mycket negativa. Det är orsaken till att vi måste agera på ett etiskt sätt, säger Cristina Trenta, docent i rättsvetenskap vid Örebro universitet.

Stöd från Vinnova

Hon ingår i en grupp forskare inom olika discipliner som ska genomför en första studie kring ett nytt system för en hållbar AI-utveckling. Under ledning av stiftelsen Lightnet Foundation är målet att utveckla ett digitalt verktyg som ska hjälpa AI-projekt att följa god etik och gällande lagar och förordningar. Vinnova stödjer den första delen av projektet.

Den prototyp till ett avancerat verktyg som man tänker konstruera ska ha kontroll över utvecklingen av ny AI. Bakgrunden till projektet är förhoppningarna om hur AI ska kunna användas i framtiden.

FN och EU

Frågan om hur den nya tekniken ska hanteras juridiskt är högaktuell och behandlas på många olika nivåer. FN-organet Unesco arbetar med frågan, och EU-kommissionens expertgrupp har nyligen publicerat ett etiskt ramverk för AI.

Där konstateras att tillförlitlig AI helst ska uppfylla tre kriterier: den ska följa lagarna, vara etisk och tekniskt pålitlig. Redan idag finns en del internationella och nationella lagar som går att använda som grund. Men AI-utvecklingen kommer att ställa mycket höga krav på lagskrivarna.

– Teknik ändras snabbt, lagar långsamt. Vi kan inte skriva en lag som är inaktuell redan när den börjar användas. Vi måste kunna se in i framtiden, säger Cristina Trenta.

Källa: Örebro universitet

 

 

Senaste nytt

MS anpassar moln

1 mars 2021

Microsoft lanserar fler molntjänster anpassade till olika branscher. Nya områden är bland annat bank och finans och industri.

Digital brottskarta

1 mars 2021

Region Stockholm lanserar en karta över anmälda brott. Syftet är att ge polis och övriga i samhället bättre koll och att skadegörelse, droger och inbrott ska minska.

App hittar alzheimer

26 februari 2021

Karolinska universitetssjukhuset har varit med och utvecklat ett verktyg en app för snabbare demens- och alzheimer-diagnostik. Förhoppningen är att upptäcka sjukdomsförloppet tidigare.  

Boom för robotar

26 februari 2021

Coronapandemin har lett till en ökad efterfrågan på servicerobotar. Försäljningen gick upp med 24 procent under 2020 och kommer fortsätta öka 2021.

AI bättre än en student

25 februari 2021

En AI, utvecklad av Elon Musks bolag OpenAI, fick i bättre betyg än några av studenterna, som skrev samma uppsats. Dessutom var AI:n betydligt snabbare än alla studenterna på att färdigställa sin text.

126 000 hot/minut

25 februari 2021

Under 2020 skedde 62,6 miljarder cyberhot, det vill säga 126 000 hot per minut. Det är en ökning med 20 procent jämfört med 2019 som bland annat beror på att många har arbetat hemifrån och att hemmanätverken inte håller tillräcklig säkerhetsnivå.