AI-kommission tillsätts av regeringen – samtidigt som AI Act klubbas igenom
Under en pressträff på Kungliga Tekniska Högskolan (KTH) i Stockholm meddelade statsminister Ulf Kristersson att en svensk AI-kommission ska tillsättas. Syftet är enkelt: Sverige ska bli bättre på AI. Samtidigt har EU:s medlemsländer enats om AI-lagen AI Act efter långa förhandlingar.
Under ett besök på AI-labbet, KTH, som statsministern gjorde tillsammans med civil- och digitaliseringsminister Erik Slottner, presenterade statsråden att en ny, svensk AI-kommission ska tillsättas. Det rapporterar bland andra Dagens Industri. Syftet är att "vara med i matchen", som statsministern uttryckte det.
Kommissionen kommer att bestå av deltagare från bland annat akademin och näringslivet, och en rapport om hur Sverige kan stärka sin konkurrenskraft på AI-området ska presenteras 1 juli 2025. Leder kommissionen gör den tidigare styrelseordföranden för Volvo, Carl-Henric Svanberg.
Etnisk sortering via AI förbjuds
Samtidigt som regeringen presenterade sitt förslag, har EU förhandlat runt AI-lagstiftningen AI Act. Förhandlingen mellan EU-parlamentet, EU-kommissionen, och EU-rådet höll på i 22 timmar under onsdag och torsdag i förra veckan, och återupptogs under fredagen då parterna nådde ett gemensamt beslut.
– EU blir den första kontinent som sätter tydliga regler för användningen av AI, skriver Thierry Breton, EU-kommisionär med ansvar för den inre marknaden, på X.
Bland annat kommer användandet av ansiktsigenkänning att regleras, och enbart tillåtas för vissa brottsbekämpande ändamål.
Redovisa hur språkmodeller fungerar
Den största diskussionspunkten under förhandlingarna var att man var oense om så kallade foundation models, det vill säga AI-system som tränas på stora mängder data och som sen kan användas till många olika uppgifter.
Bland annat har Frankrike, Tyskland och Italien motsatt sig att företag som utvecklar den här typen av modeller ska regleras i lagtexten. Dessa länder vill att företag ska följa en uppförandekod självmant för att se till att AI utvecklats säkert.
Lösningen har blivit att företag som säljer AI-verktyg med bredare tillämpningsområden ska redovisa hur språkmodellerna fungerar. Samtidigt måste appar som anses kunna utgöra en systemrisk anpassa sig till EU:s kommande riskbegränsningar.
Ett annat område som begränsas är social rangordning och AI-användning för att manipulera människor och begränsa deras fria vilja. Även minderåriga, ekonomiskt utsatta grupper och människor med funktionshinder ska skyddas från att bli exploaterade.
Regelverket ska vara implementerat i nationell lagstiftning under 2025.
Fakta: Förbud och villkor för AI i EU på gång
Fredagens uppgörelse är ett avgörande steg mot en reglering av AI-verktyg i EU i framtiden. Om regelverket klubbas blir det:
- Förbud mot biometrisk kategorisering som utgår från känsliga faktorer som politiska åsikter, religion, filosofier, sexuell läggning och etnisk tillhörighet.
- Förbud mot ansiktsigenkänning på bred front baserat på underlag från internet eller övervakningskameror i syfte att bygga upp profiler i en databas.
- Förbud mot rörelsedetektorer på arbetsplatser eller på skolor och universitet.
- Förbud mot sociala rangordningssystem baserade på beteende och personlighet.
- Förbud mot AI-system som manipulerar människors beteende för att begränsa deras fria vilja
- Förbud mot AI-system som exploaterar människors sårbarhet utifrån ålder, funktionsnedsättning eller deras sociala och ekonomiska situation
- Det införs undantag från regelverket vad gäller ansiktsigenkänning i realtid för brottsbekämpning, om det finns tillstånd och ett specifikt ändamål för verksamheten. Det kan exempelvis handla om terrorhot och jakt på personer misstänkta för terrorism, människohandel, sexbrott, mord, kidnappning, våldtäkt, väpnat rån eller deltagande i en kriminell organisation samt miljöbrott.
Källa: EU-parlamentet/TT-Bloomberg
Läs mer om ämnet:
