Regering vill införa nytt system för marknadskontroll av AI
Regeringens utredare Helena Rosén Andersson lämnar över sin utredning till civil- och digitaliseringsminister Erik Slottner.
Ett nytt nationellt system för att övervaka och reglera AI-teknik i Sverige presenterades av regeringen under måndagen. Vissa typer av AI-system kan komma att förbjudas helt, samtidigt som en testmiljö föreslås i vilken företag och myndigheter kan utveckla AI-lösningar under kontrollerade former.
AI-utredningen har i dag överlämnat sitt betänkande till civilminister Erik Slottner med förslagen om hur Sverige ska anpassa sig till EU:s nya AI-förordning som trädde i kraft den 1 augusti 2024. Enligt utredningen bör Post- och telestyrelsen (PTS) få huvudansvaret för AI-tillsynen, tillsammans med Integritetsskyddsmyndigheten (IMY) och Finansinspektionen när det gäller så kallad högrisk-AI.
Förbud och strikta krav
Vissa AI-system föreslås att helt förbjudas, exempelvis system som används för emotionell igenkänning i skolor och på arbetsplatser eller AI för social poängsättning.
Högrisk-AI, som kan påverka människors säkerhet eller rättigheter, ska omfattas av strikta krav på dokumentation och tillsyn. Överträdelser kan enligt EU:s AI-förordning leda till böter på upp till 35 miljoner euro.
– AI skapar många nyttor för samhället men vi måste samtidigt hantera riskerna. Social poängsättning, bedrägerier och desinformation är några exempel på hur AI kan användas för att skada samhället, säger civilminister Erik Slottner under måndagens pressträff.
Regulatorisk sandlåda
För att främja innovation föreslår utredningen en särskild testmiljö för AI, en så kallad regulatorisk sandlåda, inrättad av Post- och telestyrelsen (PTS). Där ska företag, myndigheter och andra aktörer kunna utveckla och testa sina AI-lösningar under kontrollerade former med stöd från berörda myndigheter, utan att omedelbart omfattas av hela regelverket i AI-förordningen.
Sverige föreslås dessutom delta aktivt i EU:s AI-styrelse, med PTS som representant. De nya reglerna planeras börja gälla den 2 augusti 2026.
Läs mer om ämnet: