"Låt Ulf Kristersson bli en förebild för våra politikers AI-användning"

Under sommaren väckte statsministerns användning av AI-verktyg stor uppmärksamhet och ledde till en livlig debatt. I en intervju med Dagens Industri berättade Kristersson att han gärna tar hjälp av ChatGPT och LeChat för att få en ”second opinion”, samtidigt som han betonade att ingen säkerhetskänslig information delas. Reaktionerna lät inte vänta på sig.

Datavetenskapsprofessorn Simone Fischer-Hübner varnade för att AI både kan hallucinera och potentiellt lagra information ämnat att användas i framtida modeller. Expressens kulturchef Victor Malm beskrev det som ”bananas” att outsourca sitt tänkande till en sannolikhetsmaskin. Ledarkolumnisten Signe Krantz talade i sin tur om en ”AI-psykos” och varnade för såväl säkerhetsrisker som ett växande beroende av tekniken.

AI under utveckling

Debatten speglar ganska väl var vi står idag i synen på AI och dess möjligheter och risker. I grunden kokar diskussionen ner till en central fråga: ”Till vad ska vi använda AI och till vad ska vi inte det?”

Svaret på frågan förändras förstås i takt med att AI utvecklas, men även vilken typ av AI vi använder. För all AI är inte språkmodeller som ChatGPT, eller Copilot för den delen. När vi idag ser på språkmodeller har de gått från enklare statistiska ordmodeller till alltmer sofistikerade system. Förbättringarna har kommit genom mänsklig feedback, efterbearbetning efter träning, samt teknik som möjliggör mer avancerat resonerande och agerande, till exempel i form av AI-agenter.

Språkmodeller har kunskap, men lagrar den inte som fakta i en databas. Istället kodas informationen i statistiska vikter, delvis på ett sätt som liknar hur vi själva associerar fakta, händelser och erfarenheter med varandra.

Med tanke på var tekniken befinner sig just nu skulle man kunna formulera följande råd till politiker när det gäller användning av AI, i alla fall i formen av just språkmodeller:

Använd AI till situationer där den ofta är bättre än oss människor.

• Analys av stora textmängder. En språkmodell kan läsa och sammanfatta tusentals sidor dokument, e-post eller forskningsartiklar på några sekunder, medan en människa skulle behöva timmar eller dagar.
• Kombinera fakta från många källor. En språkmodell kan hämta information från enorma kunskapsdatabaser och syntetisera den till en koherent text, även när informationen är utspridd och delvis motstridig.
• Arbete på obekväm arbetstid. Språkmodellen presterar lika snabbt och med samma noggrannhet oavsett tid på dygnet, humör eller stressnivå, till skillnad från en mänsklig författare eller analytiker.

Var försiktig att använda AI i områden där den ofta är sämre än oss människor.

• Kontextförståelse och sunt förnuft i verkliga situationer. Människor kan tolka subtila sociala signaler, kroppsspråk och outtalade normer, något modeller ofta missar.
• Kreativ innovation på riktigt ny mark. Språkmodeller är bra på att kombinera existerande idéer, men människor kan skapa genuint nya koncept som inte finns i träningsdata.
• Etiska och moraliska avvägningar. Människor kan fatta beslut som väger in empati, långsiktiga konsekvenser och mänskliga värden, inte bara sannolikhet och mönster.

När det gäller den återkommande oron över säkerheten och frågorna kring hantering av känslig information med AI-verktyg finns flera åtgärder man kan vidta. Man kan exempelvis undvika att dela känsliga data helt, eller formulera frågor på ett generellt eller anonymiserat sätt. Det är också viktigt att känna till plattformens sekretesspolicy, eftersom det finns skillnader mellan konsumentversioner och företagsversioner av AI. För mycket känsliga uppgifter kan man använda AI-modeller som körs helt lokalt.

Som ofta är fallet är det inte verktyget i sig som utgör problemet, utan kunskap och erfarenhet om hur det bör användas. Fler politiker bör uppmuntras att på rätt sätt använda AI som stöd för beslutsfattande. Låt gärna vår statsminister bli en förebild i detta!

Daniel Akenine, nationell teknikchef Microsoft, ledamot i Kungliga Ingenjörsvetenskapsakademien (IVA)