Så bygger du säkrare AI-agenter med IBM

– AI Governance handlar om människor, processer och verktyg; det handlar om hur en verksamhet, för att lyckas med sina AI-implementationer, måste hantera risker, såsom regleringar, klassificeringar, utdata med mera, vilket i sin tur leder till compliance, förtroende och effektivitet, säger Hans Petter Dalen, Business Executive, EMEA AI for Business, IBM.

Att bemästra sin riskhantering blir enligt Hans Petter Dalen viktigare nu än tidigare i takt med att vi rör oss mot vad som skulle kunna kallas för en ”agentativ AI”-ålder – alltså mot användningen av generativa AI-bottar som är betydligt smartare eftersom de lär känna sin användares digitala vanor på en mer sofistikerad nivå.

– För att lyckas med den här typen av AI-utveckling är riskhanteringen central, det vill säga att veta hur tekniken används, och till vad, säger han.

Helhetsgrepp med Watsonx.governance 

För varje liten generativ AI-bot som utvecklas, krävs ett bakomliggande nätverk av alltifrån juridiska överväganden till effektiv datahantering. För att hantera detta har IBM utvecklat Watsonx.governance, som bygger på IBM:s välkända och avancerade AI-plattform Watson.

Watsonx.governance hjälper enligt Hans Petter Dalen verksamheter i alla steg i AI-utvecklingen – från att hålla koll på vilka lagar och regler som gäller för just dig, till att ta hänsyn till etiska överväganden, ekonomiska begränsningar, vilka data du ska träna på, med mera.
 
– Det är en modul som jag skulle säga är avgörande för ett lyckat AI-use case. Att skapa bra AI är ett omfattande arbete, eftersom AI omfattar mycket. Allt det som du behöver ta hänsyn till automatiseras med Watsonx.governance. Dessutom automatiseras dokumentationen av metadata så att du alltid kan uppvisa att du gör saker på rätt sätt, säger Hans Petter Dalen.   

Stoppar hallucinationer

AI Governance handlar också för IBM om en ständig övervakning av den data som promptas in och kommer ur AI-modellerna. Förenklat kan det handla om att stoppa indata till en generativ AI som innehåller personlig information, och samtidigt stoppa utdata som säger sig ha källstöd, men som i själva verket saknar det – så kallad AI-hallucination. 

– Tyvärr finns det flera exempel på att offentligt tillgängliga generativa AI-appar har gett felaktig information, och att denna information har använts som underlag i viktiga beslut. Utfallet av denna typ av process kan i värsta fall få stora, oönskade konsekvenser. Genom att använda ett verktyg som watsonx.governance kan man lita på att man inte agerar på felaktig data. 

Från sandlåda till verksamhet

En av de största utmaningarna Hans Petter Dalen ser när verksamheter vill bli mer proaktiva inom AI är att allt för många projekt startar och stoppar i den så kallade sandlådan (sandbox). Bara en bråkdel av alla de pilotprojekt som dras i gång når den operativa verksamheten. 

Ett av skälen, resonerar han, kan handla om att generativ AI bara för ett par år sedan var något som de mer tekniskt lagda testade och utvecklade, och det fanns där och då troligtvis en avsaknad av krav från att det skulle leda till något. 

– Någon fick en idé och gick till en ingenjör och sen var man igång. Men nu måste vi komma dit där verksamheterna ställer krav om vad AI ska användas för. Det måste finnas AI som är användbart och som introduceras på ett kontrollerat sätt. 

Lever som man lär

IBM är inte bara leverantör av tjänster och verktyg som kan hjälpa verksamheter att lättare få koll på sin riskhantering i sina AI-resor. Bolaget har själv sjösatt ett antal AI-tjänster. Bland annat ett inom hr som lett till att 96 procent av all aktivitet har automatiserats.  

Dessutom arbetar man ständigt med nya use cases, och har operationaliserat ungefär 200 sådana till dags dato, med 6 500 olika AI-system i produktion. En gång vartannat år aktiveras IBM:s cirka 250 000 medarbetare världen över i 3–4 dagar genom lagarbeten där kompetenser blandas fritt i syfte att hitta nya områden där AI kan göra nytta.  

– Det är lätt att AI och inte minst AI governance uppfattas som något komplicerat, och det är inte alltid lätt. Men IBM har utvecklat verktygen för att det ska bli lättare för din verksamhet att verkligen dra nytta av, och skapa dina egna, AI-agenter, säger Hans Petter Dalen.