Sahlgrenska deltar i framtagning av svensk ChatGPT

AI-modellen ChatGPT har sedan lanseringen förra året intresserat många verksamheter, inte minst inom vården, och så även Sahlgrenska Universitetssjukhus. Det skriver Sahlgrenska sjukhuset på sin sajt sahlgrenskaliv.se. 

En regional temadag om ChatGPT blev snabbt fullbokad, ett intresse som man sedan tagit fasta på. Magnus Kjellberg, centrumföreståndare för Kompetenscentrum AI på Sahlgrenska Universitetssjukhuset, ser stora möjligheter till användning inom alla områden där texthantering krävs. Det gäller både för vården och för administration. Områden som identifierats är exempelvis sammanfattning av vetenskapsartiklar, träning inför patientdialog, samtalsterapi och kunskapsstöd.

– Man kan till exempel be ChatGPT att agera som en 80-årig patient med diabetes och instruera den att ställa frågor till en läkarstudent utifrån det, säger Magnus Kjellberg. 
 
Ett annat område som tar mycket tid, och där ChatGPT kan göra skillnad, är kring uppdatering av textbaserad information till patienter. Det handlar dels om att förse vårdtagarna med generell information om vart de ska, dels om sjukdomsinformation och om att individanpassa sina svar efter patientens frågor. 

GDPR – en utmaning

För vårdsektorn innebär ChatGPT i dagsläget begränsningar relaterat till hanteringen av patientdata, då den data som matas in i språkmodellen ytterst hamnar hos det amerikanska företaget OpenAI. Sätt att komma runt detta är att synkronisera verksamheternas användning, och säkerställa informationsklassningen av data. 
 
– ChatGPT är inte kompatibel med GDPR-lagstiftningen, och man måste tänka på informationsklassningen av datan man förser den med. Det vi behöver göra på sjukhuset är att ta ett helhetsgrepp och koordinera användningen av chattboten, säger Magnus Kjellberg.

Ser gärna språkmodell med svensk hemvist

I Sverige har ett antal aktörer gått ihop för att ta fram en svensk språkmodell som ska vara GDPR-kompatibel, vid namn GPT-SW3. Projektet drivs bland annat av AI Sweden, och Sahlgrenska Universitetssjukhus deltar som partner för att validera dess tillämpning inom hälso- och sjukvård. Magnus Kjellberg ser många fördelar.  

– Med denna vet vi exakt vilken data som används när modellen tränas, det vet vi inte med ChatGPT då OpenAI inte varit transparent på samma vis. Ingen data skickas heller i väg utomlands, vilket är betydligt säkrare. Man ska dock komma ihåg att det här är ett väldigt rörligt fält, förutsättningarna kan se helt annorlunda ut om bara ett halvår, säger Magnus Kjellberg.

Simulerade data ett säkert val

Till dess att en svensk text-AI är på plats tittar Västra Götalandsregionen och Sahlgrenska Universitetssjukhuset på företagsabonnemang för ChatGPT. Parallellt jobbar man vidare med processer som ska göra användningen effektiv och säker. Uppmaningen så länge till de som jobbar för sjukhuset är att testa, men helst med simulerade data. 

– Experimentera gärna med ChatGPT, men skicka inga känsliga uppgifter utan använd simulerade data. Man behöver ha noggrann kontroll över vad man gör, och när riktiga uppgifter ska användas behöver man göra en tillbörlig riskanalys om ChatGPT eller andra molntjänster ska användas, säger Magnus Kjellberg.