Genom att surfa vidare godkänner du att vi använder cookies. Jag förstår

En smartare it-nyhetssajt

AI utan transparens

Trots att allt fler företag och organisationer tar fram etiska AI-riktlinjer så har transparensen i besluten minskat. Men tar man inte etikfrågan på allvar kan konsekvenserna bli stora, enligt en ny rapport från Capgemini.

Text Fredrik Adolfsson Foto Adobestock 22 oktober 2020 digit

Glasögon Transparens 960640

I år har US Federal Trade Commission, FTC, etablerat rekommendationer som innebär att AI-system som fattar ett negativt kundbeslut, exempelvis avslag på en låneansökan, måste kunna visa datan som beslutet grundats på. På så sätt ska transparensen öka.

Men enligt Capgeminis årliga rapport på ämnet etik och AI har transparensen i AI-beslut istället sjunkit. Förra året informerade 73 procent av företagen sina kunder hur de kan påverkas av beslut tagna med hjälp av AI, i år ligger siffran på 59 procent. En orsak här kan vara covid-19 som har lett till förändrade kundbeteenden och ökad komplexitet för systemen. Det finns en brist på historiska data från motsvarande situationer som kan användas för att träna systemen.

Rapporten visar även att 70 procent av alla kunder kräver att utfall och beslut från AI-system ska kunna förklaras, och att det ska finnas transparens och rättvisa i kontakten med system från företag som använder AI.

Användandet av AI inom offentlig sektor har ökat under pandemin. Här finns rapporter om fall där social och kulturell särbehandling färgat data som samlats in för att användas i bland annat vården. Ett problem som inte bara finns i offentlig sektor. 65 procent av beslutsfattarna som deltog i undersökningen känner till fall där AI uppträtt diskriminerande, och 60 procent av verksamheterna i studien har utsatts för rättslig granskning eller upplevt missnöje från kunder som en följd av att man använt AI.

Nästan hälften av alla kunder, 45 procent, berättar gärna om negativa upplevelser och avråder andra från att anlita ett företag där man upplevt sig bli dåligt behandlad av AI. Samtidigt säger 27 procent att de skulle avsluta sin relation med en verksamhet där de fått en negativ upplevelse som följd av en diskriminerande AI.

Idag har 53 procent av verksamheterna som deltog i studien en roll i organisationen som ansvarar för etiska frågor kopplat till AI-användning. Författarna till rapporten menar att en sådan roll kan behövas för att säkerställa att etisk tillämpning av AI får tillräcklig vikt och uppmärksamhet i ledningen.

Källa: Capgemini

Capgeminis tips för en mer etisk AI-användning.

  1. Klargör syftet med varje AI-system och se över vilka effekter och situationer som kan uppstå till följd av systemet.
  2. Tillämpa artificiell intelligens där det har positiva effekter för samhälle och miljö.
  3. Se till att AI:n hanterar frågor om mångfald och integration, både vid utformning och användning.
  4. Nyttja de tekniska möjligheterna som finns för att göra AI:n mer transparent och begriplig.
  5. Skapa en mänsklig upplevelse i kontakt med AI och säkerställ att systemen bevakas av människor.
  6. Konstruera tekniskt robusta och säkra AI-system.
  7. Få till en hög integritet genom att ge människor möjlighet att styra i sin interaktion med AI.

Läs mer om ämnet:

Senaste nytt

GDPR-böter i vården

4 december 2020

Datainspektionen har upptäckt brister i hur åtta vårdgivare styr och begränsar personalens åtkomst till huvudjournalsystemen. I sju av de åtta fallen kommer det leda till sanktionsavgifter på upp till 30 miljoner kronor.

Facebooks nya ögon

3 december 2020

Nu ska Facebooks policy för olämpligt innehåll granskas av ett råd, där bland andra Danmarks tidigare statsminister ingår. Bland de sex utvalda inläggen, som har ratats av Facebook, finns bilder på bröst i ett inlägg om bröstcancer.  

Amazons framtid

3 december 2020

Om fyra år kan Amazon vara störst i Sverige och Norden. Det spår konsultfirman Boston Consulting Group.

Teams mot dåligt nät

2 december 2020

Snart kommer du att få meddelande som köas och videomöten med sämre bildkvalitet. Det är två lösningar som kommer under 2021 för att underlätta för den med dåligt internet.

App hittar solen

2 december 2020

Nu blir det lätt att hitta uteserveringen eller parken med extra många soltimmar. En ny app visar om platser ligger i skugga eller har solljus när solen står i olika lägen. 

Oklar visselblåsning

1 december 2020

Trots lagkrav har många bolag och kommuner ännu inte förberett funktioner för visselblåsning. Den nya lagen träder i kraft om ett år och enligt en ny undersökning vill drygt hälften av de tillfrågade att anmälningar inte hanteras av arbetsgivaren utan av en tredje part, till exempel en advokatbyrå.