Genom att surfa vidare godkänner du att vi använder cookies. Jag förstår

AI utan transparens

Glasögon Transparens 960640

Trots att allt fler företag och organisationer tar fram etiska AI-riktlinjer så har transparensen i besluten minskat. Men tar man inte etikfrågan på allvar kan konsekvenserna bli stora, enligt en ny rapport från Capgemini.

I år har US Federal Trade Commission, FTC, etablerat rekommendationer som innebär att AI-system som fattar ett negativt kundbeslut, exempelvis avslag på en låneansökan, måste kunna visa datan som beslutet grundats på. På så sätt ska transparensen öka.

Men enligt Capgeminis årliga rapport på ämnet etik och AI har transparensen i AI-beslut istället sjunkit. Förra året informerade 73 procent av företagen sina kunder hur de kan påverkas av beslut tagna med hjälp av AI, i år ligger siffran på 59 procent. En orsak här kan vara covid-19 som har lett till förändrade kundbeteenden och ökad komplexitet för systemen. Det finns en brist på historiska data från motsvarande situationer som kan användas för att träna systemen.

Rapporten visar även att 70 procent av alla kunder kräver att utfall och beslut från AI-system ska kunna förklaras, och att det ska finnas transparens och rättvisa i kontakten med system från företag som använder AI.

Användandet av AI inom offentlig sektor har ökat under pandemin. Här finns rapporter om fall där social och kulturell särbehandling färgat data som samlats in för att användas i bland annat vården. Ett problem som inte bara finns i offentlig sektor. 65 procent av beslutsfattarna som deltog i undersökningen känner till fall där AI uppträtt diskriminerande, och 60 procent av verksamheterna i studien har utsatts för rättslig granskning eller upplevt missnöje från kunder som en följd av att man använt AI.

Nästan hälften av alla kunder, 45 procent, berättar gärna om negativa upplevelser och avråder andra från att anlita ett företag där man upplevt sig bli dåligt behandlad av AI. Samtidigt säger 27 procent att de skulle avsluta sin relation med en verksamhet där de fått en negativ upplevelse som följd av en diskriminerande AI.

Idag har 53 procent av verksamheterna som deltog i studien en roll i organisationen som ansvarar för etiska frågor kopplat till AI-användning. Författarna till rapporten menar att en sådan roll kan behövas för att säkerställa att etisk tillämpning av AI får tillräcklig vikt och uppmärksamhet i ledningen.

Källa: Capgemini

Capgeminis tips för en mer etisk AI-användning.

  1. Klargör syftet med varje AI-system och se över vilka effekter och situationer som kan uppstå till följd av systemet.
  2. Tillämpa artificiell intelligens där det har positiva effekter för samhälle och miljö.
  3. Se till att AI:n hanterar frågor om mångfald och integration, både vid utformning och användning.
  4. Nyttja de tekniska möjligheterna som finns för att göra AI:n mer transparent och begriplig.
  5. Skapa en mänsklig upplevelse i kontakt med AI och säkerställ att systemen bevakas av människor.
  6. Konstruera tekniskt robusta och säkra AI-system.
  7. Få till en hög integritet genom att ge människor möjlighet att styra i sin interaktion med AI.

22 oktober 2020 Uppdaterad 23 oktober 2020 Reporter Fredrik Adolfsson digit Foto Adobestock

Läs mer om ämnet:

Senaste nytt

Vaccinpass med öppen källkod

6 maj 2021

Öppen källkod kan bli nyckeln till Sveriges vaccinationsbevis som kommer ingå i tjänsten Gröna beviset. Nu hoppas DIGG att ett Hack for Sweden-event kan hjälpa till att hitta lösningar för en svensk e-legitimation.

Trump startar egen plattform

5 maj 2021

När Donald Trump kastades ut från Twitter och Facebook sades det att han skulle komma tillbaka med en egen sociala mediekanal. Nu lanseras From the Desk of Donald J Trump. I samma veva har Facebook beslutat att ex-presidenten inte får tillbaka sitt konto på plattformen.

Fertilitetsappar följer inte GDPR

5 maj 2021

Graviditetsappar delar information om kvinnornas hälsa och sexliv utan deras medgivande och nu efterlyser forskare från bland annat Umeå universitet en bättre hantering av datan i enlighet med GDPR.

Hemleverans av drönare hyllas

4 maj 2021

För första gången får drönare beröm när privatpersoner svarar på frågor om hur de upplever att leveransen har fungerat när varorna kommer hem till dem med hjälp av en drönare. Det visar en undersökning från USA.

Robot städar huvudstadens gator

4 maj 2021

Roboten Free städar gatorna i Helsingfors under kvällar och nätter. Free ingår i ett pilotprojekt och rör sig i upp till sex kilometer i timmen, och säkerheten ska vara god ska varken kunna köra in i gående eller andra mötande föremål. 

Digital fritidsgård med Vinnova

3 maj 2021

Umeå satsar på en digital fritidsgård för kommunens unga. Tillsammans med startups, som ingår i det Vinnova-finansierade nätverket Ignite Public, hoppas kommunen på en plattform som ska utvecklas i samarbete med ungdomar och fritidsledare.