Så används AI-agenter som verktyg i avancerad cyberkriminalitet

I rapporten förklarar Anthropic hur AI-agenten Claude har fungerat både som teknisk rådgivare och aktiv utförare i de kriminella aktiviteterna. Attacker som tidigare skulle varit väldigt svåra och tidskrävande för en enskild person att utföra manuellt, kan numera genomföras. 

Ett exempel ur rapporten beskriver hur ett cyberkriminellt nätverk använde Claude Code för att genomföra datastölder och utpressning mot minst 17 organisationer världen över. Det rör sig bland annat om myndigheter, räddningstjänst, religiösa institutioner och verksamheter inom hälso- och sjukvård.

AI:n skrev psykologiskt riktade utpressningsbrev, analyserade värdet av stulen data på darknet och hjälpte till att formulera krav på över 500 000 dollar.

– Om man är en sofistikerad hackare kan man, med hjälp av agentbaserade AI-system, göra sådant som tidigare hade krävt en hel grupp sofistikerade hackare. Nu kan en enskild individ genomföra hela operationen på egen hand. Claude utförde enligt uppgift hela processen från början till slut, säger Jacob Klein, chef för Anthropics Threat Intelligence-avdelning, i en intervju med The Verge. 

Nordkoreanska it-arbetare på amerikanska storbolag 

Samma rapport belyser även hur Claude har använts av nordkoreanska it-arbetare för att lura sig in på jobb hos amerikanska Fortune 500-företag. AI:n hjälpte användare som varken kunde programmering eller engelska att klara tekniska intervjuer och sedan behålla sina tjänster.

– Det här handlar om personer som varken kan skriva kod eller engelska och inte kan något om den västerländska kulturen. I stället ber de Claude göra allt åt dem, och när de väl får jobbet använder de sedan Claude för att klara av det mesta av arbetet och på så sätt behålla anställningen, säger Jacob Klein.

Romansbedrägerier

Ett annat fall kretsar kring romansbedrägerier. Här har en Telegram-bot med över 10 000 användare nyttjat Claude för att bedra personer genom att skapa ”emotionellt intelligenta” meddelanden. AI:n hjälpte icke-engelsktalande att skriva övertygande komplimanger, vinna offrens förtroende och sedan be om pengar.