Criminele versies van het AI-model voor het leren van grote talen ChatGPT hebben een stevige handel gedaan op het dark web en zoals je zou verwachten, is het een duistere zaak.
KrakenLabs, het threat intelligence-team van cyberbeveiligingsbedrijf Outpost24, heeft de afgelopen maanden door de illegale hoeken van internet gesluipen om te zien wat er te koop is – en wie de verkoop doet.
De belangrijkste van de verkopers die KrakenLabs tijdens het onderzoek opmerkte, was de reductief genaamde “Last”, soms gespeld als Laste, en “CanadianKingpin12”, voorheen bekend als CanadianSmoker12.
Ondertussen lijkt de belangrijkste perversie van ChatGPT die de rondes doet de lugubere WormGPT te zijn geweest, een no-holds uitgesloten afwijking van het origineel die gedienstig taken zal uitvoeren die zijn ‘goede’ broer of zus normaal zou weigeren uit te voeren.
Wat zit er in een naam?
WormGPT lijkt een vroege illegale aanpassing van ChatGPT te zijn geweest en werd op 22 juli door Last gelanceerd. Maar het is zeker niet de enige geweest. FraudGPT volgde in zijn kielzog, dagen later gepromoot door CanadianKingpin12, en DarkGPT, DarkBERT en DarkBARD werden rond dezelfde tijd ook gespot in de wildernis van het dark web.
Als een CanadianKingpin12-advertentie vorige maand – het promoten van een “nieuwe en exclusieve bot die is ontworpen voor fraudeurs, hackers, spammers en gelijkgestemde individuen” – alles is om aan voorbij te gaan, zullen donkere versies van ChatGPT gedienstig kwaadaardige code- en zwendelpagina’s schrijven, hacktools, phishing-pagina’s en niet-detecteerbare malware maken en systeemlekken en kwetsbaarheden vinden.
De prijzen die voor dergelijke diensten in rekening worden gebracht, variëren sterk, zoals ze meestal doen op illegale digitale zwarte marktforums, waarbij Last een maand ‘abonnement’ op WormGPT aanbiedt voor $ 100, jaarlijks gebruik voor $ 550 en een ‘privé-opstelling’ voor $ 5.000.
FraudGPT kostte minder voor een maand, waarbij CanadianKingpin12 slechts $ 90 in rekening bracht voor het voorrecht, maar een jaarabonnement was duurder dan Worm, geprijsd op $ 700.
Ondertussen werden DarkBERT, DarkBARD en DarkGPT gespot door KrakenLabs die levenslang lidmaatschap aanbieden voor respectievelijk $ 1.250, $ 1.000 en $ 200.
“Bedreigingsactoren zijn voortdurend op zoek naar nieuwe manieren of paden om hun doelen te bereiken, en het gebruik van kunstmatige intelligentie is een van deze nieuwigheden die het ondergrondse ecosysteem drastisch kunnen veranderen”, zegt Outpost24, commentaar gevend op de bevindingen van het onderzoeksteam. “De cybercriminaliteitsgemeenschap zal deze nieuwe technologie zien als een bedrijfsmodel (ontwikkelaars en verkopers) of als producten om hun aanvallen (kopers) te plegen.”
Te veel, te vroeg?
Vreemd genoeg lijkt Last echter wel het slachtoffer te zijn geweest van zijn eigen succes. Op 9 augustus kondigde het het einde van WormGPT aan via zijn speciale kanaal op Telegram, een platform dat de voorkeur geniet van cybercriminelen en anderen die willen voorkomen dat hun communicatie onder de loep wordt genomen – hoewel dat KrakenLabs niet lijkt te hebben afgeschrikt.
Last noemde te veel publiciteit als reden om de zwarte hoed op te hangen en verklaarde: “Vanaf het begin hadden we nooit gedacht dat we dit niveau van zichtbaarheid zouden krijgen, en het was nooit onze bedoeling om iets van deze omvang te creëren.”
KrakenLabs zet er een iets andere inslag op. Deze zichtbaarheid leidde ertoe dat de groep werd uitgezet door de bekende cyberbeveiligingsanalist Brian Krebs, die “een artikel publiceerde over WormGPT en de echte naam en nationaliteit van het individu achter Last onthulde.” Misschien hebben de cybercriminelen in dit geval gewoon besloten te stoppen terwijl ze voorop liepen.
Wat de waarheid ook is, KrakenLabs merkt op dat Telegram-kanalen die worden gecontroleerd door Last en DarkStux, een gekoppelde entiteit, sloten op de dag dat de aankondiging werd gedaan.
“Een tool die snel populair wordt, is niet altijd goed, want met een snelle stijging komt ook een grotere kans dat er iets misgaat”, aldus Outpost24. “Het kan zijn dat de gebruikte infrastructuur het doelwit wordt van een DDoS-aanval of zelfs dat onderzoekers hun onderzoek richten op de gebruikers achter de creatie ervan [die] uiteindelijk worden gedoxt en blootgesteld.”
Geen eer onder dieven
Een andere side-scam opgemerkt door KrakenLabs tijdens zijn sonde was een veel eenvoudigere aangelegenheid: het plaatsen van nepadvertenties die AI-enabled illegale digitale tools aanbieden, betalingen aannemen en nooit de beloofde artikelen leveren.
“De hype rond AI-tools heeft ook veel oplichters aangetrokken die websites en Telegram-kanalen hebben opgezet om mensen te misleiden om niet-bestaande toegang tot die tools te kopen”, aldus Outpost24. “De toename van deze oplichting is nog meer indicatief voor de populariteit en interesse van deze opkomende misdaadbeplagende AI’s van de ondergrondse gemeenschap.”
In feite gaf zelfs Last zelf in zijn afscheidsboodschap toe dat “iedereen kon reproduceren wat WormGPT deed”, zoals Outpost24 het uitdrukte.
“Uiteindelijk is WormGPT niets meer dan een onbeperkte ChatGPT”, zei Last. “Iedereen op internet kan een bekende jailbreak-techniek gebruiken en dezelfde, zo niet betere, resultaten behalen door gejailbreakte versies van ChatGPT te gebruiken. Omdat we ons er zelfs van bewust zijn dat we GPT-J 6B als taalmodel gebruiken, kan iedereen hetzelfde ongecensureerde model gebruiken en vergelijkbare resultaten bereiken als die van WormGPT.”
Dus, wie is nu de sukkel?
