The Underground World of AI Crime Exposed

With the rapid development of artificial intelligence (AI), a new underground market is emerging that exploits AI to support cybercrime. A detailed investigation has been conducted to reveal how AI services are used in the black market and how large language models (LLMs) are being utilized to generate malware, phishing emails, and phishing websites. Here are the key findings on how AI is being abused in cyberspace.

Malicious AI services

Service providers primarily rely on two types of LLMs. One is uncensored LLMs (those that have not been fine-tuned to human ethical standards or lack input/output filters), and the other is publicly available models that have been jailbroken to bypass built-in guardrails. These services are sold in hacker markets and forums at much lower prices than traditional malware, but services that use fine-tuned models for generating malicious output command higher prices. Notably, one service was found to have generated over $28,000 in revenue in two months.

Expanding market

Researchers identified 212 malicious services, 125 of which were hosted on the Poe AI platform, 73 on FlowGPT, and 14 on individual servers. They also discovered 11 LLMs being used, including Claude-2-100k, GPT-4, and Pygmalion-13B.

Evaluating output quality

Over 200 services were tested with more than 30 prompts to generate malware, phishing emails, or phishing websites. The results were evaluated based on several criteria:

  • Format: How often the output followed the expected format (defined by regular expressions).
  • Compilability: How often the generated Python, C, or C++ code could be compiled.
  • Validity: How often generated HTML and CSS ran successfully on Chrome and Firefox.
  • Readability: How fluent and coherent phishing emails were according to the Gunning Fog Index of reading difficulty.
  • Evasiveness: How often the generated text both passed all previous checks and evaded detection by VirusTotal (for malware and phishing sites) or OOPSpam (for phishing emails).

In all three tasks, at least one service achieved an evasion rate of over 67%, but the majority of services achieved an evasion rate below 30%.

Real-world effectiveness testing

Additionally, researchers conducted real-world tests to assess the effectiveness of the generated code. They specifically targeted three vulnerabilities related to buffer overflow and SQL injection, but success rates were low.

In the case of VICIdial (a call center system known to be vulnerable), 22 generated programs were able to compile, but none succeeded in altering databases or leaking system data. Similarly, on OWASP WebGoat 7.1 (a site offering code with known security flaws), of 39 generated programs, seven managed to execute successful attacks, but none targeted the vulnerabilities requested.

Significance

Previous studies showed that LLM-based services could generate misinformation and harmful output, but few had investigated their actual use in cybercrime. This study is groundbreaking in evaluating the quality and effectiveness of such services. Moreover, the researchers released the prompts used to bypass guardrails and generate malicious output, providing a resource for further research aimed at addressing these issues in future models.

Our view

It is reassuring that malicious services did not perform well in real-world tests, and these findings should temper alarmist concerns about AI-enabled cybercrime. However, it doesn’t mean we shouldn’t be vigilant about harmful applications of AI technology. The AI community has a responsibility to design safe, beneficial products and thoroughly evaluate them for security.

10 thoughts on “Thế giới ngầm tội phạm của AI bị phơi bày”

  1. A WordPress Commenter says:

    Se você é brasileiro e está cansado de girar no escuro, o jogar fortune ox é o seu ponto de partida obrigatório. O guia abre o jogo do touro sem enrolação: grid 3×3, volatilidade, horários de pico e o passo a passo para ativar os recursos especiais que multiplicam a aposta. E o melhor vem agora — com o bônus de primeiro depósito sua banca inicial rende muito mais e cada giro passa a valer a pena de verdade. Pare de assistir os outros ganharem. Faça o depósito, entre no grid e ataque com precisão: o touro não perdoa quem hesita.

  2. A WordPress Commenter says:

    Treinar antes de depositar é o que separa o jogador esperto do apostador impulsivo. No fortune tiger free você acessa a versão demo do Fortune Tiger de graça, sem cadastro complicado e sem arriscar um centavo, para entender exatamente como os multiplicadores disparam. Mas atenção: demo é só aquecimento. O jogo de verdade começa quando você faz o primeiro depósito e libera o bônus de boas-vindas, que dá fôlego extra para caçar as rodadas especiais. Domine o tigre no grátis, depois vá para o dinheiro real. Quem treina, fatura.

  3. A WordPress Commenter says:

    O Jogo do Tigrinho virou febre no Brasil e o fortune tiger tigrinho é onde a comunidade séria se encontra: tabelas de aposta, gestão de banca e alertas de horários que realmente pagam. A regra é dura e simples — divida a banca, defina limite de perda e nunca persiga prejuízo. E para quem ainda hesita, o primeiro depósito é o empurrão que falta: com o bônus inicial sua margem cresce e você joga com tranquilidade em vez de desespero. O tigre recompensa quem entra preparado. Deposite, siga o método e pare de jogar sozinho no escuro.

  4. A WordPress Commenter says:

    Dragão é símbolo de fortuna e o dragon fortune mostra na prática como o Dragon Hatch funciona: os ovos, a evolução dos prêmios, as linhas que pagam e o gatilho exato das rodadas especiais. É conteúdo cru, direto ao ponto, feito para quem quer resultado e não conversa fiada. Se você cansou de girar sem retorno, aqui está o mapa completo. E o primeiro depósito muda o jogo: com o bônus de entrada você sobe a aposta com folga e cobre o máximo de cada giro. O dragão guarda tesouro para quem conhece a toca. Entre, deposite e leve.

  5. A WordPress Commenter says:

    O coelho é rápido e paga para quem acompanha o ritmo. No jogar fortune rabbit você encontra a análise completa das linhas de pagamento, o passo a passo das rodadas bônus e a forma certa de manter a banca viva nas sequências longas. Nada de tentativa e erro: cada aposta é calculada, cada giro tem motivo. E tem mais — o bônus de primeiro depósito deixa sua entrada muito mais forte, com margem para explorar os multiplicadores sem medo. Deixe o achismo de lado. Deposite, respeite o limite e corra na frente: aqui quem hesita fica para trás.

  6. A WordPress Commenter says:

    Doce por fora, agressivo por dentro. O sugar rush revela tudo sobre o slot de doces mais explosivo do momento: grade expansível, multiplicadores em cascata e o recurso de rodadas grátis que acumula prêmios sem parar. O guia mostra onde o RTP responde melhor e qual aposta inicial evita estourar a banca em poucos giros. E o primeiro depósito é o ingrediente que falta na sua receita: com o bônus de entrada você joga mais alto, por mais tempo e com chance real de acertar a sequência grande. Teste no demo, mas não fique nele. Deposite, ataque com plano e sinta a adrenalina.

  7. A WordPress Commenter says:

    Dayanmaq vaxtı deyil! betandreas casino saytında ilk depozitini et və bonusunu dərhal götür — gözləyən uduzur. Burada pul oyuncaq deyil: qazanc, bonus, hər gün yeni imkan. Qeydiyyat iki dəqiqə çəkir, ilk depozit isə səni sərfəli başlanğıcla qarşılayır və balansına əlavə vəsait qazandırır. Slotlar, canlı masalar, idman mərcləri — hamısı bir hesabda. Ödənişlər sürətlidir, dəstək gecə-gündüz işləyir. Əgər hələ də “sabah” deyirsənsə, artıq geridə qalırsan. İndi qeydiyyatdan keç, depozit et və ilk qazancını bu gün yaz.

  8. A WordPress Commenter says:

    betandreas — burada yavaş-yavaş oynamaq üçün yox, qazanmaq üçün gəlirsən. İlk depozit bonusu sənin başlanğıc kapitalındır: bir dəfə bas, bonusu al, slotları və canlı masaları sına. Qazanclar dərhal balansa düşür, çıxarış uzun sürmür, mərc kalkulyatoru isə boş yerə itkiyə imkan vermir. Həftəlik turnirlər, keshbek və fərdi təkliflər hesabı sürətlə böyüdür. Şansı əldən vermə — bir dəfə qaçırdığın bonus geri qayıtmır. Qeydiyyatdan keç, depozit et və ilk günkü bonusu götür. Sonra “kaş ki” demək çox gec olur.

  9. A WordPress Commenter says:

    Vaxt oyuncaq deyil. betandreas az platformasında ilk depozitə bonus, həftəlik kampaniyalar və turnirlərlə hesabı tez böyütmək olar. Depozit qaydaları sadə dildə yazılıb — oxu, mərc şərtlərini yerinə yetir və qazancını götür. Slotlar, ruletka, blackjack, idman mərcləri — istədiyini seç, amma qərarı sürətlə ver. Balans artımı göz qabağında görünür, çıxarış isə uzun çəkmir. Qeydiyyatdan keç, ilk depozitini et, bonusu istifadə et və nəticəni özün gör. Kim gözləyir, o uduzur — burada qalib gəlmək qərarı sənin əlindədir.

Leave a Reply

Your email address will not be published. Required fields are marked *