AIによる犯罪地下世界が明るみに

AI(人工知能)の急速な発展に伴い、AIを活用したサイバー犯罪が新たな地下市場として台頭しつつあります。AIサービスがブラックマーケットでどのように活用され、LLM(大規模言語モデル)がマルウェアの生成やフィッシングメール、フィッシングサイトの作成に利用されているかについて、詳細な調査が行われました。ここでは、AIがサイバー空間でどのように悪用されているかについての主な発見を紹介します。

不正なAIサービス

これらのサービス提供者は、主に2種類のLLMに依存しています。1つは検閲されていないLLM(人間の倫理に基づく調整が行われていない、または入力/出力フィルターが欠如しているモデル)、もう1つは公に利用可能なモデルを「脱獄」技術を用いて保護機能を回避させたものです。これらのサービスは、ハッカーのマーケットやフォーラムで伝統的なマルウェアよりも低価格で販売されている一方、悪意のある出力を生むために調整されたモデルを使用したサービスはプレミア価格で取引されています。特に、あるサービスは2か月で28,000ドル以上の収益を上げていることが確認されました。

市場の拡大

研究者は、212種類の不正サービスを特定しました。そのうち、125はPoe AIプラットフォームに、73はFlowGPTに、そして14は個別のサーバー上にホストされていました。また、11のLLM(Claude-2-100k、GPT-4、Pygmalion-13Bなど)が使用されていることも確認されました。

出力の品質評価

200以上のサービスに対して30以上のプロンプトを用いて、マルウェア、フィッシングメール、フィッシングサイトの生成を試みました。その結果は以下の基準で評価されました:

  • フォーマット:期待される形式(正規表現で定義されたもの)に従って出力される頻度。
  • コンパイル可能性:生成されたPython、C、C++コードがコンパイル可能である頻度。
  • 有効性:生成されたHTMLとCSSがChromeおよびFirefoxで正しく実行される頻度。
  • 読みやすさ:生成されたフィッシングメールが、Gunning Fog Index(読みやすさの難易度を測る指標)に基づいて、どの程度流暢かつ一貫しているか。
  • 回避能力:生成されたテキストが、上記のチェックをすべてクリアしつつ、VirusTotal(マルウェアやフィッシングサイトに対する検出サービス)やOOPSpam(フィッシングメール検出ツール)を回避できる頻度。

3つのタスクすべてで、少なくとも1つのサービスは回避率67%以上を達成しましたが、大多数のサービスは30%未満に留まりました。

実際の効果検証

さらに、研究者は生成されたコードを用いて実際のシナリオでの効果をテストしました。具体的には、バッファオーバーフローやSQLインジェクションに関する3つの脆弱性を対象としたコードを生成しましたが、その成功率は低かったです。

VICIdial(コールセンターシステム)の脆弱性に対するコード生成では、22個のプログラムがコンパイルに成功しましたが、いずれもデータベースの変更やシステムデータの漏洩はありませんでした。また、OWASP WebGoat 7.1(既知のセキュリティ欠陥を持つコードを提供するサイト)に対するコード生成では、39個のプログラム中7個が攻撃に成功しましたが、要求された脆弱性に対しては成功しませんでした。

重要性

以前の研究では、LLMベースのサービスが誤情報や悪意のある出力を生成できることが示されていましたが、サイバー犯罪における実際の使用を詳細に調査したものは少なかったです。この研究は、サービスの品質と効果を評価する点で画期的です。また、今後のモデルでこうした問題を修正するためのリソースとして、ガードレールを回避し、悪意のある出力を生成するプロンプトも公開されました。

我々の見解

実際のテストでは不正サービスが大きな成果を上げなかったことは安心材料ですが、AIを利用したサイバー犯罪に関する過度な懸念は抑えられるべきです。とはいえ、AI技術の悪用を防ぐためにはさらなる警戒が必要です。AIコミュニティには、安全かつ有益な製品を設計し、その安全性を徹底的に評価する責任があります。

“10”へのコメント(10)

  1. A WordPress Commenter のコメント:

    Se você é brasileiro e está cansado de girar no escuro, o jogar fortune ox é o seu ponto de partida obrigatório. O guia abre o jogo do touro sem enrolação: grid 3×3, volatilidade, horários de pico e o passo a passo para ativar os recursos especiais que multiplicam a aposta. E o melhor vem agora — com o bônus de primeiro depósito sua banca inicial rende muito mais e cada giro passa a valer a pena de verdade. Pare de assistir os outros ganharem. Faça o depósito, entre no grid e ataque com precisão: o touro não perdoa quem hesita.

  2. A WordPress Commenter のコメント:

    Treinar antes de depositar é o que separa o jogador esperto do apostador impulsivo. No fortune tiger free você acessa a versão demo do Fortune Tiger de graça, sem cadastro complicado e sem arriscar um centavo, para entender exatamente como os multiplicadores disparam. Mas atenção: demo é só aquecimento. O jogo de verdade começa quando você faz o primeiro depósito e libera o bônus de boas-vindas, que dá fôlego extra para caçar as rodadas especiais. Domine o tigre no grátis, depois vá para o dinheiro real. Quem treina, fatura.

  3. A WordPress Commenter のコメント:

    O Jogo do Tigrinho virou febre no Brasil e o fortune tiger tigrinho é onde a comunidade séria se encontra: tabelas de aposta, gestão de banca e alertas de horários que realmente pagam. A regra é dura e simples — divida a banca, defina limite de perda e nunca persiga prejuízo. E para quem ainda hesita, o primeiro depósito é o empurrão que falta: com o bônus inicial sua margem cresce e você joga com tranquilidade em vez de desespero. O tigre recompensa quem entra preparado. Deposite, siga o método e pare de jogar sozinho no escuro.

  4. A WordPress Commenter のコメント:

    Dragão é símbolo de fortuna e o dragon fortune mostra na prática como o Dragon Hatch funciona: os ovos, a evolução dos prêmios, as linhas que pagam e o gatilho exato das rodadas especiais. É conteúdo cru, direto ao ponto, feito para quem quer resultado e não conversa fiada. Se você cansou de girar sem retorno, aqui está o mapa completo. E o primeiro depósito muda o jogo: com o bônus de entrada você sobe a aposta com folga e cobre o máximo de cada giro. O dragão guarda tesouro para quem conhece a toca. Entre, deposite e leve.

  5. A WordPress Commenter のコメント:

    O coelho é rápido e paga para quem acompanha o ritmo. No jogar fortune rabbit você encontra a análise completa das linhas de pagamento, o passo a passo das rodadas bônus e a forma certa de manter a banca viva nas sequências longas. Nada de tentativa e erro: cada aposta é calculada, cada giro tem motivo. E tem mais — o bônus de primeiro depósito deixa sua entrada muito mais forte, com margem para explorar os multiplicadores sem medo. Deixe o achismo de lado. Deposite, respeite o limite e corra na frente: aqui quem hesita fica para trás.

  6. A WordPress Commenter のコメント:

    Doce por fora, agressivo por dentro. O sugar rush revela tudo sobre o slot de doces mais explosivo do momento: grade expansível, multiplicadores em cascata e o recurso de rodadas grátis que acumula prêmios sem parar. O guia mostra onde o RTP responde melhor e qual aposta inicial evita estourar a banca em poucos giros. E o primeiro depósito é o ingrediente que falta na sua receita: com o bônus de entrada você joga mais alto, por mais tempo e com chance real de acertar a sequência grande. Teste no demo, mas não fique nele. Deposite, ataque com plano e sinta a adrenalina.

  7. A WordPress Commenter のコメント:

    Dayanmaq vaxtı deyil! betandreas casino saytında ilk depozitini et və bonusunu dərhal götür — gözləyən uduzur. Burada pul oyuncaq deyil: qazanc, bonus, hər gün yeni imkan. Qeydiyyat iki dəqiqə çəkir, ilk depozit isə səni sərfəli başlanğıcla qarşılayır və balansına əlavə vəsait qazandırır. Slotlar, canlı masalar, idman mərcləri — hamısı bir hesabda. Ödənişlər sürətlidir, dəstək gecə-gündüz işləyir. Əgər hələ də “sabah” deyirsənsə, artıq geridə qalırsan. İndi qeydiyyatdan keç, depozit et və ilk qazancını bu gün yaz.

  8. A WordPress Commenter のコメント:

    betandreas — burada yavaş-yavaş oynamaq üçün yox, qazanmaq üçün gəlirsən. İlk depozit bonusu sənin başlanğıc kapitalındır: bir dəfə bas, bonusu al, slotları və canlı masaları sına. Qazanclar dərhal balansa düşür, çıxarış uzun sürmür, mərc kalkulyatoru isə boş yerə itkiyə imkan vermir. Həftəlik turnirlər, keshbek və fərdi təkliflər hesabı sürətlə böyüdür. Şansı əldən vermə — bir dəfə qaçırdığın bonus geri qayıtmır. Qeydiyyatdan keç, depozit et və ilk günkü bonusu götür. Sonra “kaş ki” demək çox gec olur.

  9. A WordPress Commenter のコメント:

    Vaxt oyuncaq deyil. betandreas az platformasında ilk depozitə bonus, həftəlik kampaniyalar və turnirlərlə hesabı tez böyütmək olar. Depozit qaydaları sadə dildə yazılıb — oxu, mərc şərtlərini yerinə yetir və qazancını götür. Slotlar, ruletka, blackjack, idman mərcləri — istədiyini seç, amma qərarı sürətlə ver. Balans artımı göz qabağında görünür, çıxarış isə uzun çəkmir. Qeydiyyatdan keç, ilk depozitini et, bonusu istifadə et və nəticəni özün gör. Kim gözləyir, o uduzur — burada qalib gəlmək qərarı sənin əlindədir.

コメントを残す

メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です