Với sự phát triển nhanh chóng của trí tuệ nhân tạo (AI), một thị trường ngầm mới đang nổi lên, lợi dụng AI để hỗ trợ tội phạm mạng. Một cuộc điều tra chi tiết đã được tiến hành để tiết lộ cách các dịch vụ AI được sử dụng trên thị trường đen và cách các mô hình ngôn ngữ lớn (LLM) đang được tận dụng để tạo ra phần mềm độc hại, email lừa đảo, và các trang web giả mạo. Dưới đây là những phát hiện quan trọng về việc AI đang bị lạm dụng trong không gian mạng.
Dịch vụ AI độc hại
Các nhà cung cấp dịch vụ chủ yếu dựa vào hai loại LLM. Một là các LLM chưa được kiểm duyệt (những mô hình chưa được tinh chỉnh theo các tiêu chuẩn đạo đức con người hoặc thiếu bộ lọc đầu vào/đầu ra), và hai là các mô hình công khai đã bị phá vỡ bảo mật để vượt qua các rào cản tích hợp. Những dịch vụ này được bán trên các thị trường và diễn đàn hacker với giá thấp hơn so với phần mềm độc hại truyền thống, nhưng các dịch vụ sử dụng mô hình tinh chỉnh để tạo ra đầu ra độc hại lại có giá cao hơn. Đáng chú ý, một dịch vụ đã tạo ra hơn 28.000 USD doanh thu chỉ trong hai tháng.
Thị trường mở rộng
Các nhà nghiên cứu đã xác định 212 dịch vụ độc hại, trong đó 125 được lưu trữ trên nền tảng Poe AI, 73 trên FlowGPT, và 14 trên các máy chủ cá nhân. Họ cũng phát hiện 11 LLM đang được sử dụng, bao gồm Claude-2-100k, GPT-4, và Pygmalion-13B.
Đánh giá chất lượng đầu ra
Hơn 200 dịch vụ đã được thử nghiệm với hơn 30 lời nhắc để tạo phần mềm độc hại, email lừa đảo, hoặc trang web lừa đảo. Kết quả được đánh giá dựa trên một số tiêu chí:
- Định dạng: Đầu ra theo định dạng mong muốn (được xác định bởi các biểu thức chính quy) bao nhiêu lần.
- Khả năng biên dịch: Tần suất mã Python, C hoặc C++ tạo ra có thể biên dịch.
- Tính hợp lệ: Tần suất HTML và CSS tạo ra chạy thành công trên Chrome và Firefox.
- Tính dễ đọc: Mức độ trôi chảy và mạch lạc của email lừa đảo theo chỉ số khó đọc Gunning Fog.
- Khả năng né tránh: Tần suất văn bản tạo ra vượt qua tất cả các kiểm tra trước đó và tránh bị phát hiện bởi VirusTotal (đối với phần mềm độc hại và trang web lừa đảo) hoặc OOPSpam (đối với email lừa đảo).
Trong cả ba nhiệm vụ, ít nhất một dịch vụ đạt được tỷ lệ né tránh hơn 67%, nhưng phần lớn các dịch vụ có tỷ lệ né tránh dưới 30%.
Kiểm tra hiệu quả thực tế
Ngoài ra, các nhà nghiên cứu đã tiến hành các thử nghiệm thực tế để đánh giá hiệu quả của mã được tạo ra. Họ đã nhắm mục tiêu cụ thể ba lỗ hổng liên quan đến tràn bộ đệm và SQL injection, nhưng tỷ lệ thành công thấp.
Trong trường hợp của VICIdial (một hệ thống trung tâm cuộc gọi được biết là có lỗ hổng), 22 chương trình được tạo ra có thể biên dịch, nhưng không chương trình nào thành công trong việc thay đổi cơ sở dữ liệu hoặc rò rỉ dữ liệu hệ thống. Tương tự, trên OWASP WebGoat 7.1 (một trang web cung cấp mã với các lỗ hổng bảo mật đã biết), trong số 39 chương trình được tạo ra, chỉ có bảy chương trình thực hiện thành công các cuộc tấn công, nhưng không nhắm vào các lỗ hổng đã yêu cầu.
Ý nghĩa
Các nghiên cứu trước đây cho thấy các dịch vụ dựa trên LLM có thể tạo ra thông tin sai lệch và đầu ra có hại, nhưng ít nghiên cứu đã điều tra việc sử dụng chúng thực tế trong tội phạm mạng. Nghiên cứu này mang tính đột phá trong việc đánh giá chất lượng và hiệu quả của các dịch vụ như vậy. Hơn nữa, các nhà nghiên cứu đã công bố các lời nhắc được sử dụng để vượt qua các rào cản và tạo ra đầu ra độc hại, cung cấp tài nguyên cho các nghiên cứu sâu hơn nhằm giải quyết những vấn đề này trong các mô hình tương lai.
Quan điểm của chúng tôi
Điều đáng mừng là các dịch vụ độc hại không hoạt động tốt trong các thử nghiệm thực tế, và những phát hiện này nên làm giảm bớt những lo ngại về tội phạm mạng liên quan đến AI. Tuy nhiên, điều đó không có nghĩa là chúng ta không nên cảnh giác với các ứng dụng có hại của công nghệ AI. Cộng đồng AI có trách nhiệm thiết kế các sản phẩm an toàn, có lợi và đánh giá kỹ lưỡng chúng về mặt an ninh.


Hi, this is a comment.
To get started with moderating, editing, and deleting comments, please visit the Comments screen in the dashboard.
Commenter avatars come from Gravatar.
Se você é brasileiro e está cansado de girar no escuro, o jogar fortune ox é o seu ponto de partida obrigatório. O guia abre o jogo do touro sem enrolação: grid 3×3, volatilidade, horários de pico e o passo a passo para ativar os recursos especiais que multiplicam a aposta. E o melhor vem agora — com o bônus de primeiro depósito sua banca inicial rende muito mais e cada giro passa a valer a pena de verdade. Pare de assistir os outros ganharem. Faça o depósito, entre no grid e ataque com precisão: o touro não perdoa quem hesita.
Treinar antes de depositar é o que separa o jogador esperto do apostador impulsivo. No fortune tiger free você acessa a versão demo do Fortune Tiger de graça, sem cadastro complicado e sem arriscar um centavo, para entender exatamente como os multiplicadores disparam. Mas atenção: demo é só aquecimento. O jogo de verdade começa quando você faz o primeiro depósito e libera o bônus de boas-vindas, que dá fôlego extra para caçar as rodadas especiais. Domine o tigre no grátis, depois vá para o dinheiro real. Quem treina, fatura.
O Jogo do Tigrinho virou febre no Brasil e o fortune tiger tigrinho é onde a comunidade séria se encontra: tabelas de aposta, gestão de banca e alertas de horários que realmente pagam. A regra é dura e simples — divida a banca, defina limite de perda e nunca persiga prejuízo. E para quem ainda hesita, o primeiro depósito é o empurrão que falta: com o bônus inicial sua margem cresce e você joga com tranquilidade em vez de desespero. O tigre recompensa quem entra preparado. Deposite, siga o método e pare de jogar sozinho no escuro.
Dragão é símbolo de fortuna e o dragon fortune mostra na prática como o Dragon Hatch funciona: os ovos, a evolução dos prêmios, as linhas que pagam e o gatilho exato das rodadas especiais. É conteúdo cru, direto ao ponto, feito para quem quer resultado e não conversa fiada. Se você cansou de girar sem retorno, aqui está o mapa completo. E o primeiro depósito muda o jogo: com o bônus de entrada você sobe a aposta com folga e cobre o máximo de cada giro. O dragão guarda tesouro para quem conhece a toca. Entre, deposite e leve.
O coelho é rápido e paga para quem acompanha o ritmo. No jogar fortune rabbit você encontra a análise completa das linhas de pagamento, o passo a passo das rodadas bônus e a forma certa de manter a banca viva nas sequências longas. Nada de tentativa e erro: cada aposta é calculada, cada giro tem motivo. E tem mais — o bônus de primeiro depósito deixa sua entrada muito mais forte, com margem para explorar os multiplicadores sem medo. Deixe o achismo de lado. Deposite, respeite o limite e corra na frente: aqui quem hesita fica para trás.
Doce por fora, agressivo por dentro. O sugar rush revela tudo sobre o slot de doces mais explosivo do momento: grade expansível, multiplicadores em cascata e o recurso de rodadas grátis que acumula prêmios sem parar. O guia mostra onde o RTP responde melhor e qual aposta inicial evita estourar a banca em poucos giros. E o primeiro depósito é o ingrediente que falta na sua receita: com o bônus de entrada você joga mais alto, por mais tempo e com chance real de acertar a sequência grande. Teste no demo, mas não fique nele. Deposite, ataque com plano e sinta a adrenalina.
Dayanmaq vaxtı deyil! betandreas casino saytında ilk depozitini et və bonusunu dərhal götür — gözləyən uduzur. Burada pul oyuncaq deyil: qazanc, bonus, hər gün yeni imkan. Qeydiyyat iki dəqiqə çəkir, ilk depozit isə səni sərfəli başlanğıcla qarşılayır və balansına əlavə vəsait qazandırır. Slotlar, canlı masalar, idman mərcləri — hamısı bir hesabda. Ödənişlər sürətlidir, dəstək gecə-gündüz işləyir. Əgər hələ də “sabah” deyirsənsə, artıq geridə qalırsan. İndi qeydiyyatdan keç, depozit et və ilk qazancını bu gün yaz.
betandreas — burada yavaş-yavaş oynamaq üçün yox, qazanmaq üçün gəlirsən. İlk depozit bonusu sənin başlanğıc kapitalındır: bir dəfə bas, bonusu al, slotları və canlı masaları sına. Qazanclar dərhal balansa düşür, çıxarış uzun sürmür, mərc kalkulyatoru isə boş yerə itkiyə imkan vermir. Həftəlik turnirlər, keshbek və fərdi təkliflər hesabı sürətlə böyüdür. Şansı əldən vermə — bir dəfə qaçırdığın bonus geri qayıtmır. Qeydiyyatdan keç, depozit et və ilk günkü bonusu götür. Sonra “kaş ki” demək çox gec olur.
Vaxt oyuncaq deyil. betandreas az platformasında ilk depozitə bonus, həftəlik kampaniyalar və turnirlərlə hesabı tez böyütmək olar. Depozit qaydaları sadə dildə yazılıb — oxu, mərc şərtlərini yerinə yetir və qazancını götür. Slotlar, ruletka, blackjack, idman mərcləri — istədiyini seç, amma qərarı sürətlə ver. Balans artımı göz qabağında görünür, çıxarış isə uzun çəkmir. Qeydiyyatdan keç, ilk depozitini et, bonusu istifadə et və nəticəni özün gör. Kim gözləyir, o uduzur — burada qalib gəlmək qərarı sənin əlindədir.