Thế giới ngầm của chatbot AI chợ đen: lợi nhuận khủng và nguy cơ an ninh mạng

• Các mô hình ngôn ngữ lớn bất hợp pháp (malas) có thể kiếm được tới 28.000 USD trong hai tháng từ việc bán trên thị trường ngầm.

• Nghiên cứu đã xem xét hơn 200 ví dụ về malas được liệt kê trên các thị trường ngầm từ tháng 4 đến tháng 10 năm 2023.

Malas được chia thành hai loại: các mô hình không kiểm duyệt dựa trên tiêu chuẩn nguồn mở và các mô hình thương mại bị phá vỡ hạn chế bằng prompt.

• Các nhà nghiên cứu cho rằng cần nghiên cứu về malas ngay bây giờ để ngăn chặn tác hại lớn trong tương lai.

• Hầu hết các dịch vụ mala trên các diễn đàn ngầm tồn tại chủ yếu để kiếm lợi nhuận.

• Malas có thể được sử dụng để viết email lừa đảo, phát triển mã độc tấn công trang web và các hoạt động bất hợp pháp khác.

Nghiên cứu phát hiện ra hai mô hình không kiểm duyệt là DarkGPT (0,78 USD/50 tin nhắn) và Escape GPT (64,98 USD/tháng) có thể tạo ra mã chính xác khoảng 2/3 thời gian và không bị phát hiện bởi các công cụ chống virus.

WolfGPT, có phí truy cập 150 USD, được coi là mạnh mẽ trong việc tạo email lừa đảo, tránh được hầu hết các bộ lọc thư rác.

• Các chuyên gia cho rằng cần có khung pháp lý để đảm bảo các công ty AI hoạt động có trách nhiệm hơn và giảm thiểu rủi ro từ các tác nhân độc hại.

• Các nhà nghiên cứu cho rằng họ có thể phát triển công nghệ và cung cấp thông tin chi tiết để giúp chống lại tội phạm mạng, nhưng không thể ngăn chặn hoàn toàn do thiếu nguồn lực.

📌 Thế giới ngầm của chatbot AI đang phát triển mạnh với lợi nhuận lên tới 28.000 USD/2 tháng. Các mô hình như DarkGPT, EscapeGPT và WolfGPT có khả năng tạo mã độc và email lừa đảo hiệu quả, gây ra mối đe dọa an ninh mạng nghiêm trọng. Cần có khung pháp lý và công nghệ mới để đối phó.

https://www.fastcompany.com/91184474/black-market-ai-chatbots-thriving

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo