OpenAI cấm nhà phát triển của Dean.Bot, Bot mạo danh ứng cử viên tổng thống được hỗ trợ bởi ChatGPT

• OpenAI đã cấm nhà phát triển startup Delphi vì đã tạo ra bot Dean.Bot, một bot sử dụng ChatGPT để mạo danh ứng cử viên tổng thống Dean Philips, vi phạm chính sách sử dụng của OpenAI.
• Dean.Bot được tạo ra để hỗ trợ chiến dịch tranh cử tổng thống của Philips và phát triển bởi hai doanh nhân Matt Krisiloff và Jed Somers, cũng là người sáng lập super PAC ủng hộ Philips.
• Sau khi tài khoản bị đình chỉ, Delphi đã loại bỏ ChatGPT khỏi bot và tiếp tục vận hành nó bằng các công nghệ nguồn mở khác nhưng sau đó đã bị gỡ bỏ hoàn toàn sau khi OpenAI can thiệp.
• Người dùng hiện vẫn thấy thông báo cảnh báo khi truy cập website của bot, nhưng chỉ thấy lời xin lỗi thay vì chatbot vì nó không còn khả dụng do "khó khăn kỹ thuật".
• Các chuyên gia đã cảnh báo rằng Dean.Bot có thể ảnh hưởng nghiêm trọng đến các cuộc bầu cử vì khả năng thực hiện cuộc trò chuyện thời gian thực với cử tri qua website.
• OpenAI đã công bố hướng dẫn về cách hãng sẽ hành động trong bối cảnh bầu cử toàn cầu năm 2024, nhằm ngăn chặn việc lạm dụng AI, bao gồm "deepfakes" lừa đảo, hoạt động ảnh hưởng có khả năng mở rộng, hoặc chatbots mạo danh ứng cử viên.

📌 OpenAI đã thực hiện hành động chống lại việc lạm dụng AI trong chiến dịch chính trị bằng cách cấm nhà phát triển của Dean.Bot, một bot mô phỏng ứng cử viên tổng thống sử dụng ChatGPT. Vụ cấm này là lần đầu tiên OpenAI ngăn chặn việc sử dụng AI trong chiến dịch chính trị, điều này cho thấy sự nghiêm ngặt trong quản lý và sử dụng công nghệ AI của hãng, đặc biệt trong bối cảnh bầu cử toàn cầu năm 2024. OpenAI cũng đã tăng cường các biện pháp an toàn để giảm thiểu rủi ro gây hại thông qua việc cải thiện độ chính xác của thông tin, giảm thiên vị và từ chối một số yêu cầu nhất định.