OpenAI ngăn chặn chiến dịch tạo nội dung giả mạo về bầu cử Mỹ sử dụng ChatGPT

• OpenAI đã cấm một nhóm tài khoản ChatGPT liên quan đến chiến dịch ảnh hưởng của Iran nhằm tạo nội dung về cuộc bầu cử tổng thống Mỹ.

• Chiến dịch này sử dụng ChatGPT để tạo ra các bài báo và bài đăng mạng xã hội, nhưng dường như chưa tiếp cận được nhiều người dùng.

• Đây không phải lần đầu OpenAI ngăn chặn các tài khoản liên quan đến các tổ chức nhà nước sử dụng ChatGPT với mục đích xấu. Tháng 5/2024, công ty đã phá vỡ 5 chiến dịch sử dụng ChatGPT để thao túng dư luận.

• Các sự kiện này gợi nhớ đến việc các tổ chức nhà nước sử dụng nền tảng mạng xã hội như Facebook và Twitter để cố gắng ảnh hưởng đến các chu kỳ bầu cử trước đây.

• OpenAI cho biết cuộc điều tra của họ được hỗ trợ bởi báo cáo tình báo của Microsoft công bố tuần trước, xác định nhóm này (gọi là Storm-2035) là một phần của chiến dịch rộng lớn hơn nhằm ảnh hưởng đến cuộc bầu cử Mỹ từ năm 2020.

• Microsoft cho biết Storm-2035 là một mạng lưới của Iran với nhiều trang web giả mạo các cơ quan tin tức và "tích cực tương tác với các nhóm cử tri Mỹ ở các đầu đối lập của phổ chính trị với thông điệp gây chia rẽ về các vấn đề như ứng cử viên tổng thống Mỹ, quyền LGBTQ và xung đột Israel-Hamas".

• OpenAI đã xác định 5 trang web giả mạo của Storm-2035, giả dạng các cơ quan tin tức cả tiến bộ và bảo thủ với tên miền đáng tin cậy như "evenpolitics.com".

• Nhóm này sử dụng ChatGPT để soạn thảo một số bài viết dài, bao gồm một bài cáo buộc rằng "X kiểm duyệt các tweet của Trump", điều mà nền tảng của Elon Musk chắc chắn không làm.

• Trên mạng xã hội, OpenAI đã xác định một chục tài khoản X và một tài khoản Instagram do chiến dịch này kiểm soát. ChatGPT được sử dụng để viết lại các bình luận chính trị, sau đó đăng lên các nền tảng này.

• OpenAI cho biết họ không thấy bằng chứng cho thấy các bài viết của Storm-2035 được chia sẻ rộng rãi và lưu ý rằng phần lớn các bài đăng trên mạng xã hội của nó nhận được rất ít hoặc không có lượt thích, chia sẻ hoặc bình luận.

📌 OpenAI phát hiện và ngăn chặn chiến dịch ảnh hưởng bầu cử Mỹ sử dụng ChatGPT của nhóm Iran Storm-2035. Chiến dịch tạo nội dung giả mạo trên 5 trang web và nhiều tài khoản mạng xã hội, nhưng chưa gây tác động lớn. Dự kiến sẽ có nhiều chiến dịch tương tự khi bầu cử đến gần.

https://techcrunch.com/2024/08/16/openai-shuts-down-election-influence-operation-using-chatgpt/