OpenAI lần đầu tiên phát hiện và gỡ bỏ các chiến dịch tuyên truyền từ Nga, Trung Quốc và Israel sử dụng công cụ AI của họ như ChatGPT để thao túng dư luận.

- OpenAI, công ty đứng sau các công cụ AI tạo sinh như ChatGPT, lần đầu tiên thông báo đã phát hiện và gỡ bỏ 5 chiến dịch tuyên truyền và thao túng dư luận đến từ Nga, Trung Quốc, Iran và Israel trong 3 tháng qua. Đây là báo cáo đầu tiên của OpenAI về vấn đề này.

- Các tác nhân xấu đã lạm dụng công cụ của OpenAI để tạo ra bình luận trên mạng xã hội bằng nhiều ngôn ngữ, tạo tên và tiểu sử giả cho các tài khoản ảo, tạo ra hình ảnh, biếm họa và sửa lỗi mã nguồn. Tuy nhiên, theo OpenAI, mặc dù sử dụng AI giúp tăng số lượng nội dung được tạo ra và cải thiện chất lượng bản dịch, các chiến dịch này vẫn không thu hút được nhiều sự chú ý và tương tác thực sự từ người dùng. Trong một số trường hợp, lượng tương tác đến từ chính các tài khoản giả khác trong cùng mạng lưới.

- Báo cáo mới nhất của Meta cũng chỉ ra rằng một số chiến dịch tuyên truyền mà họ phát hiện gần đây có sử dụng AI để tạo hình ảnh, video và văn bản. Tuy nhiên điều này không ảnh hưởng đến khả năng phát hiện và ngăn chặn của Meta.

- OpenAI đã chặn các tài khoản liên quan đến hai mạng lưới tuyên truyền nổi tiếng là Doppelganger (có liên hệ với Điện Kremlin của Nga) và Spamouflage (một mạng lưới rộng lớn của Trung Quốc). Doppelganger nổi tiếng với việc mạo danh các trang tin tức hợp pháp để làm suy yếu sự ủng hộ với Ukraine. Spamouflage hoạt động trên nhiều nền tảng mạng xã hội và diễn đàn, đẩy mạnh các thông điệp ủng hộ Trung Quốc và tấn công những người chỉ trích Bắc Kinh.

- Ngoài ra, OpenAI còn phát hiện một mạng lưới mới của Nga tập trung vào việc spam trên ứng dụng nhắn tin Telegram, sử dụng AI để tạo ra bình luận và gỡ lỗi mã cho chương trình tự động đăng bài. Mục tiêu chung của mạng lưới này là làm suy yếu sự ủng hộ với Ukraine thông qua các bài đăng về chính trị ở Mỹ và Moldova.

- OpenAI cũng phát hiện một chiến dịch có nguồn gốc từ Israel do công ty tiếp thị chính trị Stoic ở Tel Aviv thực hiện. Các tài khoản giả mạo sinh viên Do Thái, người Mỹ gốc Phi và công dân quan tâm, đăng bài về chiến tranh ở Gaza, ca ngợi quân đội Israel, chỉ trích chủ nghĩa bài Do Thái ở các trường đại học. Chiến dịch này nhắm vào khán giả ở Mỹ, Canada và Israel, đồng thời cũng có một số hoạt động nhắm vào cuộc bầu cử ở Ấn Độ.

- Theo OpenAI, mặc dù AI mang lại một số lợi thế cho các tác nhân như tăng khối lượng nội dung và cải thiện bản dịch, nó không giúp họ vượt qua thách thức chính là phân phối nội dung đến đúng đối tượng một cách đáng tin cậy. Tuy nhiên, các công ty như OpenAI vẫn cần duy trì cảnh giác vì các chiến dịch tuyên truyền có thể bùng phát bất cứ lúc nào nếu không ai để ý.

📌 OpenAI lần đầu tiên công bố đã phát hiện và gỡ bỏ 5 chiến dịch tuyên truyền từ Nga, Trung Quốc, Iran và Israel trong 3 tháng qua, sử dụng các công cụ AI như ChatGPT để tạo nội dung thao túng dư luận trên nhiều nền tảng. Mặc dù AI giúp tăng số lượng và chất lượng nội dung, các chiến dịch này vẫn gặp khó khăn trong việc thu hút sự chú ý thực sự từ người dùng. OpenAI cho rằng thách thức chính là phân phối nội dung đến đúng đối tượng, và các công ty cần duy trì cảnh giác trước nguy cơ bùng phát của các chiến dịch tuyên truyền.

https://www.npr.org/2024/05/30/g-s1-1670/openai-influence-operations-china-russia-israel