Mô hình video AI mã nguồn mở Wan 2.1 của Alibaba bị lạm dụng để tạo nội dung khiêu dâm

https://www.404media.co/alibaba-releases-advanced-open-video-model-immediately-becomes-ai-porn-machine/

Alibaba Ra Mắt Mô Hình Video AI Mã Nguồn Mở Tiên Tiến, Ngay Lập Tức Bị Biến Thành Cỗ Máy Tạo Nội Dung Khiêu Dâm

Emanuel Maiberg
27/02/2025, 12:07 PM

Chỉ mất khoảng 24 giờ để Wan 2.1 của Alibaba trở nên phổ biến trong cộng đồng AI khiêu dâm.

Vào thứ Ba, gã khổng lồ công nghệ Trung Quốc Alibaba đã ra mắt một mô hình AI tạo video mã nguồn mở mới có tên Wan 2.1, đồng thời chia sẻ phần mềm này trên GitHub, cho phép bất kỳ ai có đủ kiến thức kỹ thuật và phần cứng phù hợp có thể sử dụng và chỉnh sửa miễn phí.

Chỉ trong vòng 24 giờ, mô hình này đã nhanh chóng được cộng đồng những người đam mê AI khiêu dâm tiếp nhận, với hàng chục video ngắn do AI tạo ra được chia sẻ rộng rãi bằng phần mềm của Alibaba. Ở những nơi khác, trong một cộng đồng chuyên tạo và chia sẻ nội dung thân mật do AI tạo ra mà không có sự đồng thuận của người trong video, các thành viên đang háo hức bàn luận về độ tiên tiến của mô hình này.

Đây chính là con dao hai lưỡi của việc phát hành mô hình AI mã nguồn mở: một mặt, nó giúp dân chủ hóa quyền tiếp cận các công cụ AI mạnh mẽ, nhưng mặt khác, nó thường bị những người dùng sớm tận dụng để tạo nội dung phi đạo đức hoặc không có sự đồng thuận.

AI Video Mã Nguồn Mở Bị Lợi Dụng Chỉ Sau 24 Giờ

Wan
@Alibaba_Wan
· Follow

"Mô hình Hunyuan vừa mới ra mắt khi nào nhỉ? Tháng 12 phải không?" một người dùng trên Telegram, trong kênh chuyên chia sẻ nội dung khiêu dâm AI không có sự đồng thuận, đã bình luận vào thứ Tư. Họ nhắc đến Hunyuan, một mô hình tạo video AI mã nguồn mở khác do Tencent phát triển và hiện đang rất phổ biến trong cộng đồng này.

"Giờ chúng ta lại có một mô hình Text2Video tốt hơn, có thể xử lý các chuyển động phức tạp hơn c: Mô hình này vừa ra mắt HÔM QUA mà bản Lora đầu tiên được tạo ra cho nó lại là một video Titfuck 😆."

Người dùng này cũng chia sẻ một video ngắn được tạo bằng Wan 2.1, ban đầu được đăng tải lên Civitai — một trang web chia sẻ các mô hình AI đã được chỉnh sửa. Theo nhiều bài viết trước đây của 404 Media, nền tảng này đang được sử dụng rộng rãi bởi những người tạo nội dung AI không có sự đồng thuận.

Tuy nhiên, theo quan sát của tôi, mô hình có tên “Better Titfuck (WAN và HunYuan)” có lẽ không phải là mô hình đầu tiên trên Civitai được chỉnh sửa để sản xuất nội dung khiêu dâm bằng Wan 2.1. "Danh hiệu" đáng ngờ đó có lẽ thuộc về “Wan-AI 万相/ Wan2.1 Video Model”, mô hình được chia sẻ lên nền tảng chỉ vài giờ trước đó.

Theo số liệu từ các trang mô hình trên Civitai, mỗi mô hình này đã được tải xuống hàng trăm lần. Trên các trang này, Civitai cũng cho phép người dùng chia sẻ video họ tạo bằng AI, và hiện tại cả hai trang đều chứa hàng chục video khiêu dâm.

Cách Civitai Đối Phó Với Nội Dung Khiêu Dâm AI

Civitai cho phép người dùng chia sẻ mô hình AI đã được chỉnh sửa để tạo ra hình ảnh giống người thật hoặc sản xuất nội dung khiêu dâm, nhưng không cho phép chia sẻ phương tiện hoặc mô hình tạo nội dung khiêu dâm không có sự đồng thuận. Tuy nhiên, như 404 Media từng đưa tin trước đây, không có gì ngăn cản người dùng tải xuống các mô hình này và sử dụng chúng để tạo nội dung phi đạo đức bên ngoài nền tảng.

Alibaba vẫn chưa đưa ra phản hồi trước yêu cầu bình luận về vụ việc này.

Alibaba Releases Advanced Open Video Model, Immediately Becomes AI Porn Machine
Emanuel Maiberg

·
Feb 27, 2025 at 12:07 PM
It took about 24 hours for Alibaba’s Wan 2.1 to become popular in the AI porn community.
Alibaba Releases Advanced Open Video Model, Immediately Becomes AI Porn Machine
404 Media is an independent website whose work is written, reported, and owned by human journalists and whose intended audience is real people, not AI scrapers, bots, or a search algorithm. Become a paid subscriber here for access to all of our articles ad-free and bonus content.
On Tuesday, Chinese tech giant Alibaba released a new “open” AI video generation model called Wan 2.1 and shared the software on Github, allowing anyone with the technical know-how and hardware to use and modify freely. It took about 24 hours for the model to be adopted by the AI porn hobbyist community, which has already shared dozens of short AI porn videos using Alibaba’s software. Elsewhere, in a community that’s dedicated to producing and sharing nonconsensual AI-generated intimate media of real people, users are already salivating over how advanced the model is. 
This is the double-edged sword of releasing open AI models that users can modify, which on one hand democratizes the use of powerful AI tools, but on the other is often used by early adopters to create nonconsensual content. 
Wan
@Alibaba_Wan
·
Follow

“Hunyuan just came out when? December?” one user said Wednesday on Telegram channel dedicated to sharing nonconsensual AI-generated porn, referring to another open AI video generator developed by Tencent that’s popular in that community. “Now we get a better Text2Video Model [that] can handle more complicated motions c: This one just came out YESTERDAY and the first Lora which got made for this is a Titfuck 😆.”
That user also shared a short video made with Wan 2.1 that was originally posted to Civitai, a site for sharing modified AI models that multiple 404 Media stories have shown is widely used by people who create nonconsensual content. By my count, however, this model, “Better Titfuck (WAN and HunYuan),” is not the first Wan 2.1 model on Civitai that’s been modified to produce pornography. That dubious honor more likely goes to “Wan-AI 万相/ Wan2.1 Video Model,” which was shared a few hours earlier.  
According to statistics shared by Civitai’s model pages, each of these models has already been downloaded hundreds of times. Civitai model pages also allow people to share videos they created with the AI models, and both pages feature dozens of pornographic videos. Civitai allows users to share AI models that have been modified to produce the likeness of real people and models that have been modified to produce pornography, but does not allow users to share media or models of nonconsensual pornography. However, as 404 Media’s previous stories have shown, there’s nothing preventing Civitai users from downloading the models and using them to produce nonconsensual content off-site. 
Alibaba did not immediately respond to a request for comment.