Lỗi kỹ thuật khiến TikTok tạm thời cho phép người dùng tạo video AI gây tranh cãi

- TikTok ra mắt tính năng Symphony Avatars cho phép doanh nghiệp và thương hiệu tạo quảng cáo tùy chỉnh hoàn toàn bằng AI tạo sinh.
- Một phóng viên CNN phát hiện tính năng liên quan Symphony Assistant không có biện pháp bảo vệ hay kiểm duyệt, đồng thời video được tạo ra không có thủy vân.
- TikTok đã khắc phục sự cố, cho rằng đó là lỗi kỹ thuật và khẳng định video độc hại sẽ không xuất hiện trên nền tảng do chính sách nội dung nghiêm ngặt.
- Phóng viên CNN Jon Sarlin truy cập Symphony Assistant bằng tài khoản cá nhân và tạo video về bất kỳ chủ đề nào chỉ bằng cách chọn avatar và nhập kịch bản.
- Các video được tạo ra trông thuyết phục, không có thủy vân, có thể khiến người dùng TikTok nhầm tưởng nếu được đăng tải.
- TikTok gọi đây là "lỗi kỹ thuật" do đẩy nhầm phiên bản thử nghiệm nội bộ của công cụ AI cho tất cả người dùng.
- Đây không phải lần đầu TikTok thử nghiệm AI và công ty sẽ tiếp tục thử nghiệm các tính năng AI mới với các biện pháp bảo vệ trước khi ra mắt công khai.

📌 Sự cố cho thấy TikTok cần thận trọng hơn khi thử nghiệm các tính năng AI, đặc biệt khi nền tảng đang đối mặt với nỗ lực cấm tại Mỹ. Tuy nhiên, công ty đã nhanh chóng khắc phục lỗi kỹ thuật và khẳng định các video độc hại sẽ không xuất hiện do chính sách nội dung nghiêm ngặt.

https://www.androidpolice.com/tiktok-symphony-avatars-generative-ai-controversy/

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo