Deepfake AI trở nên rất thật khi mùa bầu cử năm 2024 bắt đầu

• Công nghệ AI deepfake phát triển nhanh hơn các khuôn khổ pháp lý để kiểm soát chúng.
• Cử tri ở New Hampshire nhận được cuộc gọi tự động với giọng nói AI tạo sinh của Joe Biden yêu cầu họ không tham gia bầu cử sơ bộ của bang.
• Người dùng 4chan và Telegram tạo ảnh deepfake khiêu dâm của ngôi sao pop Taylor Swift bằng công cụ tạo ảnh sử dụng mô hình phân tán; các hình ảnh nhanh chóng lan truyền trên internet.
• Katie Harbath, cựu Giám đốc Chính sách Công cộng của Facebook, cho biết deepfakes có thể gây rắc rối lớn hơn đối với những người không phải là người nổi tiếng.
• Các nền tảng mạng xã hội ít có động lực pháp lý để nhanh chóng loại bỏ nội dung như vậy, phần lớn vì Quốc hội đã không điều chỉnh mạng xã hội.
• Các dự luật deepfake đã được giới thiệu trong Quốc hội, nhưng chưa có dự luật nào được đưa đến bàn làm việc của tổng thống.
• Câu hỏi pháp lý trung tâm có thể là liệu các quy định của Mục 230 có áp dụng cho các nhà sản xuất công cụ AI hay không.
• Có tranh luận liệu các công cụ AI tạo sinh, như Stable Diffusion và OpenAI, có được miễn trừ khỏi kiện tụng liên quan đến nội dung mà người dùng tạo ra với các công cụ tạo ảnh hay chatbot hay không.
• Còn phải chờ xem các tòa án sẽ quyết định vấn đề này như thế nào, và liệu quan điểm của tòa án có mở rộng đến nhà sản xuất công cụ AI mã nguồn mở hay không.

📌 Công nghệ AI deepfake đang tiến bộ nhanh chóng, vượt xa tốc độ mà các khuôn khổ pháp lý hiện tại có thể kiểm soát. Sự việc với Joe Biden và Taylor Swift chỉ là ví dụ về khả năng gây hại của công nghệ này. Dù đã có nỗ lực từ phía chính phủ và các tổ chức pháp lý để giải quyết vấn đề, nhưng tốc độ phát triển của AI và sự lan truyền trên mạng xã hội khiến việc kiểm soát trở nên khó khăn. Câu hỏi về trách nhiệm pháp lý của các nhà sản xuất công cụ AI, đặc biệt là những công cụ mã nguồn mở, vẫn còn là một vấn đề phức tạp và chưa có câu trả lời rõ ràng.