Deepfake ngày càng thực tế: Bài học đắt giá về quyền kiểm soát dữ liệu cá nhân

- Melissa Heikkilä, một nhà báo, đã trải nghiệm tạo hình avatar AI của mình tại Synthesia, một startup video AI ở Đông London, và kết quả là một deepfake cực kỳ chân thực.
- Synthesia đã phát triển công nghệ avatar AI đến mức khó phân biệt thật giả, chỉ sau một năm nghiên cứu với thế hệ mới nhất của AI tạo sinh.
- Công nghệ này đặt ra những thách thức lớn, nhất là trong bối cảnh số lượng bầu cử trên toàn cầu đang tăng cao, khiến nguy cơ lạm dụng để thao túng thông tin là rất lớn.
- Các nhà nghiên cứu cảnh báo về "liar’s dividend", nơi các chính trị gia có thể từ chối những thông tin có thể buộc tội họ bằng cách nói rằng chúng là giả mạo.
- Synthesia cam kết không bán dữ liệu mà họ thu thập từ diễn viên và khách hàng, nhưng lại chia sẻ một phần cho mục đích nghiên cứu học thuật và sử dụng avatar trong ba năm trước khi hỏi diễn viên có muốn gia hạn hợp đồng hay không.
- Trong khi đó, các công ty khác như Meta lại sử dụng dữ liệu diễn viên một cách mập mờ, cho phép họ sử dụng dữ liệu để đào tạo mô hình AI mà không có sự đồng ý rõ ràng từ người cung cấp.
- Carl Öhman, giáo sư trợ lý tại Đại học Uppsala, chỉ ra rằng dữ liệu cá nhân có thể tiếp tục được sử dụng để đào tạo mô hình AI ngay cả sau khi người dùng qua đời, điều này đặt ra vấn đề về mô hình dữ liệu và sự đồng ý trong thời đại AI.
- Dữ liệu chất lượng cao là rất quan trọng để đào tạo thế hệ tiếp theo của các mô hình AI mạnh mẽ, và các công ty AI đang gấp rút ký kết thỏa thuận với các tổ chức tin tức và nhà xuất bản để tiếp cận kho dữ liệu của họ.

📌 Nhà báo Melissa Heikkilä đã trải nghiệm tạo hình deepfake tại Synthesia, cho thấy sự tiến bộ vượt bậc của công nghệ AI trong việc tạo ra các avatar không thể phân biệt thật giả. Công nghệ này đặt ra những thách thức lớn về quyền kiểm soát và bảo mật dữ liệu cá nhân, đặc biệt trong bối cảnh các cuộc bầu cử toàn cầu và sự mập mờ trong việc sử dụng dữ liệu của các công ty lớn như Meta.

Citations:
[1] https://www.technologyreview.com/2024/04/30/1091915/my-deepfake-shows-how-valuable-our-data-is-in-the-age-of-ai/

#MIT

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo