Có nên biến các mô hình AI mạnh mẽ nhất của mình thành nguồn mở cho tất cả mọi người không?

• Sử dụng hệ thống AI hiện đại, từ tạo hình ảnh như DALL-E hay Midjourney đến mô hình ngôn ngữ như Llama 2 hay ChatGPT, bạn sẽ nhận thấy các biện pháp bảo vệ được tích hợp để ngăn chặn việc sử dụng không được chấp thuận bởi người tạo mô hình.
• Các công cụ tạo hình ảnh lớn sẽ ngăn bạn tạo nội dung khiêu dâm hoặc vi phạm bản quyền. Mô hình ngôn ngữ từ chối giúp giải CAPTCHA, viết virus máy tính, hoặc hỗ trợ âm mưu khủng bố.
• Một ngành công nghiệp nhỏ đã phát triển với lời khuyên về cách lừa AI bỏ qua các biện pháp bảo vệ. Điều này đã dẫn đến cuộc đua vũ trang giữa các nhà phát triển cố gắng đóng các lỗ hổng ngay khi chúng được phát hiện.
• Một cách dễ dàng để vượt qua tất cả các biện pháp bảo vệ này là lấy một mô hình có trọng số được công bố công khai, như Llama 2, và tự đào tạo nó để không phản đối nội dung có hại hoặc bất hợp pháp.
• Tổ chức phi lợi nhuận Palisade Research đã thử nghiệm xem việc này khó đến mức nào như một phần của nỗ lực hiểu rõ hơn về rủi ro từ các hệ thống AI. Họ phát hiện ra rằng việc này không hề khó khăn.
• Việc mở cửa nghiên cứu AI đã là một trụ cột của tiến bộ và hợp tác trong cộng đồng lập trình từ khi internet ra đời. Phương pháp mã nguồn mở dân chủ hóa AI, hạn chế quyền lực của các chính phủ kiểm duyệt, và cho phép nghiên cứu quan trọng tiếp tục mà không bị can thiệp của doanh nghiệp.
• Tuy nhiên, việc mở cửa cũng khiến việc ngăn chặn sử dụng mô hình AI cho việc tạo deepfake khiêu dâm, quấy rối mục tiêu, giả mạo, khủng bố và nhiều thứ khác bạn muốn ngăn chặn trở nên hoàn toàn không thể.
• Các nhà nghiên cứu AI đang phân vân về cách xử lý vấn đề này - nhưng tất cả đều đồng ý rằng đây là một cuộc trò chuyện sẽ ngày càng khó tránh khỏi khi các mô hình AI trở nên mạnh mẽ hơn.

📌Việc mở cửa nghiên cứu AI đã là một trụ cột của tiến bộ và hợp tác trong cộng đồng lập trình từ khi internet ra đời. Mã nguồn mở dân chủ hóa AI, hạn chế quyền lực của các chính phủ kiểm duyệt, và cho phép nghiên cứu quan trọng tiếp tục mà không bị can thiệp của doanh nghiệp. Tuy nhiên, nguồn mở cũng khiến việc ngăn chặn sử dụng mô hình AI cho việc tạo deepfake khiêu dâm, quấy rối mục tiêu, giả mạo, khủng bố và nhiều thứ khác bạn muốn ngăn chặn trở nên hoàn toàn không thể. Các nhà nghiên cứu AI đang phân vân về cách xử lý vấn đề này