Tại sao Anthropic và OpenAI bị ám ảnh bởi việc đảm bảo trọng lượng mô hình LLM
- Anthropic và OpenAI tập trung bảo mật trọng số mô hình AI tạo sinh do giá trị quan trọng của chúng: chúng đại diện cho kết quả của quá trình học và dự đoán.
- Jason Clinton, CISO của Anthropic, dành nửa thời gian làm việc để bảo vệ trọng số của Claude, một tệp dữ liệu terabyte.
- Rand Corporation nhấn mạnh rằng trọng số mô hình cần được bảo vệ như là thành phần quan trọng, có thể bị lợi dụng nếu rơi vào tay kẻ xấu.
- White House Executive Order yêu cầu các công ty mô hình nền tảng cung cấp thông tin về bảo mật trọng số mô hình.
- OpenAI không phân phối trọng số mô hình ngoại trừ qua API để kiểm soát thông tin.
- Nghiên cứu của Rand chỉ ra 40 phương thức tấn công khác nhau nhằm đánh cắp trọng số mô hình AI.
- Có quan điểm khác biệt về mức độ rủi ro của việc lộ trọng số mô hình AI nguồn mở và cách thức hạn chế chúng.
Kết luận: Bảo mật trọng số mô hình AI là một vấn đề cấp thiết cho cả Anthropic và OpenAI. Các tổ chức này dành nhiều nguồn lực và thời gian để bảo vệ chúng khỏi nguy cơ rơi vào tay kẻ xấu, với những hậu quả không lường trước được. Các chính sách và nghiên cứu hiện hành như của Rand Corporation và White House Executive Order ủng hộ quan điểm này, trong khi vẫn còn những tranh luận về lợi ích của mô hình AI nguồn mở.
Thảo luận
Follow Us
Tin phổ biến
