Dự luật AI gây tranh cãi của California tiến triển với sửa đổi từ Anthropic

• Ủy ban Phân bổ Ngân sách California đã thông qua Đạo luật Đổi mới An toàn và Bảo mật cho Mô hình AI Tiên tiến (SB-1047) vào ngày 16/8/2024.

• SB-1047 đặt ra các quy tắc cho các nhà phát triển AI:
- Tạo các giao thức an toàn và bảo mật cho các mô hình AI được bao gồm
- Đảm bảo có thể tắt hoàn toàn các mô hình đó
- Ngăn chặn phân phối các mô hình có khả năng gây "tổn hại nghiêm trọng"
- Thuê kiểm toán viên để đảm bảo tuân thủ đạo luật

• Đạo luật định nghĩa "mô hình được bao gồm" là những mô hình sử dụng sức mạnh tính toán lớn hơn 10^26 phép toán số nguyên hoặc dấu phẩy động, với chi phí đào tạo vượt quá 100 triệu USD.

• Phiên bản mới nhất của dự luật có một số thay đổi theo đề xuất của Anthropic:
- Loại bỏ ngôn ngữ cho phép tổng chưởng lý tiểu bang khởi kiện các công ty vi phạm
- Bỏ yêu cầu công bố kết quả kiểm tra an toàn dưới hình phạt khai man
- Thay đổi từ "đảm bảo hợp lý" thành "chăm sóc hợp lý" về an toàn
- Ngoại lệ cho các nhà nghiên cứu AI chi dưới 10 triệu USD để tinh chỉnh mô hình nguồn mở

• Dự luật gây tranh cãi vì:
- Một số lo ngại nó sẽ hạn chế đổi mới và gây khó khăn cho việc làm việc với mô hình AI nguồn mở
- Google, Meta và Andreessen Horowitz phản đối
- 8/52 thành viên Quốc hội California ký thư phản đối, cho rằng quá sớm để tạo ra các đánh giá tiêu chuẩn hóa cho AI

• Các nhà nghiên cứu Geoffrey Hinton và Yoshua Bengio ủng hộ dự luật, cho rằng nó sẽ "bảo vệ công chúng".

• Dự luật bao gồm bảo vệ cụ thể cho người tố giác trong các công ty AI theo Đạo luật Bảo vệ Người tố giác California.

• Tiếp theo, dự luật cần được Hạ viện và Thượng viện thông qua. Nếu được chấp thuận, Thống đốc Gavin Newsom sẽ xem xét, có thể vào cuối tháng 8.

📌 SB-1047 đặt ra khuôn khổ quy định AI tạo sinh ở California, với sự ủng hộ của 70% người dân và các chuyên gia hàng đầu. Tuy nhiên, dự luật vẫn gây tranh cãi giữa các công ty công nghệ lớn và các nhà lập pháp về cân bằng giữa quy định và đổi mới trong lĩnh vực AI đang phát triển nhanh chóng.

https://www.techrepublic.com/article/california-ai-bill-2014/