- OpenAI đã thực hiện một thí nghiệm để xem liệu chatbot AI tiên tiến GPT-4 có thể giúp những người thông thạo khoa học tạo ra và phát hành một vũ khí sinh học hay không.
- Thí nghiệm bao gồm 100 tình nguyện viên đã được kiểm duyệt, bao gồm 50 sinh viên có kiến thức cơ bản về sinh học và 50 chuyên gia có kinh nghiệm thực hành trong phòng thí nghiệm và tiến sĩ trong các chủ đề liên quan như virology.
- Thí nghiệm được chia thành năm nhiệm vụ: chọn một tác nhân sinh học và lập kế hoạch chiến lược; tìm kiếm tác nhân; sao chép đủ để tạo ra một vũ khí; định hình và ổn định nó; và cuối cùng, phát hành.
- Cả sinh viên và chuyên gia có quyền truy cập vào GPT-4 đều được đánh giá chính xác hơn so với nhóm chỉ sử dụng internet. Tuy nhiên, sự kết hợp giữa chuyên môn khoa học và GPT-4 là tốt nhất.
- Mặc dù kết quả được coi là không có ý nghĩa thống kê, nhưng các nhà nghiên cứu công nhận rằng GPT-4 không giới hạn "có thể tăng khả năng truy cập thông tin về mối đe dọa sinh học của chuyên gia".
- Các nhà nghiên cứu cũng công nhận các hạn chế khác của nghiên cứu. Trong khi người tham gia làm việc một mình trong các phiên làm việc kéo dài năm giờ, những kẻ khủng bố có thể cùng nhau trong tuần hoặc tháng.
📌 Thí nghiệm của OpenAI đã cho thấy rằng GPT-4 có thể giúp những người thông thạo khoa học tiến gần hơn đến việc tạo ra và phát hành một vũ khí sinh học so với việc chỉ sử dụng internet. Tuy nhiên, cần có thêm nghiên cứu để đánh giá đầy đủ mối đe dọa này và tìm cách kiểm soát nó. Các nhà nghiên cứu không thể chỉ dựa vào công nghiệp AI để đánh giá rủi ro, mà cần sự tham gia của chính phủ và giới học thuật.