Giám đốc AI của CIA, chia sẻ về cách tiếp cận thận trọng của cơ quan đối với AI

• Lakshmi Raman, Giám đốc AI của CIA, gia nhập cơ quan năm 2002 với vai trò là nhà phát triển phần mềm. Bà đã thăng tiến lên vị trí quản lý và hiện điều phối các hoạt động AI trên toàn CIA.

• CIA đã nghiên cứu ứng dụng khoa học dữ liệu và AI từ năm 2000, tập trung vào xử lý ngôn ngữ tự nhiên, thị giác máy tính và phân tích video.

• Cơ quan đang khám phá tiềm năng của AI tạo sinh trong phân loại nội dung, hỗ trợ tìm kiếm và khám phá, hỗ trợ phát triển ý tưởng và tạo ra các lập luận đối lập để giảm thiểu thiên kiến phân tích.

• CIA đã phát triển Osiris, một công cụ AI tạo sinh tương tự ChatGPT nhưng được tùy chỉnh cho các trường hợp sử dụng tình báo. Nó tóm tắt dữ liệu và cho phép các nhà phân tích đặt câu hỏi tiếp theo bằng ngôn ngữ tự nhiên.

• Osiris hiện được hàng nghìn nhà phân tích sử dụng trong CIA và 18 cơ quan tình báo Hoa Kỳ khác.

• CIA hợp tác với các nhà cung cấp thương mại để phát triển và triển khai các công cụ AI.

• Có lo ngại về việc CIA sử dụng AI để phân tích dữ liệu về công dân Mỹ, vi phạm quyền tự do dân sự.

• Các nghiên cứu chỉ ra rằng thuật toán dự đoán tội phạm và nhận dạng khuôn mặt có thể bị thiên lệch chống lại cộng đồng người da màu.

• AI hiện tại vẫn có thể "ảo giác", tạo ra thông tin sai lệch, gây ra vấn đề trong công tác tình báo.

• Raman khẳng định CIA tuân thủ luật pháp Hoa Kỳ và các hướng dẫn đạo đức, sử dụng AI "theo cách giảm thiểu thiên kiến".

• Bà nhấn mạnh tầm quan trọng của việc người dùng hiểu rõ hệ thống AI họ đang sử dụng và các hạn chế của nó.

• CIA cam kết gắn nhãn nội dung do AI tạo ra và cung cấp giải thích rõ ràng về cách thức hoạt động của hệ thống AI.

📌 CIA đang tích cực áp dụng AI trong phân tích tình báo, với công cụ Osiris được 1.000 nhà phân tích sử dụng. Tuy nhiên, vẫn còn lo ngại về quyền riêng tư và thiên kiến. Giám đốc AI Raman cam kết sử dụng AI có trách nhiệm và minh bạch.

https://techcrunch.com/2024/07/21/cia-ai-director-lakshmi-raman-claims-the-agency-is-taking-a-thoughtful-approach-to-ai/