Microsoft cấm cảnh sát Mỹ dùng công cụ AI nhận diện khuôn mặt

- Microsoft đã sửa đổi chính sách Azure OpenAI Service, cấm các cơ quan thực thi pháp luật Mỹ sử dụng nền tảng này cho ứng dụng nhận dạng khuôn mặt.

- Cập nhật này đáp ứng những lo ngại ngày càng tăng về khả năng lạm dụng và thiên vị trong công nghệ AI.

- Điều khoản dịch vụ sửa đổi, có hiệu lực từ tuần trước, cấm tích hợp Azure OpenAI Service được sử dụng "bởi hoặc cho" các sở cảnh sát Mỹ trong lĩnh vực nhận dạng khuôn mặt.

- Hạn chế này cũng mở rộng sang các mô hình phân tích văn bản và giọng nói của OpenAI.

- Một điều khoản mới trong các điều khoản cấm rõ ràng việc sử dụng "công nghệ nhận dạng khuôn mặt thời gian thực" trên camera di động, chẳng hạn như camera cơ thể và camera trên xe, để xác định danh tính cá nhân trong môi trường không kiểm soát.

- Tuy nhiên, chính sách cập nhật vẫn để lại một số kẽ hở cho Microsoft. Lệnh cấm chỉ áp dụng cho cơ quan thực thi pháp luật Mỹ, không phải đối tác quốc tế của họ.

- Ngoài ra, nó không hạn chế nhận dạng khuôn mặt được thực hiện bằng camera cố định trong môi trường có kiểm soát, như văn phòng hậu cần.

- Cách tiếp cận này phù hợp với lập trường gần đây của Microsoft và OpenAI về hợp đồng thực thi pháp luật và quốc phòng liên quan đến AI.

- Vào tháng 1, các báo cáo cho thấy OpenAI đang hợp tác với Lầu Năm Góc trong nhiều dự án, bao gồm khả năng an ninh mạng, đánh dấu sự thay đổi so với lập trường trước đây của startup về tham gia quân sự.

- Microsoft đã đề xuất sử dụng công cụ tạo ảnh DALL-E của OpenAI để hỗ trợ Bộ Quốc phòng phát triển phần mềm cho các hoạt động quân sự.

- Azure OpenAI Service được giới thiệu trong sản phẩm Azure Government của Microsoft vào tháng 2, cung cấp các tính năng tuân thủ và quản lý bổ sung được điều chỉnh cho các cơ quan chính phủ, bao gồm cả cơ quan thực thi pháp luật.

 

📌 Microsoft đã cập nhật chính sách Azure OpenAI Service, cấm cơ quan thực thi pháp luật Mỹ sử dụng công nghệ nhận dạng khuôn mặt do lo ngại về khả năng lạm dụng AI. Lệnh cấm áp dụng cho camera di động nhưng không hạn chế camera cố định. Microsoft và OpenAI gần đây đã hợp tác với Lầu Năm Góc trong các dự án liên quan đến AI.

 

Citations:

[1] https://techcrunch.com/2024/05/02/microsoft-bans-u-s-police-departments-azure-openai-facial-recognition/

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo