Cách đảm bảo quyền riêng tư dữ liệu trong thế giới ChatGPT

  • CISOs và CIOs cần cân nhắc giữa việc hạn chế dữ liệu nhạy cảm và sử dụng công cụ AI tạo sinh để cải thiện quy trình và năng suất công việc.
  • Theo nghiên cứu của LayerX, 15% nhân viên thường xuyên đăng dữ liệu vào công cụ AI như ChatGPT, trong đó 6% thừa nhận đã chia sẻ dữ liệu nhạy cảm.
  • Các đội ngũ an ninh mạng lo ngại về việc ngăn chặn việc nhập thông tin cá nhân và thông tin doanh nghiệp độc quyền vào công cụ AI tạo sinh.
  • Cần xây dựng các giao thức an ninh để ngăn chặn rò rỉ thông tin nhạy cảm.
  • Max Shier, Phó chủ tịch và CISO của Optiv, nhấn mạnh sự cần thiết của việc cân bằng giữa kích hoạt và giảm thiểu rủi ro, đặc biệt liên quan đến luật bảo mật và bảo vệ thông tin bí mật công ty.
  • Các tổ chức cần chính sách và kiểm soát dữ liệu cụ thể để bảo vệ dữ liệu khi sử dụng AI tạo sinh.
  • Các CISO và CIO cần quản lý việc hạn chế dữ liệu nhạy cảm khỏi các công cụ AI tạo sinh trong khi vẫn đáp ứng nhu cầu kinh doanh.
  • Điều này cần phải được thực hiện trong khi tuân thủ các quy định pháp luật.
  • John Allen, Phó chủ tịch về rủi ro mạng và tuân thủ của Darktrace, cho biết cần đảm bảo rằng dữ liệu nhạy cảm không được sử dụng trong LLMs.
  • Craig Jones, Phó chủ tịch về hoạt động an ninh của Ontinue, nhấn mạnh tầm quan trọng của việc duy trì tuân thủ và bảo mật dữ liệu nhạy cảm.
  • Các công ty AI đang nỗ lực bảo vệ dữ liệu nhạy cảm, bổ sung các biện pháp an ninh như mã hóa và đạt chứng nhận bảo mật như SOC2.
  • Vẫn còn nhiều thách thức trong việc xác định và xóa dữ liệu nhạy cảm từ các mô hình, đặc biệt với thông tin cá nhân (PII) theo các quy định tuân thủ dữ liệu nghiêm ngặt.

📌 Trong môi trường doanh nghiệp hiện đại, việc bảo vệ dữ liệu nhạy cảm trước những rủi ro từ AI tạo sinh là một thách thức lớn. Nghiên cứu của LayerX chỉ ra rằng trong số những nhân viên sử dụng công cụ AI như ChatGPT, có 15% thường xuyên nhập dữ liệu vào công cụ này và 6% trong số đó thừa nhận đã chia sẻ dữ liệu nhạy cảm. Điều này đòi hỏi các CISO và CIO phải nhanh chóng đáp ứng bằng cách thiết lập các giao thức an ninh mạnh mẽ, đồng thời đảm bảo tuân thủ các quy định pháp luật. Việc áp dụng một chương trình bảo mật dữ liệu chín muồi, cùng với đào tạo người dùng AI cụ thể, là những bước quan trọng để giảm thiểu nguy cơ rò rỉ thông tin. 

Thảo luận

© Sóng AI - Tóm tắt tin, bài trí tuệ nhân tạo