AI Threat Matrix chống bắt nạt trực tuyến tại Olympic Paris 2024

• Ủy ban Olympic Quốc tế (IOC) ước tính Thế vận hội Mùa hè sẽ tạo ra hơn nửa tỷ bài đăng trên mạng xã hội. Để đối phó, IOC sử dụng hệ thống AI có tên Threat Matrix nhằm chống lại việc lạm dụng trên mạng xã hội đối với các vận động viên trong Thế vận hội Paris.

• Threat Matrix được phát triển trong khuôn khổ "Chương trình AI Olympic" của IOC, phù hợp với sứ mệnh đoàn kết và hòa nhập của tổ chức này.

• Mục tiêu chính của chương trình AI Olympic là bảo vệ sức khỏe tinh thần của vận động viên. Lạm dụng trực tuyến trong thể thao đã trở thành một vấn đề nghiêm trọng, khiến các vận động viên kêu gọi sự bảo vệ nhiều hơn từ các nhà tổ chức sự kiện và tổ chức.

• Kirsty Burrows, người đứng đầu Đơn vị Thể thao An toàn tại IOC, nhấn mạnh rằng AI không phải là giải pháp toàn diện nhưng là một phần quan trọng trong nỗ lực chống lại lạm dụng trực tuyến. Việc xử lý khối lượng dữ liệu lớn sẽ không thể thực hiện được nếu không có hệ thống AI.

• Threat Matrix là một mô hình ngôn ngữ AI phân tích các mẫu văn bản lớn và xác định cảm xúc, ý định của người viết. Quá trình này được gọi là "phân tích cảm xúc".

• Tuy nhiên, việc này gặp thách thức đối với máy móc, đặc biệt là trong việc hiểu ý nghĩa của emoji. Ví dụ, các thế hệ trẻ sử dụng emoji mặt khóc và emoji hộp sọ một cách mỉa mai, trái ngược với ý nghĩa ban đầu.

• Threat Matrix sẽ quét các bài đăng bằng 35 ngôn ngữ khác nhau trong Thế vận hội Paris 2024. Hệ thống hợp tác với các nền tảng mạng xã hội như Facebook, Instagram, TikTok và X để xác định các tin nhắn lạm dụng trực tuyến nhắm vào vận động viên.

• Các tin nhắn được đưa vào cơ sở dữ liệu để một nhóm người xem xét. Mặc dù Threat Matrix thực hiện phần lớn công việc, nhưng người xem xét vẫn đóng vai trò quan trọng trong việc giảm thiểu lạm dụng trực tuyến.

• Khi Threat Matrix gắn cờ một tin nhắn, nhóm phản ứng sẽ xem xét ngữ cảnh của bài đăng và thực hiện hành động thích hợp. Các hành động này bao gồm liên hệ với nạn nhân bị lạm dụng trực tuyến, báo cáo người dùng cho nền tảng, hoặc trong trường hợp nghiêm trọng hơn, liên hệ với cảnh sát.

• Trong hầu hết các trường hợp, các bước này được thực hiện trước khi vận động viên nhìn thấy nội dung lạm dụng trực tuyến, nhằm đảm bảo hệ thống hoạt động hiệu quả nhất có thể trong việc giảm thiểu tác động.

📌 Threat Matrix, hệ thống AI của IOC, sẽ quét 35 ngôn ngữ để phân tích hơn 500 triệu bài đăng mạng xã hội tại Olympic Paris 2024. Mục tiêu là bảo vệ sức khỏe tinh thần vận động viên khỏi lạm dụng trực tuyến bằng cách kết hợp AI và đánh giá của con người.

https://greekreporter.com/2024/08/07/ai-detection-abuse-paris-olympics/