Mặt tối của AI: Khi công nghệ trở thành vũ khí thao túng tâm trí

• AI đang bị các tác nhân xấu lợi dụng như một vũ khí để thao túng con người, từ tội phạm mạng đến các công ty và quốc gia vô đạo đức.

• Deepfake là một trong những ứng dụng đáng lo ngại nhất của AI. Công nghệ này có thể tạo ra video hoặc âm thanh cực kỳ chân thực, làm như thể ai đó đang nói hoặc làm điều gì đó mà họ chưa bao giờ làm.

• Trên mạng xã hội, AI được sử dụng để tạo và lan truyền tin giả, gây chia rẽ cộng đồng và thậm chí ảnh hưởng đến kết quả bầu cử. Ví dụ điển hình là việc Nga can thiệp vào cuộc bầu cử tổng thống Mỹ năm 2016.

• Các cuộc tấn công lừa đảo trở nên tinh vi hơn nhờ AI. Tội phạm mạng sử dụng AI để phân tích dữ liệu cá nhân và tạo ra các email hoặc tin nhắn cá nhân hóa có sức thuyết phục cao.

• AI còn được sử dụng để thao túng tâm lý cá nhân bằng cách phân tích hành vi, sở thích và điểm yếu để nhắm mục tiêu với nội dung được thiết kế để thao túng cảm xúc, niềm tin và hành động.

• Một số quốc gia đang sử dụng AI cho hoạt động gián điệp mạng và tác chiến tâm lý, nhằm xâm nhập cơ sở dữ liệu an toàn, lan truyền tuyên truyền và gây bất ổn môi trường chính trị-xã hội ở các nước khác.

• Trên Dark Web, AI được sử dụng cho nhiều hoạt động bất hợp pháp như buôn bán ma túy, vũ khí và thậm chí cả buôn người.

• Việc sử dụng AI bất hợp pháp đã làm suy giảm nghiêm trọng niềm tin của công chúng vào các thể chế, truyền thông và thậm chí là niềm tin lẫn nhau trong xã hội.

• Các cuộc bầu cử đang ở mức rủi ro cao do việc thao túng dư luận thông qua tin giả và bot mạng xã hội được hỗ trợ bởi AI.

• Cần có hành động khẩn cấp để chống lại mối đe dọa này, bao gồm xây dựng khung pháp lý mạnh mẽ, đầu tư vào nghiên cứu và phát triển công nghệ phát hiện và chống lại sự thao túng của AI, nâng cao nhận thức của công chúng và ưu tiên phát triển AI có đạo đức.

📌 AI đang bị lợi dụng làm vũ khí thao túng tâm trí, từ deepfake đến tin giả trên mạng xã hội. Cần hành động khẩn cấp về pháp lý, công nghệ và giáo dục để bảo vệ xã hội khỏi mối đe dọa này. Phát triển AI có đạo đức là ưu tiên hàng đầu.

https://www.forbes.com/sites/neilsahota/2024/07/29/the-dark-side-of-ai-is-how-bad-actors-manipulate-minds/