20.000 game thủ CS:GO “toxic” bị khóa account bởi AI giám sát trò chuyện của FACEIT

Nhằm đẩy lùi tình trạng cộng đồng CS:GO ngày càng một “toxic” biểu hiện qua những lời lăng mạ, chửi bới lẫn nhau trong game, FACEIT đã phối hợp cùng Google Cloud and Jigsaw nghiên cứu chế tạo một AI mang tên Minerva với khả năng giám sát hoạt động giao tiếp của người chơi. Công việc của Minerva đơn giản là kiểm tra tin nhắn trò chuyện của người chơi CS:GO và lọc ra những tin nhắn độc hại. Minerva bắt đầu làm việc vào cuối tháng 8 tới nay và đã đánh dấu tới 7.000.000 tin nhắn độc hại, đưa ra 90.000 cảnh báo và cấm 20.000 người chơi.

Minerva được đào tạo thông qua học máy (machine learning), ngay khi phát hiện những tin nhắn độc hại, Minerva sẽ cắm cờ tin nhắn đó và đưa ra cảnh báo tới người chơi chỉ sau vài giây của trận đấu, nếu sự việc tái diễn nhiều lần, người chơi sẽ bị banned. Dưới sự giám sát của Minerva số lượng tin nhắn độc hại giảm tới 20% và số lượng game thủ sử dụng tin nhắn độc hại giảm 8%.

Với những kết quả rất tích cực sau đợt thử nghiệm, FACEIT khẳng định đây mới chỉ là bước đầu tiên để đưa Minerva vào trò chơi trực tuyến: "Rà soát những cuộc trò chuyện trong game chỉ là tính năng đầu tiên và đơn giản nhất trong tất cả các tính năng mà Minerva có thể thực hiện, chúng tôi thực sự hào hứng với Minerva và sẽ cải thiện AI này để phát hiện và xử lý tất cả các loại hành vi độc hại diễn ra trong game”.