Компания Faceit совместно с Google Cloud и Jigsaw создала бота с искусственным интеллектом, который блокирует токсичных игроков в Counter-Strike: Global Offensive.

По заявлению компании, они несколько месяцев “тренировали” бота-администратора Minerva с помощью машинного обучения с целью “минимизировать ложные срабатывания”. Если бот находит сообщение, которое в контексте беседы оценивается как “токсичное”, то он высылает его автору предупреждение, а все подобные сообщения маркирует как “спам”. При этом наказание становится более суровым, если игрок совершает повторное нарушение в течение короткого периода времени. Minerva способен принимать решения всего за несколько секунд после окончания матча и при обнаружении нарушителя сразу высылает ему сообщение с предупреждением или объявлением о бане.

Faceit запустила бота в автоматическом режиме в конце августа. За полтора месяца работы он проанализировал 200 миллионов сообщений, из них 7 миллионов он оценил как токсичные. За это время Minerva “вынес” 90 тысяч предупреждений и 20 тысяч банов за абьюз и спам. По информации компании, количество токсичных сообщений за первый месяц работы снизилось на 20.13% с 2,280,769 в августе до 1,821,723 в сентябре.