Overwatch: к войне с токсичностью присоединяется искусственный интеллект
Джефф Каплан в интервью с журналистом Нейтаном Грейсоном из Kotaku рассказал про очередные попытки борьбы с токсичностью в Overwatch. Теперь в дело вступили передовые технологии из сферы ИИ и машинного обучения: игру учат находить токсичных игроков еще до того, как на них поступят жалобы.
Мы экспериментируем с машинным обучением. Мы пытаемся научить наши игры определять токсичную речь, это достаточно весело. Идея заключается в том, что не нужно ждать жалобы, чтобы определить, что кто-то токсичен. Наша цель — добиться того, чтобы не приходилось ждать появления жалобы.
Пока что система заточена только под определение токсичной речи на английском языке. Тем не менее, разработчики уже вовсю учат свой ИИ другим языкам (например, корейскому), а также экспериментируют с определением токсичного поведения в рамках непосредственно игрового процесса.
Это следующий шаг. Например, [можно ли определить], что кто-то ведет себя некорректно, когда ледяная стена Мэй появляется в стартовой комнате?
Так как данная инициатива пока что находится на ранних стадиях, она затрагивает только самые вопиющие примеры токсичности. Впрочем, Джефф не отрицает возможности распространения системы на менее тяжелые случаи.
Со всем, что касается жалоб и наказаний игроков, надо начинать с самых запущенных случаев, а затем постепенно переходить к менее серьезным ситуациям.
Команда Overwatch вместе с Fair Play Alliance желают расширить свой арсенал для борьбы с токсичностью, добавив к различным вариациям кнута еще и пряник.
Мы можем начать смотреть в будущее и обсуждать такие вопросы, как позитивная версия системы жалоб. Жалоба — это все равно, что сказать «Эй, Эдриан был очень плох, и я хочу наказать его за это», но как выглядит версия, в которой я могу сказать «Этот парень Эдриан крутой напарник, я был рад с ним сыграть»?
Мы наказываем плохих людей, но как мы можем заставить людей задуматься и стать добропорядочными гражданами в рамках нашей экосистемы?
Когда будете в следующий раз играть в Overwatch, не забывайте: Большой Брат Джефф следит за вами.
-
Padladin
-
Metallov3r
-
de_function
-
Metallov3r
-
-
-
Vespasian
-
de_function
-
dark2121
-
-
-
Unplayed
-
Bunker
-
Crypto137
-