«ВКонтакте» запустила нейросеть для защиты от оскорблений и угроз

Российская социальная сеть «ВКонтакте» проведет очередной эксперимент для борьбы с оскорблениями в комментариях. В День народного единства 4 ноября 2020 года соцсеть протестирует две новых функции: фильтр враждебных высказываний и рекомендацию отказаться от оскорблений. Оба алгоритма работают на основе нейросетей. Прошлый подобный эксперимент проводился ровно год назад, 4 ноября 2019 года.

«ВКонтакте» с помощью фильтра враждебных высказываний будет удалять комментарии, содержащие угрозы смерти или обещания причинить вред здоровью. Администраторы сообщества смогут увидеть все комментарии и при необходимости отправить пользователя в черный список. Фильтр можно будет включить или выключить в любой момент.

Также соцсеть будет определять, когда в комментарии есть признаки оскорблений и будет призывать пользователя не тратить время на агрессию и отказаться от обидной реплики. В этот раз функция будет определять враждебные высказывания в том числе на почве религиозной принадлежности, возраста, пола и других характеристик. Также теперь «ВКонтакте» добавила возможность пожаловаться модераторам на пользователя из-за «враждебных высказываний».

Как заявили в соцсети, благодаря прошлогоднему эксперименту количество оскорблений за сутки в комментариях удалось сократить на 36%. После 4 ноября начнется долгосрочный тест, рассчитанный на часть аудитории. По результатам эксперимента «ВКонтакте» примет решение о дальнейшем использовании функции.

Евгений Федуненко