Нейросеть ВКонтакте поможет пользователям реже сталкиваться с травлей в комментариях сообществ. Администраторам стал доступен специальный, основанный на работе нейросети, фильтр для борьбы с враждебными высказываниями. Его можно включить и отключить в настройках сообщества в любое время, при этом по умолчанию он отключён. Функция уже появилась у владельцев 50% пабликов, а скоро станет доступна всем.
Сейчас фильтрующий алгоритм умеет определять прямые угрозы — пожелания смерти, обещания причинить вред здоровью и угрозы расправы. Однако в будущем он научится распознавать и другие признаки нетерпимости — например, травлю по национальной или религиозной принадлежности. Руководителям сообществ доступны отфильтрованные публикации с возможностью их восстановить, однако тестовый запуск показал, что отсеянные комментарии возвращают лишь в 1% случаев.
ВКонтакте уже протестировала фильтр 4 ноября 2020 года. Ровно сутки новая функция была доступна всем пабликам соцсети, а затем лишь определенной части аудитории. Во время тестового периода функцией воспользовались руководители свыше 10% всех сообществ ВКонтакте — это 13 млн публичных страниц, групп и мероприятий. Администраторы сообществ оценили работу нейросети — среди подключивших фильтр комментариев от него впоследствии отказались лишь 1,8%. При этом многие писали в Поддержку с просьбой активировать функцию.
Напомним, ВКонтакте запустила нейросеть для борьбы с враждебными высказываниями в августе прошлого года. Технология призвана ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости.