Команда ВКонтакте разработала нейросеть, которая выявляет оскорбительные высказывания в адрес пользователя и предлагает ему активировать приватный режим. Команда соцсети рассказала о новинке в пресс-релизе.
Нейросеть анализирует негатив в постах и комментариях. Если пользователь за час получил в свой адрес более трех негативных публикаций от юзеров, которые не входят в список его друзей, нейросеть предлагает активировать режим «Личное пространство».
В таком режиме пользователю смогут писать и звонить только друзья и друзья друзей, подавать заявку в друзья — только друзья друзей. В ленте пользователя появятся материалы о защите ментального здоровья. Через неделю режим отключится.
«В рамках нашего подхода по внедрению полезных инноваций мы разработали уникальную нейросеть. Она была обучена на сотнях тысяч специально размеченных негативных комментариев. Благодаря этому она способна эффективно распознавать токсичные фразы, чтобы помочь пользователям лучше понять, когда стоит оградить себя от нежелательного внимания, чтобы сохранить ментальное здоровье», — поясняет глава команды модерации и администрирования ВКонтакте Иван Корнеев.
Напоминаем, что недавно команда VK представила отчет об продвижении в VK Клипах за 2022 год: бизнес стал в 2,5 раза больше покупать нативную рекламу в сервисе.
