«Одноклассники» начинают блокировать токсичных комментаторов с помощью нейросетей

Социальная сеть «Одноклассники» представила новую функцию, направленную на борьбу с токсичными комментариями. Нейросеть анализирует тексты и изображения и проверяет их на наличие агрессии, оскорблений или разжигания розни.

Система не удаляет комментарии автоматически, а передает их на проверку модераторам. Если факт нарушения подтверждается, пользователь временно теряет возможность оставлять комментарии. Дополнительно появляется уведомление с причиной блокировки.

Сейчас нововведение уже работает в десктопной версии сайта. В ближайшее время оно станет доступно и в мобильных приложениях. Также введена опция скрытия потенциально токсичных комментариев, которую каждый пользователь может включить в настройках.

Этот шаг стал частью усилий «Одноклассников» по созданию безопасной и комфортной среды для общения. По словам представителей соцсети, цель — сделать платформу приятной для всех участников, и современные технологии помогают решать эту задачу.