Соцсеть «ВКонтакте» научилась выявлять суицидальные материалы

Как сообщают «Известия», сеть может распознавать нежелательные изображения и тексты, призывающие к суициду.

Программа распознает на картинах объекты –и присваивает им специальный рейтинг.

Кроме того, нейросеть умеет анализировать текстовые надписи на изображениях. Когда нежелательный контент обнаруживается, метод отправляет его на проверку модераторам либо убирает из новостных лент и поисковой выдачи.

При этом специальный сценарий работает для борьбы с «группами смерти». Все «подозрительные» иллюстрации и записи будут отправляться на доработку к модераторам, которые будут изучать содержимое контента, после этого страничку заблокируют.

Напомним, в начале марта соцсеть Facebook начала использовать искусственный интеллект для опознавания пользователей, которые хотят покончить с собой.