Разработчики создали алгоритм, который будет определять «опасный» или противоправный контент на фотографиях. Для распознавания этих объектов будет использоваться нейросеть. В случае если запрещенный контент будет обнаружен, то картинки будут заблокированы или удалены из поисковой выдачи.
Как отметили представители соцсети, у нейросети ей несколько тысяч классов, которые и будут присваивать фото от 0 до 1 по нескольким параметрам. В случае если фото будет охарактеризовано как «опасное», то оно отправится для проверки модераторам. Если его определят как «умеренно опасное», то в этом случае оно пропадет из поисковой выдачи, а в новостной ленте его приоритет будет понижен.
На данный момент алгоритм находится а этапе тестирования на предмет анализа текстовых записей на фото и изображениях. Будем смотреть, как это отразится на продвижении в социальной сети Вконтакте и ккак на это будут реагировать пользователи.