Едем дальше, видим — мем: Facebook будет бороться с запрещенным контентом

Американская компания Facebook совместно с Instagram разработала нейросеть Rosetta, способную распознавать иллюстрации с текстами. Об этом сообщается на сайте компании.

Так, искусственный интеллект может извлечь текст из более чем миллиарда общедоступных изображений Facebook и Instagram, а также из видеороликов в режиме реального времени, и ввести его в модель распознавания текста, пишет RNS.

Представители Facebook уточнили, что Rosetta можно применять для качественного поиска фотографий и автоматического поиска спама. Также нейросеть умеет находить агрессивный и оскорбительный контент на изображениях.

Как отмечает сетевое издание m24.ru, в основе нейросети лежит технология оптического распознавания текста, разработанная специалистами Facebook в 2015 году. В настоящее время Rosetta умеет определять несколько языков.

161050.700xp

Такого рода программы существуют уже давно, но все существующие варианты не подходят Facebook в силу величины платформы и высокой вариативности контента, который системе нужно будет анализировать. Компания надеется, что Rosetta научится отличать безобидные шутки-мемы от оскорбительных, которые содержат так называемую “речь ненависти” (“hate speech”). После проверки текста в картинках и видео, программа будет автоматически помечать как потенциально запрещённые те из них, что содержат “речь ненависти”, после чего модераторы должны будут проверить их вручную.

Чтобы научиться выполнять эту задачу Rosetta нужно очень много данных, и сейчас она уже подключена к Facebook и Instagram, где она ежедневно извлекает и анализирует текст из 1 млн изображений и видеороликов.

В конце августа 2018 года сообщалось, что Facebook ввел систему оценки репутации пользователей, которая определяет степень благонадежности аккаунтов по специальной шкале.  С подозрительным фото- и видеоконтентом работают 27 компаний, которые занимаются проверкой фактов для Facebook. Все сомнительные публикации также будут помечены.

 iz.ru 

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

5 + 5 =