YouTube запустил автоматическую чистку «мусорного контента» на главной странице

На фоне скандала с детскими видео Google запустил созданную еще в 2015 году программу на основе искусственного интеллекта, которая блокирует на главной странице YouTube шокирующий и вредный контент.
YouTube запустил автоматическую чистку «мусорного контента» на главной странице
Thomas Trutschel / Photothek / Getty Images

Компания Google запустила программу на основе искусственного интеллекта, которая анализирует видео и блокирует весь нежелательный контент с главной страницы YouTube, пишет Bloomberg со ссылкой на три источника, знакомых с проектом.

РЕКЛАМА – ПРОДОЛЖЕНИЕ НИЖЕ

Программу с внутренним названием «классификатор треш-контента» (trashy video classifier) начали разрабатывать еще в 2015 году, но стали тестировать только в 2017-м — на фоне скандала с видео для детей, которые содержали взрослый контент и не блокировались фильтрами родительского контроля (например, под видом мультфильмов детям в рекомендациях выпадали ролики «Человек-паук сломал руку Эльзе» или «Голый Халк потерял штаны» и так далее). В результате скандала у Google начались проблемы с рекламодателями — некоторые крупные компании (в частности, P&G, L’Oréal и другие) сняли рекламу с платформы.

Представитель Google подтвердила изданию, что у компании есть программа, которая мониторит домашнюю страницу и рекомендательный блок. Система анализирует фидбек со стороны пользователей, которые жалуются на кликбейтные ролики и вводящий в заблуждение контент, а также лайки и дислайки.

Это говорит о том, что у Google есть возможности для того, чтобы регулировать вредоносный контент. Однако бывшие и действующие сотрудники на условиях анонимности утверждают, что компания начинает действовать только в тех случаях, когда есть реальный риск потерять рекламодателей или внешние причины — как в случае с видео, публикуемыми террористическими организациями.

«Классификатор треш-контента» начали разрабатывать, когда у YouTube начало расти количество пользователей мобильного приложения и прямые заходы на сайт. Доходы от рекламы стали расти, но также стало расти количество низкокачественных и шокирующих роликов на главной странице, что выглядело как потенциальный кошмар для рекламодателя.