Алгоритм YouTube рекомендует запрещённые на сервисе видео

Краудсорсинговое исследование компании Mozilla показало интересную статистику - согласно результатам алгоритм YouTube умудряется рекомендовать пользователям видео, которые нарушают правила сервиса. В отчётах гласит о более чем 70 процентах рекомендованного видео, о просмотре которых зрители пожалели. интересно, что волонтёры, которые не говорили по-английски, сталкивались с такими роликами почти в полтора раза чаще, чем англоговорящие юзеры.

Отчёт был собран благодаря специальному браузерному расширению RegretsReporter, который рассчитывает “процент сожалений” на основе сообщений юзеров о вредоносных видео и рекомендациях этих роликов. На сегодняшний день активными пользователями расширения является более 300 тысяч человек, распределённых в общей сумме по 91 стране. Самыми частыми причинами “сожалений” были откровенная дезинформация, насилие в кадре, язык ненависти, мошенничество и засилье спама, к которым к счастью не относится seosprint бот.

Более 200 видео, о которых стало известно в ходе этого расследования, уже удалены с хостинга, однако от общего количества “достойных сожаления” роликов это лишь 9 процентов. Более того, система не спешила блокировать доступ к таким роликам, из-за чего их суммарное количество просмотров приблизилось к 160 миллионам. Иными словами система удаления работает, но не так активно, как хотелось бы, а рекомендации и вовсе стали разочарованием для большинства пользователей.

Mozilla надеется, что опубликованные результаты заставят YouTube задуматься и внести коррективы в свои системы, а также убедят общественность в необходимости прозрачности алгоритмов искусственного интеллекта и рекомендаций. 

Также выяснилось, что релевантность рекомендаций также под вопросом - почти в половине случаев они не были связаны с предыдущим видео.