YouTube начинает модерировать оскорбительные комментарии

YouTube, фактически монополист и наиболее крупный ресурс по хостингу видео, уже не один год улучшает среду как для заработка на видеороликах, так и для нормального общения в комментариях. Теперь платформа будет улучшать их качество и фильтровать оскорбительные сообщения, предупреждая пользователей о наличии в тексте агрессии или других подобных тем.

YouTube активно тестирует фильтр в закрытом режиме. Причём решение о модерировании будет работать не на всей площадке - владельцы каналов смогут сами выбирать, стоит ли включать фильтр под их видео или оставлять сообщения без модерации. Таким образом комментарии станут куда чище - исчезнет троллинг и оскорбительные темы.

YouTube также опубликовал сообщение о вводе новой системы. Если в комментарии будет замечена риторика, которая не приветствуется на хостинге, то пользователь получит соответствующее предупреждение с предложением прочитать правила сообщества и проверить, соответствует ли сообщение им. 

При этом модерация не жесткая - несмотря на предупреждения, YouTube не блокирует возможность разместить оскорбительный, по мнению системы, комментарий. Они лишь предлагает пересмотреть и отредактировать, предупреждая, что далеко не все пользователи сочтут его корректным. Будут ли ужесточаться правила в будущем - никто не знает, в том числе и команда YouTube, из-за чего трафик на сайт может упасть.

Модерацией же займутся не люди, а специально разработанные для этого автоматические системы, которым будут помогать пользователи. Отмечая контент как оскорбительный, юзеры показывают нейросети пример сообщений, на основе которых и будет строиться их выборка. Сейчас премодерация работает только на английском языке, однако вскоре функция будет внедрена и на другие языки.