Сотрудники компании работают над искусственным интеллектом для автоматического распознавания материалов с враждебными высказываниями.
С помощью этой технологии получится ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости, говорится в сообщении «ВКонтакте».
Новая нейросеть будет искать как материалы с хейтспичем, так и публикации, провоцирующие пользователей на проявление агрессии. Под враждебными высказываниями в компании подразумевают проявления ксенофобии, расизма, гомофобии и сексизма, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.
Для обучения искусственного интеллекта «ВКонтакте» добавила новую категорию жалоб – «Враждебные высказывания».
Руководитель команды модерации компании Иван Корнеев отметил, что сотрудники ежедневно обрабатывают большой объем контента в поисках опасного или оскорбительного материала.
– Если же вы заметили оскорбительную публикацию, пожалуйтесь на неё. С проявлениями нетерпимости эффективнее бороться вместе – и мы призываем пользователей присоединяться к нам в этой борьбе, – сказал он.
Отмечается, что в первом полугодии 2020 года в социальной сети было удалено 520 тысяч единиц контента по теме разжигания вражды и ненависти и заблокировано 1340 профилей и 2470 сообществ.
