В России разработали технологию борьбы с травлей в интернете

19.05.2022 12:10

Фото: depositphotos/TheVisualsYouNeed

В Национальном исследовательском технологическом университете МИСИС разработали программу, которая распознает признаки кибербуллинга и блокирует сообщения.

Автор программы – студентка четвертого курса Алена Минаева. В интервью радио "Москва FM" она рассказала, как научить алгоритмы отличать оскорбление от простой шутки.

Алена Минаева

автор программы для распознавания кибербуллинга

Оскорбление – это довольно философский вопрос, потому что у каждого разная чувствительность. Очень часто сложно избежать субъективности. То есть, например, для меня какое-то сообщение может показаться оскорбительным, а мой молодой человек говорит, что это нормально. Но, конечно, в своей работе я рассматриваю всего два субъективных искажения. То есть это искажения мозга, из-за которых мы как раз таки мыслим оскорбительно. Довольно сложная работа из-за того, что нет готовых наборов данных для обучения тех же моделей. Я их собираю вручную из социальных сетей, комментариев.

В будущем разработка может стать основой для фильтров в мессенджерах. С помощью программы они будут отслеживать беседу пользователей и в реальном времени принимать меры для нейтрализации агрессии и запугивания.

Алена Минаева

автор программы для распознавания кибербуллинга

Надо в целом жертву изолировать от обидчика, потому что кибербуллинг характерен тем, что он не прекращается. То есть если мы говорим про травлю, например, в школе – там, может, например, учитель и разнять учеников. Или мы можем, например, ребенка перевести в другой класс. Если мы берем интернет-пространство, то обидчик все равно доберется до жертвы.

Необходимость такой системы назрела уже давно, отметил подростковый психолог, специалист центра "Перекресток" Илья Хломов.

Илья Хломов

подростковый психолог, специалист центра "Перекресток"

Если говорить о времени до пандемии – общение в интернете имело как-будто бы не такое большое значение. Сейчас, конечно, это очень важно и это такой, может быть, ключевой канал. Потому что мы наблюдаем в школах: часто дети туда ходят, но при этом не очень общаются друг с другом. В интернете при этом происходит реальное общение, реальные отношения, реальные переживания, реальные страдания. Поэтому, конечно, это реальная проблема, которая должна быть затронута, на которую нужно обращать внимание.

Согласно исследованиям, с кибербуллингом не раз сталкивались почти 70% школьников. При этом четверть ребят не собираются делиться переживаниями по поводу травли ни с кем. Каждый третий пожаловался на травлю после личных ссор со знакомыми, а каждый десятый сообщил, что его оскорбляют регулярно.

Подкасты

Таврида – город молодых творцов

В подкасте "Дома хорошо" – генеральный директор АНО "Таврида.Арт" Ксения Артемьева. Обсудили Мекку для талантливых людей и самые умные яркие путешествия.

12.02.2026 12:00
Потенциальный кризис в российской экономике

Работают ли западные санкции? Что еще давит на нас снаружи и изнутри? А также какое решение может принять Центробанк на ближайшем, опорном заседании по ключевой ставке? Об этом Алексей Бобровский говорил с экономистом Андреем Подойницыным.

11.02.2026 12:00
Вранье о покупках в паре – причины и последствия

Психолог Юлия Дердо рассказала, какие выводы можно сделать о парах, которые врут друг другу о покупках, почему иногда в этом нет ничего критичного, что мешает нам быть предельно честными в отношениях и когда говорить правду "себе дороже".

06.02.2026 18:00
Писатель, журналист и педагог Ирина Краева – о совмещении профессий

В гостях у Ирины Кленской, главного редактора издательства "Молодая гвардия" Марии Залесской и президента Ассоциации книгораспространителей Светланы Зориной была писатель, журналист и педагог Ирина Краева.

06.02.2026 10:00

Все подкасты

Новости

Программы

Лица

В России разработали технологию борьбы с травлей в интернете

Подкасты