В России разработали технологию борьбы с травлей в интернете

19.05.2022 12:10

Фото: depositphotos/TheVisualsYouNeed

В Национальном исследовательском технологическом университете МИСИС разработали программу, которая распознает признаки кибербуллинга и блокирует сообщения.

Автор программы – студентка четвертого курса Алена Минаева. В интервью радио "Москва FM" она рассказала, как научить алгоритмы отличать оскорбление от простой шутки.

Алена Минаева

автор программы для распознавания кибербуллинга

Оскорбление – это довольно философский вопрос, потому что у каждого разная чувствительность. Очень часто сложно избежать субъективности. То есть, например, для меня какое-то сообщение может показаться оскорбительным, а мой молодой человек говорит, что это нормально. Но, конечно, в своей работе я рассматриваю всего два субъективных искажения. То есть это искажения мозга, из-за которых мы как раз таки мыслим оскорбительно. Довольно сложная работа из-за того, что нет готовых наборов данных для обучения тех же моделей. Я их собираю вручную из социальных сетей, комментариев.

В будущем разработка может стать основой для фильтров в мессенджерах. С помощью программы они будут отслеживать беседу пользователей и в реальном времени принимать меры для нейтрализации агрессии и запугивания.

Алена Минаева

автор программы для распознавания кибербуллинга

Надо в целом жертву изолировать от обидчика, потому что кибербуллинг характерен тем, что он не прекращается. То есть если мы говорим про травлю, например, в школе – там, может, например, учитель и разнять учеников. Или мы можем, например, ребенка перевести в другой класс. Если мы берем интернет-пространство, то обидчик все равно доберется до жертвы.

Необходимость такой системы назрела уже давно, отметил подростковый психолог, специалист центра "Перекресток" Илья Хломов.

Илья Хломов

подростковый психолог, специалист центра "Перекресток"

Если говорить о времени до пандемии – общение в интернете имело как-будто бы не такое большое значение. Сейчас, конечно, это очень важно и это такой, может быть, ключевой канал. Потому что мы наблюдаем в школах: часто дети туда ходят, но при этом не очень общаются друг с другом. В интернете при этом происходит реальное общение, реальные отношения, реальные переживания, реальные страдания. Поэтому, конечно, это реальная проблема, которая должна быть затронута, на которую нужно обращать внимание.

Согласно исследованиям, с кибербуллингом не раз сталкивались почти 70% школьников. При этом четверть ребят не собираются делиться переживаниями по поводу травли ни с кем. Каждый третий пожаловался на травлю после личных ссор со знакомыми, а каждый десятый сообщил, что его оскорбляют регулярно.

Подкасты

Итоги Мюнхенской конференции и планы Запада на ближайшие годы

Почему страны НАТО говорят о вероятности войны с Россией? Будет ли Европа продолжать содержать Украину? Какие планы у США на ЕС, Иран и Латинскую Америку? Об этом Алексей Бобровский говорил с военным экспертом Александром Степановым.

18.02.2026 12:00
За что певец Алексей Гоман благодарен своим слушателям

В гостях у Аллы Омелюты был певец и актер Алексей Гоман. Обсудили его участие в телевизионных шоу и проект "Маленький оркестр". Также Алексей признался, как относится к государственным наградам и за что благодарен своим слушателям и зрителям.

16.02.2026 12:00
Как узнать настоящую любовь

Психолог Юлия Дердо рассказала, как отличить настоящую любовь от слияния, на чей образ мы ориентируемся, когда представляем себе идеального партнера, и как формируется контрзависимость.

13.02.2026 18:00
Актер Денис Парамонов – об инфантильности и взрослении

В гостях у Александра Цыпкина был актер Денис Парамонов. Вспомнили детство в Тольятти, учебу в Москве в театральной школе Олега Табакова и осознанное поступление на режиссерский в ГИТИС. Также много говорили о фильме "Здесь был Юра".

13.02.2026 12:00

Все подкасты

Новости

Программы

Лица

В России разработали технологию борьбы с травлей в интернете

Подкасты