Прямой эфир

секундочку...

Далее в эфире

В России разработали технологию борьбы с травлей в интернете

19.05.2022 12:10

Фото: depositphotos/TheVisualsYouNeed

В Национальном исследовательском технологическом университете МИСИС разработали программу, которая распознает признаки кибербуллинга и блокирует сообщения.

Автор программы – студентка четвертого курса Алена Минаева. В интервью радио "Москва FM" она рассказала, как научить алгоритмы отличать оскорбление от простой шутки.

Алена Минаева
автор программы для распознавания кибербуллинга
Оскорбление – это довольно философский вопрос, потому что у каждого разная чувствительность. Очень часто сложно избежать субъективности. То есть, например, для меня какое-то сообщение может показаться оскорбительным, а мой молодой человек говорит, что это нормально. Но, конечно, в своей работе я рассматриваю всего два субъективных искажения. То есть это искажения мозга, из-за которых мы как раз таки мыслим оскорбительно. Довольно сложная работа из-за того, что нет готовых наборов данных для обучения тех же моделей. Я их собираю вручную из социальных сетей, комментариев.


В будущем разработка может стать основой для фильтров в мессенджерах. С помощью программы они будут отслеживать беседу пользователей и в реальном времени принимать меры для нейтрализации агрессии и запугивания.

Алена Минаева
автор программы для распознавания кибербуллинга
Надо в целом жертву изолировать от обидчика, потому что кибербуллинг характерен тем, что он не прекращается. То есть если мы говорим про травлю, например, в школе – там, может, например, учитель и разнять учеников. Или мы можем, например, ребенка перевести в другой класс. Если мы берем интернет-пространство, то обидчик все равно доберется до жертвы.


Необходимость такой системы назрела уже давно, отметил подростковый психолог, специалист центра "Перекресток" Илья Хломов.

Илья Хломов
подростковый психолог, специалист центра "Перекресток"
Если говорить о времени до пандемии – общение в интернете имело как-будто бы не такое большое значение. Сейчас, конечно, это очень важно и это такой, может быть, ключевой канал. Потому что мы наблюдаем в школах: часто дети туда ходят, но при этом не очень общаются друг с другом. В интернете при этом происходит реальное общение, реальные отношения, реальные переживания, реальные страдания. Поэтому, конечно, это реальная проблема, которая должна быть затронута, на которую нужно обращать внимание.


Согласно исследованиям, с кибербуллингом не раз сталкивались почти 70% школьников. При этом четверть ребят не собираются делиться переживаниями по поводу травли ни с кем. Каждый третий пожаловался на травлю после личных ссор со знакомыми, а каждый десятый сообщил, что его оскорбляют регулярно.

Подкасты

Все подкасты

закрыть
закрыть
Обратная связь
Форма обратной связи

Отправить