Нейросеть избавит интернет от токсичности

29.11.2022 16:55

Фото: depositphotos/Sonyachny

Нейросеть избавит интернет от токсичности. Она сможет убрать оскорбления и резкие выражения из текста с помощью детоксификации, пишут "Известия". Принцип технологии в том, что она предложит комментатору сразу переформулировать свое резкое высказывание, то есть заменить текст более мягкими выражениями без потери смысла.

Это давно не инновация, считает гендиректор организации "Цифровая экономика" Сергей Плуготаренко. Другой вопрос, что мало кто пользуется такими фильтрами, добавляет эксперт.

Сергей Плуготаренко

гендиректор организации "Цифровая экономика"

Технологии не стоят на месте, просто так создать словарь неприличных слов или выражений – прошлый век. Сегодня искусственный интеллект может понимать контекст, разбираться в том, что на самом говорит человек и предлагать ему подмену ненормативной лексики на какие-то другие фразы, вычищать уже после того, как человек осуществил пост, потому что другой не хочет видеть подобные выражения. Если вдуматься, это работает уже давно, пользователи iPhone, наверное, сталкивались неоднократно при попытке набрать голосом сообщение, продиктовать сообщение в мессенджере, мы видим, как платформа мобильная, операционная система представляет замену слов, заменяя некие ненормативные выражения звездочками, при этом сохраняя часть букв. Ты понимаешь, что за слово здесь имеется в виду, но само слово Siri услужливо заменяет.

Однако сама идея хорошая, говорит Сергей Плуготаренко. По его мнению, такую функцию можно установить на телефоне ребенка.

Сергей Плуготаренко

гендиректор организации "Цифровая экономика"

Если это будет добровольное, сама сеть предлагает в качестве конкурентного преимущества подобную настройку, например, чтобы дети не видели то, что им не нужно видеть, если это такая наработка сети, то пусть будет. Но гораздо важнее, на мой взгляд, чтобы социальные сети умели не только ненормативную лексику таким образом отключать, но еще как-то, может быть, помечать новость, которая, по ее мнению, не соответствует действительности. Такая функция была бы полезной, потому что эфир сейчас завален не только ненормативной лексикой, с которой можно жить, но и непроверенными данными, информацией. Это часто вводит в заблуждение людей. Очень много алгоритмов существует, кстати, искусственный интеллект на то и искусственный, что мы не всегда понимаем, как он работает, но при этом зачастую он умеет создавать алгоритмы, прогнозы, которые гораздо точнее наших.

Функция отсеивания негатива ориентирована в первую очередь на инфлюенсеров и знаменитостей, которые получают большое количество отрицательных комментариев.

Такие люди пишут гадости, потому что в интернете за это их не наказывают, объясняет клинический психолог Михаил Хорс. Тем не менее польза от хейтеров все-таки есть, поскольку они создают активность на страничке, продолжает специалист.

Михаил Хорс

клинический психолог

Сеть – норма жизни уже. Я вообще воспринимаю таких хейтеров, которые приходят периодически ко мне на странички, во-первых, как тренажер. То есть я тренируюсь переписываться с ними так, чтобы у них вызвать попытку убежать уже от меня. Во-вторых, это люди, которые развивают мою страничку, чем больше комментариев к моим постам, тем большее количество людей их увидит, это известный алгоритм. Поэтому извлекайте из них выгоду для своих страничек, для своих постов. Для такого поведения две составляющие: эмоция, которая, действительно, охватывает людей и управляет ими, но для большинства людей нужна еще вторая составляющая, чтобы они писали оскорбления, маты, это безнаказанность. Одну составляющую, безнаказанность, убираем, в итоге для большинства таких якобы эмоциональных людей выяснится, что они могут себя контролировать.

Многие соцсети сами борются с проблемой хейта в интернете. Например, применяют фильтр оскорбительных сообщений или инструменты, которые могут автоматически обнаружить конфликты в группах и сообщать модераторам. Также "ВКонтакте" предложила использовать вместо мата стикеры с персонажами.

Подкасты

Благовещенск – ворота в Поднебесную

В подкасте "Дома хорошо" – министр экономического развития Амурской области Оксана Кукшенева и замминистра Татьяна Величко. Обсуждали ралли и хоккей на берегу Амура, первую в мире трансграничную канатную дорогу и другие точки притяжения в Благовещенске.

19.02.2026 12:00
Итоги Мюнхенской конференции и планы Запада на ближайшие годы

Почему страны НАТО говорят о вероятности войны с Россией? Будет ли Европа продолжать содержать Украину? Какие планы у США на ЕС, Иран и Латинскую Америку? Об этом Алексей Бобровский говорил с военным экспертом Александром Степановым.

18.02.2026 12:00
За что певец Алексей Гоман благодарен своим слушателям

В гостях у Аллы Омелюты был певец и актер Алексей Гоман. Обсудили его участие в телевизионных шоу и проект "Маленький оркестр". Также Алексей признался, как относится к государственным наградам и за что благодарен своим слушателям и зрителям.

16.02.2026 12:00
Как узнать настоящую любовь

Психолог Юлия Дердо рассказала, как отличить настоящую любовь от слияния, на чей образ мы ориентируемся, когда представляем себе идеального партнера, и как формируется контрзависимость.

13.02.2026 18:00

Все подкасты

Новости

Программы

Лица

Нейросеть избавит интернет от токсичности

Подкасты