Программы

Спорт в большом городе

Ведущие Дмитрий Кирюшкин и Сергей Новоселов обсуждают самые интересные спортивные новости – всегда весело, познавательно и искрометно.

Понедельник, 20.00
Вечерняя поверка

Вечерняя итоговая программа. Все, что интересует Москву, о чем весь день говорит город. Четко и по делу обо всех событиях расскажут ведущие Влад Кутузов и Карина Минина.

Будние дни, с 18.00 до 20.00

Система дала сбой: нейросети стали в два раза чаще ошибаться

10.09.2025 15:40

Фото: Агентство "Москва"/Новосильцев Артур

Восстание машин пока отменяется: нейросети стали в два раза чаще ошибаться. По данным американской компании NewsGuard, доля ложных ответов выросла с 18 до 35%, несмотря на технологический прогресс. По мнению аналитиков, разработчики торопятся выпускать модели, обучая их на небольших и непроверенных объемах данных, где есть и правдивые, и ложные сведения.

Амбассадор цифрового образования Александр Степанов считает, что нейросети перегрузили информацией.

Александр Степанов

амбассадор цифрового образования

Их запустили в интернет, и они стали читать всю информацию, а не только то, что им давали раньше в моделях, чтобы они обладали большей информацией для ответов. Она любыми возможными способами подает вам информацию так, чтобы вы остались довольны, чтобы вы ее похвалили. Это классическая проблема нейросетей. Когда только они появились, а это было очень давно, их одна большая айти-компания запустила в интернет, и нейросеть стала выдавать, ссылаться на евгенику, другие уже научные теории, она утверждала, что это абсолютно верный ответ, потому что она училась на открытых данных в интернете, а там у нас много разных ответов. Потом перешли создатели на модели вычищенные. А сейчас из-за того, что пользователи хотели, чтобы ИИ им давал больше разных ответов, то их запустили обратно в интернет. Пожалуйста, мы получили с вами те самые ложные ответы.

Нейросети больше ориентированы на количество информации, чем на ее качество. На более-менее глубокие размышления искусственный интеллект пока не способен, отмечает независимый эксперт по инновациям в бизнесе Борис Агатов.

Борис Агатов

независимый эксперт по инновациям в бизнесе

У нейронной сети или у искусственного интеллекта – нет самосознания. То есть он не понимает причинно-следственные связи, он просто подбирает следующие слова. И вот в момент усложнения нейронной сети происходит такая ситуация: нейронная сеть добегает до примерно похожего ответа на вопрос и начинает вокруг него формировать вот это количество слов, которое нам и выдает. То есть она не идет вглубь, у нее нету представления, что это может быть неправильно, может быть не так. И вот за счет этого формируются неправильные ответы. Для этого вводят там рассуждения, еще что-то, как-то стараются это снизить, но вот чем больше нейронная сеть, сейчас по крайней мере, на этом этапе развития искусственного интеллекта, она не может уйти вглубь и осознать всю неправильность своего ответа.

Борис Агатов рассказал, где нейросети ошибаются чаще всего. Особенно на них нельзя положиться в области права. Сложно и с математическими расчетами.

На нейросети можно воздействовать эмоционально, лучше всего с ними работает метод кнута и пряника, добавляет амбассадор цифрового образования Александр Степанов.

В будущем эксперты не исключают, что контент, созданный искусственным интеллектом, будут маркировать, чтобы исключить его из образовательных программ. Также возможно комбинирование нейросетей с проверкой фактов. Например, одна – генерирует текст, а вторая – ищет ошибки.