Прямой эфир: +7 495 728 77 01

SMS, WhatsApp, Viber, Telegram: +7 926 0000 920*

Обратная связь

Прямой эфир

секундочку...

Далее в эфире

Система дала сбой: нейросети стали в два раза чаще ошибаться

10.09.2025 15:40

Фото: Агентство "Москва"/Новосильцев Артур

Восстание машин пока отменяется: нейросети стали в два раза чаще ошибаться. По данным американской компании NewsGuard, доля ложных ответов выросла с 18 до 35%, несмотря на технологический прогресс. По мнению аналитиков, разработчики торопятся выпускать модели, обучая их на небольших и непроверенных объемах данных, где есть и правдивые, и ложные сведения.

Амбассадор цифрового образования Александр Степанов считает, что нейросети перегрузили информацией.

Александр Степанов
амбассадор цифрового образования
Их запустили в интернет, и они стали читать всю информацию, а не только то, что им давали раньше в моделях, чтобы они обладали большей информацией для ответов. Она любыми возможными способами подает вам информацию так, чтобы вы остались довольны, чтобы вы ее похвалили. Это классическая проблема нейросетей. Когда только они появились, а это было очень давно, их одна большая айти-компания запустила в интернет, и нейросеть стала выдавать, ссылаться на евгенику, другие уже научные теории, она утверждала, что это абсолютно верный ответ, потому что она училась на открытых данных в интернете, а там у нас много разных ответов. Потом перешли создатели на модели вычищенные. А сейчас из-за того, что пользователи хотели, чтобы ИИ им давал больше разных ответов, то их запустили обратно в интернет. Пожалуйста, мы получили с вами те самые ложные ответы.


Нейросети больше ориентированы на количество информации, чем на ее качество. На более-менее глубокие размышления искусственный интеллект пока не способен, отмечает независимый эксперт по инновациям в бизнесе Борис Агатов.

Борис Агатов
независимый эксперт по инновациям в бизнесе
У нейронной сети или у искусственного интеллекта – нет самосознания. То есть он не понимает причинно-следственные связи, он просто подбирает следующие слова. И вот в момент усложнения нейронной сети происходит такая ситуация: нейронная сеть добегает до примерно похожего ответа на вопрос и начинает вокруг него формировать вот это количество слов, которое нам и выдает. То есть она не идет вглубь, у нее нету представления, что это может быть неправильно, может быть не так. И вот за счет этого формируются неправильные ответы. Для этого вводят там рассуждения, еще что-то, как-то стараются это снизить, но вот чем больше нейронная сеть, сейчас по крайней мере, на этом этапе развития искусственного интеллекта, она не может уйти вглубь и осознать всю неправильность своего ответа.


Борис Агатов рассказал, где нейросети ошибаются чаще всего. Особенно на них нельзя положиться в области права. Сложно и с математическими расчетами.

На нейросети можно воздействовать эмоционально, лучше всего с ними работает метод кнута и пряника, добавляет амбассадор цифрового образования Александр Степанов.

В будущем эксперты не исключают, что контент, созданный искусственным интеллектом, будут маркировать, чтобы исключить его из образовательных программ. Также возможно комбинирование нейросетей с проверкой фактов. Например, одна – генерирует текст, а вторая – ищет ошибки.

Подкасты

  • Писатель, журналист и педагог Ирина Краева – о совмещении профессий

    В гостях у Ирины Кленской, главного редактора издательства "Молодая гвардия" Марии Залесской и президента Ассоциации книгораспространителей Светланы Зориной была писатель, журналист и педагог Ирина Краева.

    06.02.2026 10:00

  • Культурный подход с Ольгой Журавлевой

    В подкасте "Дома хорошо" – культуролог, автор программы "Личный подход" на "Радио Москвы" Ольга Журавлева. Обсудили недооцененные истории столицы, театральный код Астрахани, умные путешествия в Новосибирск и другие места для культурной перезагрузки.

    05.02.2026 12:00

  • Главные вызовы для российской экономики

    Зачем стране крепкий рубль, если на него жалуются экспортеры, ропщет Минфин, а эксперты всех уровней предрекают потери бюджета и другие проблемы? И какие внешние риски нам угрожают? Об этом Алексей Бобровский говорил с экономистом Владимиром Левченко.

    04.02.2026 12:00

  • Режиссер Нина Чусова – о принципах своей работы и призвании

    В гостях у Аллы Омелюты была режиссер Нина Чусова. В эфире "Москвы FM" она рассказала, когда поняла, кем ей суждено быть, насколько она избирательна в выборе артистов для своих постановок и как получилось, что каждый ее ребенок родился "под Гоголя".

    02.02.2026 12:00

Все подкасты

закрыть
закрыть
Обратная связь
Форма обратной связи

Отправить

Форма поиска