Прямой эфир: +7 495 728 77 01

SMS, WhatsApp, Viber, Telegram: +7 926 0000 920*

Обратная связь

Прямой эфир

секундочку...

Далее в эфире

Система дала сбой: нейросети стали в два раза чаще ошибаться

10.09.2025 15:40

Фото: Агентство "Москва"/Новосильцев Артур

Восстание машин пока отменяется: нейросети стали в два раза чаще ошибаться. По данным американской компании NewsGuard, доля ложных ответов выросла с 18 до 35%, несмотря на технологический прогресс. По мнению аналитиков, разработчики торопятся выпускать модели, обучая их на небольших и непроверенных объемах данных, где есть и правдивые, и ложные сведения.

Амбассадор цифрового образования Александр Степанов считает, что нейросети перегрузили информацией.

Александр Степанов
амбассадор цифрового образования
Их запустили в интернет, и они стали читать всю информацию, а не только то, что им давали раньше в моделях, чтобы они обладали большей информацией для ответов. Она любыми возможными способами подает вам информацию так, чтобы вы остались довольны, чтобы вы ее похвалили. Это классическая проблема нейросетей. Когда только они появились, а это было очень давно, их одна большая айти-компания запустила в интернет, и нейросеть стала выдавать, ссылаться на евгенику, другие уже научные теории, она утверждала, что это абсолютно верный ответ, потому что она училась на открытых данных в интернете, а там у нас много разных ответов. Потом перешли создатели на модели вычищенные. А сейчас из-за того, что пользователи хотели, чтобы ИИ им давал больше разных ответов, то их запустили обратно в интернет. Пожалуйста, мы получили с вами те самые ложные ответы.


Нейросети больше ориентированы на количество информации, чем на ее качество. На более-менее глубокие размышления искусственный интеллект пока не способен, отмечает независимый эксперт по инновациям в бизнесе Борис Агатов.

Борис Агатов
независимый эксперт по инновациям в бизнесе
У нейронной сети или у искусственного интеллекта – нет самосознания. То есть он не понимает причинно-следственные связи, он просто подбирает следующие слова. И вот в момент усложнения нейронной сети происходит такая ситуация: нейронная сеть добегает до примерно похожего ответа на вопрос и начинает вокруг него формировать вот это количество слов, которое нам и выдает. То есть она не идет вглубь, у нее нету представления, что это может быть неправильно, может быть не так. И вот за счет этого формируются неправильные ответы. Для этого вводят там рассуждения, еще что-то, как-то стараются это снизить, но вот чем больше нейронная сеть, сейчас по крайней мере, на этом этапе развития искусственного интеллекта, она не может уйти вглубь и осознать всю неправильность своего ответа.


Борис Агатов рассказал, где нейросети ошибаются чаще всего. Особенно на них нельзя положиться в области права. Сложно и с математическими расчетами.

На нейросети можно воздействовать эмоционально, лучше всего с ними работает метод кнута и пряника, добавляет амбассадор цифрового образования Александр Степанов.

В будущем эксперты не исключают, что контент, созданный искусственным интеллектом, будут маркировать, чтобы исключить его из образовательных программ. Также возможно комбинирование нейросетей с проверкой фактов. Например, одна – генерирует текст, а вторая – ищет ошибки.

Подкасты

  • Благовещенск – ворота в Поднебесную

    В подкасте "Дома хорошо" – министр экономического развития Амурской области Оксана Кукшенева и замминистра Татьяна Величко. Обсуждали ралли и хоккей на берегу Амура, первую в мире трансграничную канатную дорогу и другие точки притяжения в Благовещенске.

    19.02.2026 12:00

  • Итоги Мюнхенской конференции и планы Запада на ближайшие годы

    Почему страны НАТО говорят о вероятности войны с Россией? Будет ли Европа продолжать содержать Украину? Какие планы у США на ЕС, Иран и Латинскую Америку? Об этом Алексей Бобровский говорил с военным экспертом Александром Степановым.

    18.02.2026 12:00

  • За что певец Алексей Гоман благодарен своим слушателям

    В гостях у Аллы Омелюты был певец и актер Алексей Гоман. Обсудили его участие в телевизионных шоу и проект "Маленький оркестр". Также Алексей признался, как относится к государственным наградам и за что благодарен своим слушателям и зрителям.

    16.02.2026 12:00

  • Как узнать настоящую любовь

    Психолог Юлия Дердо рассказала, как отличить настоящую любовь от слияния, на чей образ мы ориентируемся, когда представляем себе идеального партнера, и как формируется контрзависимость.

    13.02.2026 18:00

Все подкасты

закрыть
закрыть
Обратная связь
Форма обратной связи

Отправить

Форма поиска