Система дала сбой: нейросети стали в два раза чаще ошибаться

10.09 15:40

Фото: Агентство "Москва"/Новосильцев Артур

Восстание машин пока отменяется: нейросети стали в два раза чаще ошибаться. По данным американской компании NewsGuard, доля ложных ответов выросла с 18 до 35%, несмотря на технологический прогресс. По мнению аналитиков, разработчики торопятся выпускать модели, обучая их на небольших и непроверенных объемах данных, где есть и правдивые, и ложные сведения.

Амбассадор цифрового образования Александр Степанов считает, что нейросети перегрузили информацией.

Александр Степанов

амбассадор цифрового образования

Их запустили в интернет, и они стали читать всю информацию, а не только то, что им давали раньше в моделях, чтобы они обладали большей информацией для ответов. Она любыми возможными способами подает вам информацию так, чтобы вы остались довольны, чтобы вы ее похвалили. Это классическая проблема нейросетей. Когда только они появились, а это было очень давно, их одна большая айти-компания запустила в интернет, и нейросеть стала выдавать, ссылаться на евгенику, другие уже научные теории, она утверждала, что это абсолютно верный ответ, потому что она училась на открытых данных в интернете, а там у нас много разных ответов. Потом перешли создатели на модели вычищенные. А сейчас из-за того, что пользователи хотели, чтобы ИИ им давал больше разных ответов, то их запустили обратно в интернет. Пожалуйста, мы получили с вами те самые ложные ответы.

Нейросети больше ориентированы на количество информации, чем на ее качество. На более-менее глубокие размышления искусственный интеллект пока не способен, отмечает независимый эксперт по инновациям в бизнесе Борис Агатов.

Борис Агатов

независимый эксперт по инновациям в бизнесе

У нейронной сети или у искусственного интеллекта – нет самосознания. То есть он не понимает причинно-следственные связи, он просто подбирает следующие слова. И вот в момент усложнения нейронной сети происходит такая ситуация: нейронная сеть добегает до примерно похожего ответа на вопрос и начинает вокруг него формировать вот это количество слов, которое нам и выдает. То есть она не идет вглубь, у нее нету представления, что это может быть неправильно, может быть не так. И вот за счет этого формируются неправильные ответы. Для этого вводят там рассуждения, еще что-то, как-то стараются это снизить, но вот чем больше нейронная сеть, сейчас по крайней мере, на этом этапе развития искусственного интеллекта, она не может уйти вглубь и осознать всю неправильность своего ответа.

Борис Агатов рассказал, где нейросети ошибаются чаще всего. Особенно на них нельзя положиться в области права. Сложно и с математическими расчетами.

На нейросети можно воздействовать эмоционально, лучше всего с ними работает метод кнута и пряника, добавляет амбассадор цифрового образования Александр Степанов.

В будущем эксперты не исключают, что контент, созданный искусственным интеллектом, будут маркировать, чтобы исключить его из образовательных программ. Также возможно комбинирование нейросетей с проверкой фактов. Например, одна – генерирует текст, а вторая – ищет ошибки.

Подкасты

Стресс и усталость в преддверии Нового года

Психолог Юлия Дердо рассказала, нормально ли не иметь новогоднего настроения в конце декабря, почему многие испытывают в этот период только стресс и усталость, к чему нас каждый раз обязывает этот праздник и как избавиться от чувства вины перед близкими.

26.12.2025 18:00
Разведчик Андрей Безруков – о политических, экономических и технологических итогах года

В гостях у Александра Цыпкина был полковник СВР в отставке, профессор МГИМО Андрей Безруков. Подвели итоги года – политические, экономические и технологические.

26.12.2025 12:00
Литературный обозреватель Екатерина Шляхова – о сервисе Ridero

Как в Екатеринбурге появился сервис Ridero и как он набрал свою популярность? Кто может издать книгу через эту площадку и какой контент на ней преобладает? Какие дороги Ridero открывает авторам и в чем его главные особенности?

26.12.2025 10:00
Тула креативная ждет на Новый год

В подкасте "Дома хорошо" – заместитель министра культуры и туризма Тульской области Елена Мартынова. Обсудили креативные кластеры, иммерсивные экскурсии, новогодние ярмарки и секретный подарок, который – без преувеличения – ждет каждого гостя Тулы.

25.12.2025 12:00

Все подкасты

Новости

Программы

Лица

Система дала сбой: нейросети стали в два раза чаще ошибаться

Подкасты