Искусственный интеллект встал на сторону "тьмы"

29.03.2023 13:20

Фото: depositphotos/AndreyPopov

Искусственный интеллект встал на сторону "тьмы". Мошенники придумали, как использовать чат-бот ChatGPT для обмана интернет-пользователей. Как пишут "Известия", технология позволяет максимально автоматизировать процесс отправки фишинговых писем и сделать их более достоверными.

Массу таких писем на русском языке составляют иностранцы. Ранее их рассылки содержали много стилистических, орфографических и грамматических ошибок. Технический онлайн-перевод также был сильно заметен, пояснил руководитель департамента информационно-аналитических исследований T.Hunter Игорь Бедеров.

Игорь Бедеров

руководитель департамента информационно-аналитических исследований T.Hunter

В силу того, что преступность интернациональна, ChatGPT может быть использован для составления текстов, соответственно, злоумышленники додумались использовать ChatGPT для подготовки веб-страниц. В принципе, удивительного ничего нет. Дело в том, что с того момента, когда впервые была явлена общественности сама нейросеть, это было в ноябре прошлого года. уже буквально через месяц, а то и раньше, появились первые публикации того, что преступники ChatGPT начинают использовать для своих целей.

Кроме того, по запросу мошенника ChatGPT может написать вирусный код, а также сделать копию банковского сайта или страничку социальной сети. Такие возможности уже привели к существенному росту числа киберпреступлений, добавил эксперт.

Игорь Бедеров

руководитель департамента информационно-аналитических исследований T.Hunter

В конце марта мы зафиксировали факт того, что нейросеть была использована злоумышленниками том числе и для написания простейших образцов вирусного программного обеспечения, вирусов-шифровальщиков. При том, что изначально сама ChatGPT ограничивает такую возможность, ее для этого путем редактирования немножко привели в состояние тонуса. Во-вторых, можно задать команду написать код страницы авторизации, например, социальной сети какой-нибудь, в этом коде останется только поменять определенный параметр для того, чтобы логин и пароль направлялись не в социальную сеть, а, например, злоумышленнику.

Распознать поддельный сайт или платежную страницу банка при таких возможностях искусственного интеллекта достаточно сложно. Злоумышленники придумывают все более изощренные схемы обмана, но суть всегда одна, отметил технический директор Qrator Labs Артем Гавриченков.

Артем Гавриченков

технический директор Qrator Labs

Схемы эволюционируют со временем, изучать там какие-то конкретные примеры не так полезно, как понять общую мысль о том, что в любой ситуации, когда вас заставляют куда-то, допустим, переводить деньги или, допустим, производить какие-то покупки, должна быть выстроена очень четкая цепочка доверия от кого-то, кому вы доверяете, до той операции, которая проводится. Злоумышленники в основном эксплуатируют именно вопрос этой цепочки доверия.

Ранее Роскомнадзор сообщил о создании системы, направленной на противодействие использованию фишинговых ресурсов.

Подкасты

Чукотка – здесь начинается день

В подкасте "Дома хорошо" – заместитель гендиректора Фонда развития туризма Чукотского автономного округа Юлия Бойкова. Обсудили самые яркие впечатления от региона, возможность встретиться с китами и исполнение других заветных желаний.

29.01.2026 12:00
Проникновение искусственного интеллекта в экономику и социальную сферу

Есть ли в нашей жизни сферы, куда ИИ скорее всего не доберется и куда его пускать не стоит? Как государство включается в разработку задач и стратегий в этой отрасли? Об этом Алексей Бобровский говорил с членом совета директоров НТЦ РОСА Сергеем Кравцовым.

28.01.2026 12:00
Кто мог бы сыграть в кино актера Егора Бероева

В гостях у Аллы Омелюты был актер Егор Бероев. Он рассказал, что думает о цензуре, за что недолюбливает фильмы 90-х и как относится к поцелуям в кино. Также Егор предположил, кто мог бы сыграть его самого.

26.01.2026 12:00
Что бы мы делали, если бы закрыли все потребности

Психолог Юлия Дердо рассказала, как разобраться, из чего состоит наше глубинное счастье, почему некоторые не могут расслабиться и остановиться, даже заработав огромные деньги, и как начать по-настоящему жить без тревоги, суеты и страхов.

23.01.2026 18:00

Все подкасты

Новости

Программы

Лица

Искусственный интеллект встал на сторону "тьмы"

Подкасты