Хакеры создают открытые диалоги в ChatGPT для распространения вредоносного ПО
Злоумышленники разработали схему, по которой они создают открытые диалоги с искусственным интеллектом (ИИ) на темы, соответствующие популярным поисковым запросам, для продвижения вредоносного программного заражения.
Об этом сообщает компания по кибербезопасности Huntress.
Хакеры манипулируют чат-ботом, заставляя его генерировать вредоносные команды, а затем продвигают эти диалоги в верхние позиции поисковой выдачи Google, используя SEO-манипуляции.
К примеру, пользователь искал команду для очистки диска. В топе поиска он нашел ссылку на диалог с ChatGPT и был перенаправлен к совместному разговору. Интерфейс выглядел аутентичным, поскольку это был настоящий разговор на платформе OpenAI, созданный злоумышленником.
Пользователь, доверяя надежной платформе и поисковой системе, которой пользуется ежедневно, считал, что выполняет обычный совет от ИИ-помощника. Вместо этого, он выполнил команду, которая незаметно загрузила вариант программы-вора AMOS. Эта программа похитила пароль и установила устойчивое вредоносное программное обеспечение.
Этот метод опасен, поскольку обходится без загрузки подозрительных файлов и выглядит как стандартный совет от ИИ. Это позволяет обойти типичные механизмы защиты, поскольку люди доверяют результатам поиска Google и ChatGPT.
Google уже удалил одну из спонсируемых ссылок, которая была в поиске по меньшей мере полсуток после публикации отчета.
Эксперты Huntress предупреждают, что с 2025 года главным вектором атаки стало доверие пользователя к искусственному интеллекту, когда человек готов выполнять команды, которые выглядят как рекомендации или инструкция от ИИ. Поэтому они призывают быть бдительными и не вставлять команды в терминал или браузер, если вы не убеждены в их безопасности.
Напомним:
Основателя ChatGPT, компанию OpenAI, больше не считается передовым в области технологий искусственного интеллекта из-за вопросов о нерентабельности и необходимости быстрого роста, чтобы оплатить свои огромные расходы.