Хакери створюють відкриті діалоги у ChatGPT для поширення шкідливого ПЗ

Зловмисники розробили схему, за якою вони створюють відкриті діалоги зі штучним інтелектом (ШІ) на теми, що відповідають популярним пошуковим запитам, для просування шкідливого програмного зараження.

Про це повідомляє компанія з кібербезпеки Huntress.

Хакери маніпулюють чат-ботом, змушуючи його генерувати шкідливі команди, а потім просувають ці діалоги у верхні позиції пошукової видачі Google, використовуючи SEO-маніпуляції.

Наприклад, користувач шукав команду для очищення диска. У топі пошуку він знайшов посилання на діалог з ChatGPT і був перенаправлений до спільної розмови. Інтерфейс виглядав автентичним, оскільки це була справжня розмова на платформі OpenAI, створена зловмисником.

Користувач, довіряючи надійній платформі та пошуковій системі, якою користується щодня, вважав, що виконує звичайну пораду від ШІ-помічника. Натомість, він виконав команду, яка непомітно завантажила варіант програми-злодія AMOS. Ця програма викрала пароль і встановила стійке шкідливе програмне забезпечення.

Цей метод небезпечний, оскільки обходиться без завантаження підозрілих файлів і виглядає як стандартна порада від ШІ. Це дає змогу обійти типові механізми захисту, оскільки люди довіряють результатам пошуку Google і ChatGPT.

Google уже видалив одне зі спонсорованих посилань, яке було в пошуку щонайменше півдоби після публікації звіту.

Експерти Huntress попереджають, що з 2025 року головним вектором атаки стала довіра користувача до штучного інтелекту, коли людина готова виконувати команди, що мають вигляд рекомендацій або інструкцій від ШІ. Тому вони закликають бути пильними і не вставляти команди в термінал або браузер, якщо ви не переконані в їхній безпеці.

Нагадаємо:

Засновника ChatGPT, компанію OpenAI, більше не вважають передовим у галузі технологій штучного інтелекту через питання про нерентабельність і необхідність швидкого зростання, щоб оплатити свої величезні витрати.