Россияне хотели использовать Claude для кибератак против Украины – Anthropic
Компания Anthropic предотвратила попытки использования своих моделей Claude для проведения кампании кибершпионажа против Украины, которая, как подозревается, связана с Россией.
Об этом говорится в отчете компании, сообщает Reuters.
Компания Anthropic обнаружила, что киберпреступники и хакеры, действующие при поддержке государства, всё чаще используют искусственный интеллект для организации и осуществления значительной части кибератак, причём люди часто выступают в роли наблюдателей, а не непосредственных исполнителей.
"Использование искусственного интеллекта вышло за рамки простых вопросов и ответов чат-бота и предполагало применение многоагентных систем", — говорится в сообщении.
По данным Anthropic, одна хакерская группа якобы проводила операции по фишингу, захвату гостиничных сетей Wi-Fi и взлому аккаунтов в WhatsApp против целей в правительственных, военных и дипломатических кругах Украины, используя искусственный интеллект практически на каждом этапе.
Методы работы этой группы соответствовали стилю деятельности российской хакерской группы Midnight Blizzard, которую правительство США ранее связывало с российской службой внешней разведки СВР.
Группа, как утверждается, использовала искусственный интеллект для создания системы, которая автоматически обнаруживала, когда её вредоносное программное обеспечение выявлялось системами защиты, и переписывала код до тех пор, пока оно не избегало обнаружения.
Anthropic также сообщила, что обнаружила и сорвала деятельность, связанную с аффилированными лицами группировки ShinyHunters, которая в настоящее время является одной из самых активных киберпреступных группировок и связана с атаками на крупные корпорации по всему миру.
Напомним:
Ведущий исследователь OpenAI предупредил, что искусственный интеллект развивается настолько стремительно, что людям становится всё сложнее его понимать и контролировать, и выразил надежду, что лаборатории, работающие над ИИ, добровольно замедлят темпы развития из соображений безопасности.