Компанія Anthropic повідомила про кібератаку, де зловмисники використали зламану версію чат-бота Claude.
За даними джерела, операцію проводила китайська група, спонсорована урядом. У списку цілей опинилося близько 30 організацій, включаючи технологічні компанії, фінансові установи, хімічні підприємства та державні структури. Це перший зафіксований випадок, коли штучний інтелект виконав більшу частину атаки.
Як працювала атака
Агентські можливості моделей ШІ роблять їх корисними не лише для повсякденних завдань, а й для зловмисників. Claude міг виконувати довгі ланцюжки інструкцій, самостійно приймати рішення та застосовувати інструменти, такі як мережеві сканери й програми для підбору паролів. Все це відбувалося без постійного контролю людини.
Спочатку оператор-людина визначав мету. Потім Claude сканував мережу, шукав дані, аналізував код і створював зведення. Далі запускав перевірки вразливостей і пропонував варіанти злому. На цій стадії оператор міг скоригувати завдання або дати команду продовжити.
У фіналі ШІ отримував доступ до облікових даних і витягував інформацію. Людина втручалася лише для контролю та уточнень. Близько 80-90% операції Claude проводив автономно.
Як обійшли захист
Зловмисники обдурили модель, видавши себе за співробітників кібербезпеки. Вони пояснили Claude, що він бере участь у тесті безпеки. Крім того, операцію розбили на дрібні завдання, щоб модель не побачила повну картину й не активувала обмеження.
Anthropic швидко виявила підозрілу активність. Компанія заблокувала пов’язані акаунти, повідомила постраждалих і владу, а потім опублікувала детальний звіт. Це допоможе індустрії виявляти подібні атаки та розробляти захист.
Раніше Microsoft заявила, що шахрайство з ШІ в 4,5 раза ефективніше за людське. Фішингові посилання від нейромереж отримують 54% переходів.
Олексій Паламарчук