Хакер зламав 14 компаній, використовуючи Claude та Codex – ШІ самостійно виконав більшість завдань – новини технологій

Дослідники проаналізували понад тисячу сесій та встановили особу зловмисника.

Кіберзлочинець-початківець зміг отримати доступ до систем 14 організацій і викрасти конфіденційні дані, використовуючи штучний інтелект Claude Code від Anthropic та Codex від OpenAI. До такого висновку дійшли фахівці компанії OALABS після вивчення повного робочого каталогу зловмисника, повідомляє TechRadar.

Експерти підкреслили, що хакеру не потрібно мати високий рівень кваліфікації, адже достатньо лише правильно формулювати запити для ШІ. За їхніми словами, саме ШІ-агент виконував більшу частину технічної роботи та організації цієї атаки.

“У багатьох випадках зловмисник надавав лише загальні, прості підказки та дозволяв Claude заповнювати прогалини: досліджувати вразливі сервіси, виявляти потенційні слабкості, писати код експлойту, перевіряти доступ та збирати дані”, — зазначили в OALABS.

Дослідникам вдалося встановити особу та місцезнаходження ймовірного зловмисника. Як повідомляється, атаки здійснювалися не з власної інфраструктури хакера, а через сторонній сервер. Після виявлення підозрілої активності власник сервера завантажив увесь робочий каталог і передав його експертам для аналізу.

Завдяки цьому OALABS отримала доступ до повних журналів роботи ШІ-агентів. Вони містили запити користувача, використані інструменти, внутрішні ланцюги міркувань мовної моделі та записи про порушення політик безпеки під час виконання завдань. Дослідники не виявили доказів того, що викрадені дані були монетизовані через продаж у даркнеті або вимагання коштів у постраждалих компаній.

Загалом в OALABS проаналізували понад тисячу сеансів, у яких зловмисник без зусиль обходив захисні бар’єри ШІ. Разом із цим серед сесій знайшли його резюме з повними даними, профілем LinkedIn та IP-адресою в Ефіопії.

За словами дослідників, цей випадок демонструє, наскільки сучасні генеративні моделі ШІ знизили бар’єр входу в кіберзлочинність. В OALABS закликали фахівців з безпеки готуватися до нової реальності, в якій навіть малодосвідчені користувачі можуть здійснювати складні атаки.

Нещодавно дослідники з Університету Торонто створили прототип ШІ-хробака, який здатний самостійно поширюватися мережею та адаптувати методи атаки під конкретний пристрій. На відміну від традиційного шкідливого програмного забезпечення, нова програма шукає різні вразливості в операційних системах Windows та Linux без участі людини. Водночас експерти зазначили, що таку технологію можна використовувати не лише для зламу, а й для дзеркального пошуку та автоматичного виправлення вразливостей.