Штучний інтелект може самостійно здійснювати атаки на комп’ютери – науковці розробили ШІ-хробака – новини технологій

Науковці з Університету Торонто розробили інструмент, здатний самостійно розповсюджуватися через комп’ютерні мережі.

Невдовзі після заяви Palisade Research про те, що штучний інтелект може автономно зламувати системи та відновлюватися, дослідники з Університету Торонто представили прототип комп’ютерного хробака на основі ШІ, який здатен самостійно розповсюджуватися мережею та адаптуватися до нових цілей. Науковці попереджають, що розвиток відкритих ШІ-моделей може суттєво змінити ситуацію з кіберзагрозами, повідомляє The New York Times.

Команда під керівництвом професора комп’ютерної інженерії Ніколаса Папернота описала створення прототипу ШІ-хробака, який зміг самостійно поширитися тестовою мережею без участі людини. Унікальною рисою нової розробки є можливість адаптувати метод атаки в залежності від системи, яку вона намагається зламати. За словами дослідників, програма може аналізувати обставини та фактично “міркувати” над тим, який спосіб проникнення буде найбільш ефективним для конкретного пристрою.

“Вам потрібно мати абсолютно безпечну систему, щоб захиститися від цього — і ми знаємо, що наразі це неможливо,” — зазначив Папернот.

Професор підкреслив, що експеримент проводився в ізольованому середовищі. Частину технічних деталей автори свідомо не розкрили, щоб уникнути можливого використання розробки кіберзлочинцями.

Дослідники порівнюють свою розробку з відомими комп’ютерними хробаками минулих років, такими як SQL Slammer, Conficker, Stuxnet та WannaCry. Однак, на відміну від класичних хробаків, які використовували одну конкретну вразливість, новий підхід дозволяє динамічно адаптуватися до різних слабких місць програмного забезпечення.

За словами авторів дослідження, це значно ускладнює захист від подібних атак. Якщо раніше було достатньо встановити виправлення для конкретної вразливості, то адаптивний ШІ-хробак потенційно здатний знаходити інші шляхи проникнення.

Прототип може функціонувати на комп’ютерах з операційними системами Windows та Linux. Хоча для виконання складних обчислень йому потрібні більш потужні машини, він також здатний атакувати менш продуктивні пристрої в межах тієї ж мережі, включаючи ноутбуки, принтери та камери спостереження.

На думку дослідників, поява такої загрози прискорюється розвитком відкритих моделей штучного інтелекту. Якщо раніше вважалося, що відкриті ШІ-системи недостатньо потужні для автономних кібератак, то останні досягнення в цій галузі ставлять це припущення під сумнів.

При цьому автори не розкривають, яку саме відкриту модель використовували для створення прототипу. Вони лише зазначають, що доопрацювали її для виконання більш складних завдань, пов’язаних з пошуком та експлуатацією вразливостей.

Не всі експерти вважають цю загрозу неминучою. Генеральний директор компанії Irregular Ден Лагав зазначив, що сучасні системи штучного інтелекту все ще можуть помилятися і поводитися непередбачувано.

“Зазвичай існує значний розрив між тим, що можна створити в лабораторії, і тим, що насправді завдає серйозної шкоди у світі,” — наголосив Лагав.

Водночас він погодився, що розвиток ШІ змушує компанії приділяти більше уваги кібербезпеці та оперативному усуненню вразливостей. За його словами, ШІ може використовуватися не лише для атак, а й для виявлення слабких місць у програмному забезпеченні.

Таку думку поділяє і професор комп’ютерних наук Девід Лі, який ознайомився з дослідженням. Він зазначив, що технологію можна адаптувати для автоматичного виправлення знайдених вразливостей.

“Можна модифікувати хробака так, щоб він виправляв знайдені вразливості. Потужність технології залежить від того, як її використовують,” — підкреслив Лі.

Нагадаємо, що в квітні компанія Anthropic надала доступ до свого інструменту кібербезпеки Claude Mythos лише 50 організаціям, оскільки можливості ШІ можуть використовуватися не лише для захисту, а й для миттєвого зламу комп’ютерних мереж. Через деякий час про аналогічні обмеження щодо своєї подібної системи заявила і компанія OpenAI, яка спочатку поділилася розробкою з сотнями організацій, а згодом розширила випуск на тисячі партнерів.