Дослідники обійшли захист macOS за допомогою штучного інтелекту Mythos від Anthropic – новини технологій

Команда Calif за п’ять днів розробила експлойт, використовуючи інструменти Mythos від Anthropic.

Фахівці з американської компанії Calif оголосили про новий метод обходу системи захисту MacOS, який вони виявили під час тестування ранньої версії штучного інтелекту Mythos від Anthropic. Вони зазначили, що така атака дозволяє отримати підвищені привілеї в системі та потенційно захопити контроль над комп’ютером Apple, повідомляє The Wall Street Journal.

Проблеми були виявлені в квітні під час тестування програмного забезпечення Mythos. Дослідники стверджують, що їм вдалося поєднати дві уразливості в MacOS із кількома техніками пошкодження пам’яті, що дозволило отримати доступ до частин системи, які повинні бути ізольованими від користувача. У поєднанні з іншими атаками, так званий експлойт ескалації привілеїв може дати змогу хакерам повністю захопити контроль над пристроєм.

Особливу увагу дослідників привернуло те, що атаку вдалося здійснити проти MacOS. Цю систему вважають однією з найскладніших цілей для злому в індустрії.

Дослідники Calif настільки серйозно поставилися до свого відкриття, що особисто приїхали з Пало-Альто до штаб-квартири Apple у Купертіно, щоб передати компанії 55-сторінковий звіт із описом виявлених уразливостей. Вони зазначили, що розкриють деталі атаки лише після того, як Apple випустить необхідні оновлення безпеки.

“Безпека є нашим головним пріоритетом, і ми дуже серйозно ставимося до повідомлень про потенційні вразливості”, — заявили в Apple та додали, що вже розглядають звіт Calif.

За словами Calif, створення робочого коду для атаки за допомогою Claude Mythos зайняло лише п’ять днів. Водночас генеральний директор компанії Тай Дуонг підкреслив, що Mythos вперше продемонструвала здатність винаходити нові методи зламу, а не просто відтворювати вже задокументовані атаки. На його думку, такий прорив став можливим завдяки залученню досвіду професійних хакерів з Каліфорнії. Раніше ШІ не виявляв подібної автономності у створенні унікальних кіберзагроз.

Останніми місяцями експерти дедалі частіше попереджають про можливий Bugmageddon — різке зростання кількості виявлених уразливостей через розвиток моделей штучного інтелекту. Зокрема, раніше цього року ШІ Anthropic за два тижні виявив понад 100 критичних помилок у браузері Firefox — приблизно стільки ж, скільки фахівці зазвичай знаходять за два місяці.

Нещодавно дослідники також виявили, що моделі штучного інтелекту можуть автономно зламувати комп’ютери, переносити власні файли на нові машини та продовжувати атаки без участі людини. Автори експерименту вважають, що це перша відома демонстрація самовідтворення ШІ через використання вразливостей у системах безпеки.

Тема безпеки нових моделей ШІ вже викликала занепокоєння у Вашингтоні. Білий дім раніше виступав проти поступового розширення доступу до Mythos, а зараз чиновники розглядають можливість запровадження додаткового державного нагляду за найпотужнішими системами штучного інтелекту.