Mythos від Anthropic викликала занепокоєння в США та на Волл-стріт – загрози кібербезпеці від нового штучного інтелекту – технологічні новини

Компанія веде переговори зі США через ризики для кібербезпеки.

Компанія Anthropic проводить переговори з урядом США щодо своєї нової моделі штучного інтелекту Mythos, яку вважає занадто небезпечною для загального доступу. Як зазначають представники компанії, ця система створює “безпрецедентні ризики кібербезпеки” через свою здатність виявляти вразливості та потенційно їх використовувати. У дискусії беруть участь уряди, фінансові регулятори та найбільші банки світу, повідомляє EuroNews.

“Ми вважаємо, що уряд повинен бути обізнаний про ці питання… Тому, звичайно, ми обговорюємо з ними модель Mythos, і будемо обговорювати й наступні моделі”, — зазначив співзасновник Anthropic Джек Кларк на заході Semafor World Economy у Вашингтоні.

Занепокоєння щодо моделі виникло на фоні попереднього конфлікту між Anthropic і Пентагоном стосовно обмежень використання ШІ у військових цілях. Після зриву переговорів Міністерство оборони США включило компанію до списку ризиків для ланцюга постачань і заборонило використання її технологій.

“У нас виникла невелика суперечка щодо контракту, але я не хочу, щоб це затьмарило той факт, що ми дуже піклуємося про національну безпеку,” — додав співзасновник Anthropic.

Фінансовий сектор також відреагував на нову розробку. Міністр фінансів США Скотт Бессент минулого тижня зібрав керівників провідних банків для обговорення Mythos, а за даними Bloomberg, їх заохочують тестувати модель для виявлення кіберзагроз.

Anthropic має намір обмежити доступ до Mythos і надати його лише окремим технологічним та кібербезпековим компаніям, зокрема Amazon, Apple та JP Morgan Chase. За інформацією Bloomberg, модель також тестують Goldman Sachs, Citigroup, Bank of America та Morgan Stanley.

У Великій Британії урядовий Інститут безпеки штучного інтелекту (The AI Security Institute, AISI) попередив, що Mythos є “кроком” уперед у порівнянні з попередніми моделями за рівнем кіберзагроз. Financial Times повідомляє, що фінансові регулятори країни також оцінюють потенційні ризики системи.

Як зазначає Reuters, модель Mythos, представлена 7 квітня, позиціонується Anthropic як найпотужніша для задач програмування та автономної роботи. Експерти вказують, що її здатність до складного кодування може дозволити не лише виявляти слабкі місця в системах, а й створювати способи їх експлуатації.

Нагадаємо, що Федеральний апеляційний суд у Вашингтоні відмовився призупинити рішення Міноборони США щодо визнання Anthropic ризиком для національної безпеки у сфері постачання. Компанія вважає це політичним тиском через позицію щодо безпеки технологій.