Експерти розкритикували обмеження моделі Fable від Anthropic – ШІ занадто жорстко блокує запити на тему кібербезпеки – новини технологій

Експерти з кібербезпеки висловлюють занепокоєння, що система блокує всі запити, що містять терміни з галузі кібербезпеки.

Нова модель штучного інтелекту Fable, розроблена компанією Anthropic для безпечного функціонування в сфері кібербезпеки, викликала критику серед фахівців. Експерти зазначають, що встановлені обмеження часто спрацьовують і блокують навіть безневинні запити, повідомляє TechCrunch.

“(Fable) відхиляє всі запити, які так чи інакше пов’язані з кібербезпекою. Навіть такі безпечні завдання, як перегляд блогу,” — написала у соцмережі X дослідниця безпеки з IBM X-Force, Валентина “Чомпі” Пальміотті.

Якщо система вважає запит потенційно небезпечним, чат автоматично зупиняється. У такому випадку користувач отримує сповіщення про те, що механізми безпеки виявили теми, пов’язані з кібербезпекою або біологією.

Обмеження були введені для зменшення ризику використання моделі для створення шкідливого програмного забезпечення чи компрометації систем. Деякі теми, пов’язані з біологією, блокуються через побоювання щодо можливого використання ШІ для виготовлення біологічної зброї. Водночас один з експертів у сфері кібербезпеки зазначив у соцмережі X, що обмеження Fable спрацьовують навіть під час запиту на звичайний перегляд коду.

Ветеран кібербезпеки Метт Суїче підтвердив, що запит на написання безпечного коду також може бути помилково класифікований як діяльність у сфері кібербезпеки, внаслідок чого користувача автоматично переводять на модель Claude Opus 4.8. За словами Суїче, система, ймовірно, значною мірою спирається на ключові слова, що призводить до спрацьовування обмежень на будь-які терміни, пов’язані з лексикою кібербезпеки.

“Але це зрозуміло, оскільки ми все ще на початковому етапі, і вони продовжують адаптувати свої захисні механізми. Я впевнений, що з часом вони вдосконаляться, оскільки Anthropic та інші провідні компанії-розробники моделей будуть тісніше співпрацювати з новим поколінням компаній у сфері кібербезпеки,” — додав експерт, який наразі працює в стартапі з кібербезпеки ШІ Tolmo.

Спеціалізовану модель кібербезпеки Mythos, на основі якої створено Fable, Anthropic представила у квітні в рамках програми Project Glasswing. Спочатку доступ до неї отримала обмежена кількість компаній та організацій для захисту критично важливого програмного забезпечення та інфраструктури. Як повідомляє TechCrunch, минулого тижня компанія розширила програму на сотні організацій у 15 країнах.