Штучний інтелект Anthropic: конфлікт між компанією та урядом США – технологічні новини

Американські чиновники вимагають додаткових пояснень щодо ризиків нової системи.

Поки адміністрація президента Сполучених Штатів Дональда Трампа фактично призупинила розробку нових моделей Anthropic, Fable 5 та Mythos 5, через занепокоєння з приводу національної безпеки, сама компанія намагається довести, що повне блокування є надмірною реакцією. Керівництво Anthropic на чолі з генеральним директором Даріо Амодеї проведе переговори у Вашингтоні з представниками Міністерства торгівлі США. Про це повідомляє BBC.

Керівники Anthropic мають зустрітися з високопосадовцями адміністрації США на фоні нових суперечок щодо останніх розробок у сфері штучного інтелекту. Переговори заплановані на понеділок у Вашингтоні між представниками Anthropic та Міністерства торгівлі США, яке очолює міністр Говард Лутнік.

Зустріч відбудеться після того, як у п’ятницю Anthropic обмежила публічний доступ до своєї нової системи штучного інтелекту. Раніше компанія сама описувала цей інструмент як надзвичайно потужний. Anthropic ухвалила рішення про обмеження доступу після того, як уряд США заборонив надавати технологію для використання будь-якими іноземними громадянами.

Суперечка стосується двох нових моделей штучного інтелекту – Fable 5 та Mythos 5. Fable 5 є версією з додатковими механізмами захисту, яку планували зробити доступною для широкої аудиторії. Натомість Mythos 5 має інший набір налаштувань безпеки та призначений лише для обмеженого кола організацій. Обидві моделі є новим поколінням Claude Mythos – сімейства систем штучного інтелекту компанії Anthropic.

Широкий резонанс навколо цих моделей виник ще у квітні, коли компанія надала попередній доступ до них невеликій кількості організацій. Серед учасників тестування були також окремі структури уряду США. Очікується, що в переговорах візьме участь генеральний директор Anthropic Даріо Амодеї.

Представники Білого дому відмовилися коментувати майбутню зустріч. У Міністерстві торгівлі США та самій компанії Anthropic також не надали офіційних коментарів. Минулого тижня Anthropic пояснила, що відкриття доступу до нової моделі пов’язане з певними ризиками.

У компанії підкреслили, що можливості Fable 5 перевищують усі моделі, які вона раніше робила загальнодоступними. Проте вже через кілька днів після запуску американська влада заявила, що дізналася про можливу «дірку» в системі безпеки.

Йдеться про так званий jailbreak – метод, що дозволяє змусити систему штучного інтелекту виконувати дії, для яких вона не була створена або налаштована.

У відповідь Anthropic зазначила, що наразі отримала лише усні повідомлення про існування такої потенційної вразливості. Суперечка між компанією та урядом стала черговим епізодом непростих відносин між Anthropic і федеральною владою. Раніше цього року компанія навіть подала позов проти Міністерства оборони США через розбіжності щодо умов використання її моделей.

Водночас кілька тижнів тому сторони вже проводили зустрічі у Білому домі. Тоді переговори були охарактеризовані як продуктивні. Очікується, що на нинішній зустрічі Міністерство торгівлі США представить додаткові матеріали щодо виявленої проблеми. За словами одного зі співрозмовників, саме ці документи мають стати предметом обговорення. Наразі залишається незрозумілим, чи зможе Anthropic після завершення переговорів знову відкрити доступ до моделей Fable 5 і Mythos 5.

Тим часом десятки представників технологічної індустрії та фахівців із кібербезпеки закликали владу США дозволити компанії повернути моделі у відкритий доступ. Відповідне звернення було оформлене у вигляді відкритого листа. Його підписали співробітники та колишні працівники Nvidia, Zoom, Mercedes-Benz, Google, а також колишні фахівці урядових структур США.

Автори звернення закликали Говарда Лутніка скасувати обмеження щодо Fable 5 та Mythos 5. Вони також запропонували уряду впровадити відкритий, науковий і прозорий механізм оцінки ризиків штучного інтелекту в майбутньому.

Попри те що Білий дім раніше демонстрував відносно стриманий підхід до регулювання штучного інтелекту та навіть заявляв про зацікавленість у його економічному потенціалі, останні дії влади викликали занепокоєння серед розробників і експертів з безпеки.

Нагадаємо, що нинішні переговори Anthropic із владою США стали продовженням історії із запуском моделей Claude Fable 5 та Claude Mythos 5, які компанія одразу позиціонувала як свої найпотужніші ШІ-системи. Anthropic заявляла, що нові моделі перевершують попередні Claude у програмуванні, наукових дослідженнях, роботі з даними та комп’ютерному зорі. Claude Fable 5 назвали першою загальнодоступною системою класу Mythos, тоді як Claude Mythos 5 залишили доступною лише для обмеженого кола партнерів у межах програми Project Glasswing, яку реалізують у співпраці з урядом США. Через ризики зловживань компанія впровадила додаткові механізми безпеки, зокрема автоматичне переведення запитів із чутливих сфер на менш потужну модель Claude Opus 4.8.