Anthropic відмовився знімати обмеження ШІ заради співпраці з Пентагоном – Даріо Амодей готовий працювати з Міноборони – новини технологій

Міністерство війни США погрожує виключенням Claude із систем та застосуванням оборонного закону.

Генеральний директор Anthropic Даріо Амодей заявив про розбіжності з Міністерством війни США щодо умов використання штучного інтелекту урядом. Компанія відмовляється знімати обмеження на масове внутрішнє стеження та повністю автономну зброю, проте раніше оголосила про пом’якшення політики безпеки через конкуренцію. У Пентагоні пригрозили виключенням Anthropic із систем.

Anthropic підтвердила, що активно співпрацює з Міністерством війни США та розвідувальним співтовариством, однак відмовляється погоджуватися на вимогу приймати “будь-яке законне використання” своїх моделей без додаткових гарантій. Компанія наполягає на збереженні двох принципових обмежень — щодо масового внутрішнього спостереження та повністю автономної зброї.

Згідно з заявою, Anthropic — одна з перших провідних компаній, яка розгорнула свої моделі в секретних урядових мережах США та національних лабораторіях. Модель Claude використовується у структурах національної безпеки для аналізу розвідданих, моделювання, оперативного планування та кібероперацій.

Компанія також заявила, що відмовилася від кількох сотень мільйонів доларів доходу, обмеживши використання Claude структурами, пов’язаними з Комуністичною партією Китаю. В Anthropic підкреслили, що підтримують жорсткий експортний контроль чипів і протидіють спробам кібератак, спрямованих на зловживання їхніми системами.

Проте в Anthropic вважають, що масове внутрішнє спостереження за допомогою ШІ становить ризик для базових свобод людини. За словами Амодея, це дозволить накопичувати дані про пересування та мережеву активність громадян, а головна небезпека полягає в здатності ШІ автоматично об’єднувати розрізнені фрагменти інформації у вичерпне досьє на будь-яку особу в масовому масштабі.

Другим неприйнятним для компанії напрямом є повністю автономна зброя, яка “виключає людину” з процесу ухвалення рішень. У компанії наголошують, що сучасні системи штучного інтелекту недостатньо надійні для такого застосування, а також не можуть замінити критичне судження військових фахівців.

За словами Амодея, Пентагон пригрозив виключити Anthropic зі своїх систем у разі збереження обмежень. Крім того, компанії можуть присвоїти статус “ризику ланцюга постачань” — ярлик для супротивників США, який ніколи раніше не застосовувався до американської компанії, і посилатися Закон про оборонне виробництво для примусового зняття гарантій.

“Попри це, погрози не змінюють нашої позиції: ми не можемо з чистою совістю прийняти їх прохання”, — зазначив керівник Anthropic. Він додав, що компанія готова забезпечити плавний перехід до іншого постачальника, якщо Міністерство війни вирішить розірвати співпрацю.

Anthropic заявляє, що її моделі залишатимуться доступними для військових на запропонованих умовах стільки, скільки буде потрібно. Компанія наголосила на готовності й надалі підтримувати національну безпеку США з дотриманням визначених етичних меж.

Даріо Амодей раніше попереджав про екзистенційну загрозу від надпотужного ШІ, здатного вже за рік-два перевершити можливості нобелівських лауреатів. Він закликав уряди втрутитися, оскільки трильйонні прибутки галузі можуть змушувати розробників замовчувати реальні масштаби небезпеки.