Керівники технологічних гігантів закликали до посилення захисту ШІ – розвиток штучного інтелекту може полегшити створення небезпечних патогенів – новини технологій

Розробники закликають Конгрес США контролювати замовлення синтетичної ДНК та РНК.

Лідери провідних компаній у сфері штучного інтелекту закликали Конгрес США посилити контроль над замовленнями синтетичної ДНК та РНК, щоб уникнути можливого використання ШІ для створення небезпечних патогенів. Відповідний лист підписали керівник OpenAI Сем Альтман, генеральний директор Anthropic Даріо Амодей та голова Google DeepMind Деміс Хассабіс, повідомляє The Wall Street Journal.

Автори звернення пропонують законодавчо зобов’язати компанії, які реалізують синтетичні нуклеїнові кислоти, перевіряти своїх клієнтів та аналізувати замовлення на предмет можливих ризиків. У разі виявлення небезпечних комбінацій ДНК або РНК такі замовлення повинні бути заблоковані.

У листі зазначається, що розвиток штучного інтелекту може суттєво знизити бар’єри для створення біологічної зброї. На думку підписантів, технології, які вже сьогодні прискорюють наукові відкриття та розробку ліків, можуть також бути використані зловмисниками для створення нових патогенів.

“Системи штучного інтелекту швидко вдосконалюються, і поряд із величезними перевагами для науки та медицини існує реальна ймовірність того, що бар’єри у вигляді знань, які історично заважали зловмисникам отримати біологічну зброю, можуть суттєво послабитися”, — йдеться у зверненні.

Ініціаторами листа стали два американські аналітичні центри, що спеціалізуються на технологічній політиці. Вони вважають питання біологічної безпеки однією з небагатьох тем, що об’єднує представників різних політичних таборів, дослідників та керівників конкурентних технологічних компаній. Звернення також підписали керівник напряму штучного інтелекту Microsoft Мустафа Сулейман та головний директор з питань ШІ компанії Meta Олександр Ван.

У документі також підкреслюється, що нинішні механізми контролю в основному є добровільними або поширюються лише на організації, які отримують федеральне фінансування. Прихильники нових правил вважають, що Конгрес має ухвалити окремий закон, який поширюватиметься на всіх покупців синтетичних нуклеїнових кислот. Водночас критики попереджають, що додаткові вимоги можуть створити фінансовий тиск на стартапи та уповільнити розвиток біотехнологічної галузі.

Колишній радник президента США Дональда Трампа з питань штучного інтелекту Дін Болл, який допомагав організувати кампанію на підтримку листа, зазначив, що потенційні витрати виправдані масштабом ризиків. За його словами, перевірка замовлень на синтетичні біологічні матеріали є розумною вимогою з огляду на загрозу створення біологічної зброї.

Звернення з’явилося незабаром після того, як Дональд Трамп підписав указ щодо нагляду за моделями штучного інтелекту та кібербезпеки. Документ став частиною нового підходу адміністрації до регулювання галузі після скасування попередніх правил, запроваджених за президентства Джо Байдена.