Співзасновник Anthropic застеріг про загрозу масового безробіття через ШІ – заклик обмежити вплив технологічних гігантів на розвиток ШІ – новини технологій

Крістофер Ола закликав обмежити вплив технологічних компаній на штучний інтелект.

Співзасновник Anthropic Крістофер Ола підкреслив, що розвиток штучного інтелекту не слід залишати виключно під контролем технологічних компаній. Він закликав до більш активного нагляду з боку урядів, релігійних лідерів та суспільства. Цю заяву Ола зробив у Ватикані під час презентації першої енцикліки Папи Римського Лева XIV, повідомляє Reuters.

Документ під назвою Magnifica humanitas (“Величне людство”) став першою енциклікою понтифіка, присвяченою темі ШІ. Під час свого виступу на презентації Ола зазначив, що існує “реальна можливість” того, що штучний інтелект витіснить людську працю “в дуже великих масштабах”. За його словами, у такому випадку підтримка людей, які втратять роботу, стане “моральним імперативом історичних масштабів”.

“Кожна провідна лабораторія штучного інтелекту… працює в межах певного набору стимулів та обмежень, які іноді можуть суперечити правильному підходу”, — зазначив Ола, додавши, що навіть дослідники з добрими намірами підлягають впливу комерційного та геополітичного тиску.

Співзасновник Anthropic підкреслив, що саме тому необхідний зовнішній контроль за розвитком технологій. Він також привітав активну участь Католицької церкви в обговоренні наслідків стрімкого розвитку ШІ.

Ола окреслив три основні проблеми, які, на його думку, потребують термінової уваги. Йдеться про ризик масштабної втрати робочих місць, нерівномірний розподіл вигод від ШІ між країнами та складність інтерпретації поведінки сучасних систем штучного інтелекту.

“Питання, які піднімає штучний інтелект, є значно більшими, ніж просто питання спільноти дослідників ШІ”, — наголосив Ола та закликав до “серйозних, вдумливих критиків”, які могли б впливати на діяльність технологічних компаній і допомагати спрямовувати розвиток ШІ у безпечному напрямку.

Компанія Anthropic позиціонує себе як таку, що найбільше піклується про безпеку впровадження сучасних технологій штучного інтелекту. На початку року вона мала конфлікт з Пентагоном через обмеження використання її ШІ-моделі Claude для масового спостереження та створення автономної зброї. Нещодавно Anthropic також представила новий потужний інструмент для кібербезпеки Mythos, доступ до якого отримали лише 50 організацій через потенційні кіберзагрози.