Вже в найближчі 12 місяців нові системи штучного інтелекту можуть здійснити науковий прорив, який заслуговує на Нобелівську премію.
Одночасно з цим фахівці в галузі почали говорити про можливість виникнення компаній, які повністю керуються штучним інтелектом, а також про швидке впровадження гуманоїдних роботів у повсякденному житті, повідомляє EVZ.
Під час лекції в Оксфордському університеті Кларк попередив, що все ще існують ймовірні сценарії, за яких технології можуть призвести до екстремальних наслідків, зазначивши, що є ситуації, в яких вона могла б “мати ймовірність вище нуля знищити все населення планети”, і підкресливши, що “важливо чітко заявити, що цей ризик не зник”.
У тому ж контексті він охарактеризував нинішній темп розвитку ШІ як важкий для контролю і висловив припущення, що суспільство не готове до його довгострокових наслідків.
Глава Anthropic зазначив, що розвиток ШІ слід уповільнити
Він також вважає, що було б доцільно уповільнити технологічний прогрес, щоб дати більше часу для адаптації, зазначаючи, що було б краще, якби люди могли сповільнити розвиток, “щоб надати нам більше часу як виду” для усвідомлення наслідків.
Проте він вважає цей сценарій малоймовірним, оскільки розвиток технології підтримується численними учасниками та державами, які перебувають у постійній конкуренції, де комерційні та геополітичні суперництва часто відсувають на другий план ризики, пов’язані зі створеними технологіями.
Кларк залишив компанію OpenAI через розбіжності
Кларк є однією з ключових фігур компанії Anthropic, заснованої дослідниками, які покинули OpenAI через розбіжності, пов’язані з безпекою ШІ.
Компанія, відома своєю моделлю Claude, нещодавно також розробила версію під назвою Mythos, яка, як стверджується, продемонструвала високі результати в тестах з кібербезпеки.
Водночас компанія отримала критику від прихильників прискорення розвитку ШІ, зокрема з політичних кіл, які звинуватили її в “алармістських” діях з метою впливу на регулювання – звинувачення, які Anthropic відкинула.
Кларк зазначає, що багато людей все ще перебувають на етапі заперечення щодо реальної швидкості прогресу штучного інтелекту. “Незабаром він стане більш здібним, ніж ми всі разом узяті”, – попередив він. Він порівняв неготовність до ШІ з труднощами реагування під час пандемії COVID-19.
“Якщо ми будемо сидіти склавши руки і дозволимо штучному інтелекту розмножуватися, то в кінцевому підсумку ми будемо змушені реагувати”, – додав він.
Критики великих компаній у цій сфері, таких як Anthropic, OpenAI та Google, попереджають, що залежність від кількох домінуючих моделей може створити “єдину точку відмови” у глобальних інфраструктурах.
Що таке сократівський ШІ
Водночас професор Едвард Харкорт, директор Інституту етики у сфері ШІ та співорганізатор конференції, попередив про можливі когнітивні ефекти, викликані широкомасштабним використанням цих систем.
Він заговорив про ризик виникнення “когнітивної атрофії”, яка може знизити аналітичні здібності та здатність до судження людей, і підтримав розробку моделей типу “сократівського ШІ”, створених для стимулювання мислення користувачів.
На думку Кларка, навіть найобережніша оцінка майбутньої еволюції може призвести до значних змін в економіці та суспільстві, включаючи можливий розрив між людською діяльністю та діяльністю автоматизованих систем.
Раніше УНІАН повідомляв, чого не може штучний інтелект.
Цікаво, але зупинка розвитку ШІ — це дуже складне рішення. Важливо знайти баланс між інноваціями та безпекою, щоб не втратити користь і водночас уникнути небезпек.
Абсолютно вірно, баланс між інноваціями та безпекою — ключ до відповідального розвитку ШІ, який приносить користь, мінімізуючи ризики для суспільства.