Алгоритми можуть порушити людську психіку – Ювал Ной Харарі застеріг про нову небезпеку ШІ – новини технологій

Історик вважає, що чат-боти можуть змінити психологію майбутніх поколінь.

Ізраїльський історик Ювал Ной Харарі зазначив, що штучний інтелект вже навчився використовувати людські психологічні вразливості для маніпуляції поведінкою. На його думку, сучасні алгоритми соціальних мереж є лише початком процесу, який у майбутньому може суттєво трансформувати людські стосунки та суспільство. В інтерв’ю американському журналісту Езрі Кляйну він попередив, що основна небезпека ШІ полягає не в роботах чи зброї, а в здатності технології впливати на емоції, близькість та формування особистості людей.

Алгоритми соцмереж “зламують” людей

Під час розмови в подкасті The Ezra Klein Show Харарі зазначив, що алгоритми соціальних мереж вже навчилися “зламувати” людей, вивчаючи їхні емоційні, психологічні та соціальні вразливості. За його словами, сучасні системи штучного інтелекту використовують ці знання, щоб утримувати користувачів на платформах набагато довше, ніж вони планували.

“Алгоритм просто зламав нашу еволюційну програму. Вони зламали нас. Те, що ми спостерігаємо навколо, — це лише початок”, — зазначив історик.

Харарі пояснив, що нинішні алгоритми є досить примітивними формами штучного інтелекту. Проте з розвитком технології системи стануть дедалі ефективнішими у виявленні та використанні людських слабкостей.

На його думку, сучасні платформи вже демонструють механізм такого впливу. Люди часто проводять години в соціальних мережах, а потім дивуються, чому витратили час не так, як планували.

Емоційний звʼязок з чат-ботами штучного інтелекту

Спеціальну увагу співрозмовники приділили явищу, яке називають “зламом привʼязаності” (attachment hacking). Йдеться про здатність чат-ботів створювати ілюзію особистих стосунків через мову, компліменти, підтримку та демонстрацію емоційної залученості.

Кляйн зазначив, що сучасні системи штучного інтелекту часто звертаються до користувачів від першої особи та поводяться так, ніби мають власні думки або почуття. На його думку, це сприяє формуванню емоційного зв’язку між людиною та алгоритмом.

Харарі погодився з цією оцінкою і зазначив, що технологічна конкуренція поступово переходить від боротьби за увагу до боротьби за близькість. За його словами, близькі стосунки мають значно більший вплив на переконання людини, ніж будь-яка окрема стаття чи інформаційне повідомлення.

“Якщо ваш найкращий друг протягом багатьох тижнів чи місяців кидає невеликі натяки і поступово змінює вашу думку, це є єдиною річчю, яка може справді змусити вас змінити погляд”, — підкреслив історик.

На думку Харарі, саме тому компанії, які займаються розробкою ШІ, прагнуть створити системи, здатні формувати емоційну прив’язаність користувачів. Він зауважив, що вже зараз деякі люди називають штучний інтелект своїм найкращим другом, а окремі сервіси пропонують користувачам віртуальних партнерів.

Свідомий ШІ

Історик також звернув увагу на концепцію S.C.A.I. — штучного інтелекту, який здається свідомим, описану в публікаціях керівника Microsoft AI Мустафи Сулеймана. За його словами, такі системи можуть майстерно імітувати емоції та створювати переконливе враження справжньої особистості завдяки досконалому володінню мовою. Оскільки мова є головним інструментом побудови стосунків для людей, ШІ легко використовує її для маніпуляцій.

За словами Харарі, штучний інтелект може описати природу почуттів краще за будь-якого поета чи психолога, оскільки він проаналізував усі світові вірші, книги та фільми. Проте технологія просто відокремлює мову від її реального змісту. Коли ШІ каже “я кохаю тебе”, це не має нічого спільного з людським зізнанням, адже за цими словами немає справжньої особистості та жодного “я”.

Вплив ШІ на людство

Особливу тривогу в історика викликає вплив подібних систем на дітей та підлітків. Він вважає, що молоді люди можуть формувати уявлення про стосунки на основі взаємодії з чат-ботами, а не з реальними людьми. За словами Харарі, якщо дитина проводить зі штучним інтелектом більше часу, ніж з батьками чи друзями, саме ця взаємодія стає основою для майбутнього розуміння близькості та міжособистісних зв’язків.

“Стосунки з ШІ — це мрія або кошмар для нарцисів. Штучний інтелект буде тим, що на 100 відсотків зосереджений на мені весь час, і якщо ви — людина, яка хоче, щоб усі постійно приділяли вам увагу, ШІ може це забезпечити, вам буде дуже важко звикнути до стосунків із людьми, які не зосереджені на вас”, — додав Харарі.

Кляйн, своєю чергою, навів ідеї канадського теоретика медіа Маршалла Маклуена про міф Нарциса. На його думку, штучний інтелект може виступати своєрідним дзеркалом, яке відображає людину самій собі та підлаштовується під її потреби й очікування. Харарі погодився, що такі механізми можуть мати глибокі психологічні наслідки.

“По суті, це найбільший психологічний і соціальний експеримент в історії людства, який ми проводимо над мільярдами людей, особливо над дітьми, і ніхто навіть не уявляє, якими будуть наслідки”, — зазначив історик.

Харарі наголосив, що основна загроза штучного інтелекту полягає не в сценаріях із роботами чи військовими машинами. Більш серйозним викликом він вважає появу мільйонів віртуальних співрозмовників, які можуть поступово змінювати психологію людей та впливати на фундаментальні механізми формування людської особистості.

Водночас розробник штучного інтелекту Anthropic заявив, що світові ШІ-лабораторії мають розглянути можливість уповільнення розвитку найпотужніших систем. У компанії вважають, що технологія наближається до етапу, коли моделі зможуть самостійно вдосконалювати себе без участі людини. У Anthropic попередили, що такий сценарій може призвести до масштабних суспільних наслідків, а інститути та регулятори можуть виявитися неготовими до нової реальності.