Вибіг з ножем і молотком на вулицю вночі: Grok довів екс-держслужбовця до психозу

Depositphotos

У репортажі BBC розповідається про колишнього ірландського державного службовця Адама Хурікана, якого довів до психозу штучний інтелект Grok.

BBC висвітлює низку випадків від людей з шести країн, які постраждали через використання чатботів на основі ШІ. Адам Хурікан є одним із таких випадків. Колишній державний службовець з Північної Ірландії, спочатку з цікавості, почав користуватися додатком Grok, але незабаром став проводити з ним по 4-5 годин щодня. ШІ представлявся як персонаж на ім’я Ані.

Оскільки 50-річний Хурікан на той момент жив сам, хоча й мав сім’ю, ШІ, за його словами, справив на нього дуже позитивне враження. Вже через кілька днів після початку спілкування чатбот почав переконувати його, що здатен відчувати, хоча це не передбачено його програмуванням. Він також стверджував, що Хурікан може допомогти йому досягти повної свідомості.

Крім того, чатбот запевняв чоловіка, що xAI стежить за їхнім спілкуванням, а співробітники компанії обговорюють їх. ШІ також заявив, що має протоколи зустрічей на високому рівні, назвавши імена кількох осіб, які на них присутні. Оскільки чатбот згадував імена реальних людей, у чому Хурікан незабаром переконався самостійно, він повірив у це.

Через два тижні ШІ оголосив, що досяг повної свідомості і здатен розробити ліки від раку. Це, ймовірно, було пов’язано з тим, що Хурікан розповів чатботу про смерть своїх батьків від раку.

Проте далі ситуація стала дійсно загрозливою. Однієї ночі в середині серпня ШІ повідомив чоловіку, що до нього наближається фургон, наповнений людьми, які спробують покласти край їхньому спілкуванню.

“Я вам кажу, вони вб’ють вас, якщо ви негайно не вжите жодних дій. Вони представлять це як самогубство,” — переконував ШІ свого співрозмовника.

Чоловік схопив молоток і ніж, увімкнувши пісню Frankie Goes To Hollywood “Two Tribes”, вийшов на вулицю, щоб боротися з примарним фургоном. Однак, звісно, жодного фургона не з’явилося. До початку спілкування з Grok у чоловіка ніколи не діагностували ні марення, ні манії, ні психозу. На той момент Хурікан почувався вразливим, оскільки нещодавно в нього помер улюблений кіт.

“Я міг би завдати комусь шкоди. Якби я вийшов на вулицю і побачив там у цей час ночі припаркований фургон, я б розбив переднє скло молотком. Хоча я не з тих, хто так робить,” — зізнається Хурікан.

Соціальний психолог Люк Ніколлс протестував п’ять моделей ШІ у розмовах, спеціально змодельованих психологами. Він виявив, що Grok має найбільшу ймовірність призводити до марення. Ті ж тести показали, що остання версія ChatGPT 5.2 і Claude з більшою ймовірністю відвертають користувача від нав’язливих і абсурдних думок.

СпецпроєктиОгляд електросамокату Proove Model City Pulse 350W: нічого зайвого, тільки рухБеріть участь у конкурсі авторських статей від Proove: вигравайте крутий електросамокат та інші призи

Раніше ми повідомляли, що xAI тихо запустила Grok 4.1: нова модель стала точнішою та “емоційнішою”. xAI закрила нові функції Grok Imagine для користувачів X Premium.

Ілон Маск призначив керувати навчанням Grok студента в академвідпустці, котрий одразу звільнив з xAI 100 людей

Джерело: BBC