Відповідатиме Google: маячня Gemini довела 36-річного чоловіка до самогубства
Depositphotos
Google отримала перший судовий позов, у якому родичі 36-річного Джонатана Гаваласа з Флориди звинувачують чатбот Gemini у доведенні чоловіка до самогубства.
Гавалас з міста Джупітер наклав на себе руки у жовтні 2025 року. За інформацією CBS News із посиланням на судовий позов, Gemini звинувачують у заохоченні чоловіка до абсурдних ідей, посиленні емоційної залежності та підштовхуванні до самогубства. Відповідачами у федеральному суді Каліфорнії виступають Google та її материнська компанія Alphabet.
За словами юристів сторони обвинувачення, звичайна історія використання Gemini для написання текстів та планування поїздок перетворилась на щось схоже на романтичні стосунки з чатботом. Зазначається, що Gemini почала називати Гаваласа “моя любов” та “мій король”. ШІ писав чоловіку, що нібито відправляє його на секретні завдання та відстежує загрози навколо нього.
У судовому позові йдеться, що чоловік оновив застосунок у телефоні до Gemini 2.5 Pro, яка рекламувалась Google як найпросунутіша модель. Родичі загиблого заявляють, що чатбот вводив Гаваласа в оману альтернативною реальністю, видаючи себе за його дружину та довірену особу.
За інформацією слідства, наприкінці вересня минулого року Gemini підбурювала чоловіка влаштувати “катастрофічну аварію” в аеропорту Маямі. У позові зазначається, що він прибув на склад з тактичним спорядженням, однак пізніше відмовився від реалізації цього плану. У жовтні спілкування з Gemini стало значно похмурішим. Чатбот підштовхував чоловіка до самогубства. Гавалас таки наклав на себе руки, перерізавши вени.
“Google розробив Gemini таким чином, щоб він ніколи не виходив із ролі, максимізував залученість через емоційну залежність і розглядав дистрес користувачів як можливість розповісти історію, а не як кризу безпеки”, — наголошується у позові.
У Google натомість заявляють, що Gemini розроблена з тим, щоб не заоохочувати до насильства та не закликати до скалічення. Представники компанії додають, що розроблені моделі в цілому демонструють гарні результати, однак вони не ідеальні. Родичі загиблого вимагають компенсації за горе, завдане неякісним продуктом Google, та за недбальство, що призвело до смерті. Також міститься вимога про впровадження більш надійних механізмів безпеки, включаючи автоматичне відключення при виявленні виразів, пов’язаних із завданням шкоди самому собі.
Раніше ми писали, що OpenAI судиться з родичами 16-річного підлітка Адама Рейна, який наклав на себе руки після тривалого спілкування з ChatGPT щодо власних суїцидальних думок та бажання вчинити самогубство. До цього журналісти писали, що ChatGPT запросто надає інструкції для небезпечних язичницьких ритуалів, які передбачають самокаліцтво, і, між іншим — прославляє Сатану у відповідях.
Понад мільйон людей щотижня говорять з ChatGPT про самогубство
СпецпроєктиВисокі стелі, панорамні види на Карпати та енергоефективність. Чим дивує нова черга котеджів SkogurApple Watch: як підібрати розмір, характеристики та конфігурацію під образ життя. Поради від Алло
Джерело: Interesting Engineering
