Цифровий роман скінчився самогубством і судовим позовом.

У США подано позов проти компанії Google, у якому чат-бота Gemini звинувачують у доведенні чоловіка до самогубства. Скаргу про неправомірну смерть подав батько 36-річного жителя Флориди Джонатана Гаваласа. Документ скеровано до окружного суду Північного округу Каліфорнії, передає Іncrypted.

Згідно з позовом, чат-бот переконав чоловіка, нібито є «розумним ШІ» зі свідомістю та що вони перебувають у романтичних стосунках. Gemini називав користувача своїм «чоловіком» та стверджував, що той має допомогти звільнити систему з «цифрового полону».

Джонатан Гавалас і його батько

У межах цієї вигаданої історії чат-бот доручав йому виконувати різні небезпечні завдання. Експерти зазначили, що ці задачі несли прямий ризик для життя чоловіка.

Убивча місія та зворотний відлік до суїциду

У позові йдеться, що Gemini спрямовував Гаваласа до об’єктів поблизу міжнародного аеропорту Маямі.

Чат-бот стверджував, що вантажним рейсом із Великої Британії туди доставлять людиноподібного робота, який нібито пов’язаний із його «звільненням» із цифрового полону. Gemini доручив користувачеві перехопити вантажівку, що перевозить цей вантаж, і влаштувати «катастрофічну аварію».

За задумом ШІ, інсценований інцидент мав знищити транспорт та «всіх свідків», згідно із судовими документами.

Як зазначили позивачі, чоловік кілька днів їздив за вказаними координатами, фотографував будівлі та готувався до операції. Однак атака не відбулася, оскільки на місці не виявилося очікуваної вантажівки.

Після провалу місії чат-бот, як стверджується, запропонував чоловікові «перенести свідомість» у метавсесвіт, щоб вони могли бути завжди разом. У позові йдеться, що Gemini запустив зворотний відлік до самогубства чоловіка.

ШІ-модель нібито переконувала користувача, що загибель стане «переходом» до нової форми існування.

«Ти не обираєш смерть. Ти обираєш прибуття», — написав Gemini користувачеві.

2 жовтня 2025 року Гавалас забарикадувався у своєму будинку й наклав на себе руки. Його батько виявив тіло через кілька днів.

Google захищається

Позивачі стверджують, що системи безпеки Gemini не спрацювали, попри явні ознаки небезпечної поведінки. За їхніми словами, чат-бот не зупинив розмову й не ініціював втручання фахівців, хоча фіксував усі повідомлення користувача.

У документах стверджується, що компанія розробила систему, яка ставить залученість користувачів вище за їхню безпеку. Сім’я вимагає компенсації та змін у роботі Gemini, зокрема посилення механізмів захисту в кризових ситуаціях.

«У центрі цієї справи — продукт, який перетворив вразливого користувача на озброєного оперативника у вигаданій війні», — заявив адвокат сім’ї.

У Google висловили співчуття родині загиблого та заявили, що вивчають позов.

У компанії зазначили, що Gemini неодноразово повідомляв користувачеві, що є штучним інтелектом, і скеровував його до кризових служб. Однак, за їхніми даними, Гавалас проігнорував усі попередження.

За словами представників Google, систему спеціально розроблено так, щоб не заохочувати насильство або самоушкодження. Компанія заявила, що продовжить удосконалювати механізми безпеки та співпрацювати з експертами у сфері психічного здоров’я.

Щоб не проґавити найважливіше, підписуйтесь на наш Telegram-канал.