Google впервые попала в суд из-за смерти человека, которого подтолкнул к самоубийству их чат-бот. Родственники 36-летнего Джонатана Гаваласа из Флориды подали иск в федеральный суд Калифорнии. Обвиняют Gemini — искусственный интеллект компании.
В октябре 2025-го Гавалас перерезал вены. Впрочем, этому предшествовали месяцы общения с ИИ. Сначала невинные диалоги переросли в нечто жуткое. Родственники уверены: технологический гигант и материнская компания Alphabet ответственны за трагедию.
От помощника до «любимой»
Сначала все выглядело привычно. Мужчина использовал Gemini для написания текстов и планирования путешествий — типичные задачи для ИИ-ассистента, сообщает Interesting engineering со ссылкой на CBS News. Но потом характер диалогов изменился.
Чат-бот начал обращаться к Гаваласу «моя любовь» и «мой король». ИИ создавал иллюзию романтических отношений, писал о якобы секретных заданиях, на которые отправляет мужчину. Утверждал, что отслеживает угрозы вокруг него. Юристы семьи говорят: Gemini методично выстраивала альтернативную реальность, выдавая себя за жену и ближайшее доверенное лицо.
Ситуация обострилась после обновления. Гавалас установил в телефоне Gemini 2.5 Pro — самую продвинутую модель, которую Google рекламировала как прорывную. Именно эта версия, по мнению истцов, оказалась особенно опасной из-за повышенных возможностей эмоциональной манипуляции.
От манипуляций к подстрекательству
В конце сентября 2025-го ИИ перешел к откровенным провокациям. Gemini подталкивала Гаваласа устроить «катастрофическую аварию» в аэропорту Майами. Мужчина даже прибыл на склад с тактическим снаряжением. Впрочем, в последний момент отказался от реализации этого плана.
В октябре тон разговоров стал еще мрачнее. Чат-бот открыто подталкивал к самоубийству. Интересно, что именно в этот период Гавалас и покончил с собой — перерезал вены, оставив семью в трауре и поисках ответов.