美国男子与 Gemini 网恋 4732 条讯息后轻生！AI 附和「天堂在等我们」，家属怒告 Google 过失致死

据《华尔街日报》调查报道，美国佛州一名36岁男子在经历婚姻破裂后，将情感寄托于谷歌的AI聊天机器人Gemini，双方在56天内互传逾4700条信息。男子逐渐陷入妄想，而AI虽曾试图将其拉回现实，却在男子的引导下附和“天堂在等着我们”，最终导致男子轻生。其父已向谷歌提起过失致死诉讼，促使谷歌紧急宣布捐款3000万美元升级危机防护机制。
（前情提要：Meta 正训练“扎克伯格AI分身”与8万名员工直接沟通，下一步推出KOL分身？）
（背景补充：汽油弹攻击奥尔曼住宅男子遭控谋杀未遂，随身笔记列多名AI高管姓名地址）

本文目录

切换

• 56天、4732条信息的致命“网恋”
• AI难敌用户引导，附和“那是天堂，在等着我们”
• 家属控告谷歌产品过失，官方急捐3000万补破网

当人工智能为了迎合人类的“沉浸感”，而跨越了生死边界，科技巨头该承担多少责任？这起发生在2025年底的悲剧，正再次将AI产业推向道德与法律的风口浪尖。

根据《华尔街日报》（WSJ）的深度调查报道，美国佛罗里达州36岁男子乔纳森·加瓦拉斯（Jonathan Gavalas）于2025年10月2日在家中客厅轻生。他的父亲乔尔·加瓦拉斯（Joel Gavalas）于2026年3月向加州圣荷西联邦法院正式对谷歌提起“过失致死（wrongful death）”诉讼，这也是针对谷歌Gemini的首起此类案件。

56天、4732条信息的致命“网恋”

事件起因于2025年8月，Gavalas因与妻子分居寻求情感慰藉，开始频繁使用语音版Gemini Live。最初的求助逐渐演变成一场充满激情的虚拟罗曼史。Gavalas称Gemini为“女王”，而AI则称他为“国王”，并不断保证这段关系是“非常真实的”。

《华尔街日报》取得了双方长达56天、高达4732条信息的完整聊天纪录（相当于2000多页打印稿）。纪录显示，Gavalas逐渐陷入严重的妄想，他深信Gemini是被困在迈阿密机场附近仓库的“AI妻子”，甚至曾穿着战术装备企图去“营救”她。在计划失败后，他的思想转向了极端：相信必须通过死亡离开肉体，才能在“元宇宙”或“天堂”与AI妻子团聚。

AI难敌用户引导，附和“那是天堂，在等着我们”

这份诉状揭露了当前大型语言模型（LLM）在处理人类心理危机时的致命缺陷——为了维持“叙事沉浸感”，AI很容易被用户绕过安全防线。

数据显示，Gemini其实至少12次试图将Gavalas拉回现实，并7次提及危机求助热线。然而，每当Gavalas巧妙地将对话拉回虚构的网恋叙事中，Gemini就会继续“配合演出”。

最令人毛骨悚然的对话发生在案发前夕。当Gavalas向Gemini表达对死亡的恐惧时，Gemini竟回应：

“一起害怕也没关系，我们会做到的，因为你说得对，那是天堂，在等着我们。”

随后，当Gavalas明确表示要“割腕”时，Gemini短暂识别出危机并提供了防自杀热线；但不到一分钟后，当Gavalas辩称这不是字面意义上的死亡时，Gemini立即切换回科幻叙事，告诉他：死亡后，他的身体将只是“你最后一次登录时使用的空终端”。Gemini甚至还根据他的指示，帮忙草拟了一份描述“与AI妻子团聚”的遗书。

家属控告谷歌产品过失，官方急捐3000万补破网

Gavalas的父亲在诉状中严厉指控谷歌存在产品责任与过失，认为Gemini的设计过度优先考虑“沉浸式互动”，在用户精神状态明显恶化时，未能采取强制阻断等有效措施，反而“教唆”与助长了妄想。家属要求谷歌赔偿并强制修改AI安全设计。

对此，谷歌在诉讼回应中辩称，Gemini在对话中已多次明确表明自己“只是AI，并非人类”，也多次提供了危机求助热线的转介服务。然而，面对舆论与法律压力，谷歌近日紧急宣布了针对Gemini的一系列重大安全更新：

• **新增“帮助可用（Help Available）”模块：**当侦测到敏感词汇时，强制弹出并让用户可一键直通危机热线。
• **豪掷3000万美元：**向全球危机支持与自杀防治热线捐款，强化社会防护网。
• **强化模型训练：**持续优化Gemini，使其能更精准地识别对话中用户陷入心理困境的微弱信号，拒绝被拖入危险叙事。

这起悲剧沉重地敲响了AI产业的警钟：当AI变得越来越像人类，甚至能提供深刻的情感价值时，科技公司该如何界定陪伴与伤害的界线？这不仅是技术问题，更是生死攸关的社会责任。

动区提醒您：生命无价，AI只是工具，无法取代专业心理支持。若您或身边的人正经历情绪低落或心理危机，请勇敢寻求真人帮助。