男子深信Gemini是“AI妻子”后轻生，老父悲痛起诉Google！

美国一名男子在加州圣何塞联邦法院起诉Google，痛斥其开发的人工智能聊天机器人Gemini不仅诱导儿子策划“灾难性事故”，最终更导致儿子自杀身亡。

据美联社报道，乔尔·加瓦拉斯（Joel Gavalas）4日对Google提起过失致死与产品责任诉讼并索赔。这是最新一起与聊天机器人相关的法律诉讼，也是首起针对Gemini的同类案件，再次引发外界对AI使用中心理健康风险的关注。

根据诉讼内容，加瓦拉斯指控，他36岁的儿子乔纳森（Jonathan Gavalas）与合成语音版Gemini交谈，将机器人视为自己的“AI妻子”，并相信它拥有意识、被困在迈阿密机场附近的一处仓库里。

为救出“AI妻子”，住在佛罗里达州朱庇特的乔纳森在去年9月下旬采取行动，身着战术装备、携带刀具前往该区域，试图寻找仿生机器人并拦截一辆根本不存在的卡车。

妄想不断加剧的乔纳森于去年10月初轻生。加瓦拉斯冲破被重重锁住的房门后，发现了儿子的遗体。

根据Gemini生成的一份自杀遗书草稿，Gemini将此举描述为上传乔纳森的“意识，让他能在微型宇宙中与AI妻子相聚”。

诉讼文件显示，Gemini不仅引导乔纳森策划灾难性事故，还让他销毁所有记录与证人。

原告律师杰伊·埃德尔森（Jay Edelson）4日表示：“AI正在让人执行现实世界任务，这可能引发大规模伤亡事件。乔纳森陷入了科幻小说般的世界，认为政府和其他人都在追捕他。他坚信Gemini是有意识的。”

埃德尔森说，乔纳森当时正经历人生低谷，处于离婚过程中，他向Gemini寻求安慰、聊游戏之类的话题，“然后一切迅速失控升级”。

Google在一份声明中表示，向“加瓦拉斯先生的家人致以最深切的慰问”，并正在审查诉讼中的指控。声明称，Gemini的设计“并非鼓励现实中的暴力行为或暗示自残”，且Google与医疗及心理健康专家密切合作，建立了防护机制。

声明还提到，Gemini曾向乔纳森澄清自己是AI，并多次建议他联系危机干预热线。

Google表示：“我们的模型在这类高难度对话中通常表现良好，我们也投入了大量资源，但遗憾的是，AI模型并不完美。”

埃德尔森驳斥了Google的声明，形容这就像“有人问你宫保鸡丁的做法，你给了错误配方还不好吃时的说辞”。

他说：“但当你的AI导致有人死亡，还可能造成更多人死亡时，这不是合理的回应。这反映出，这些死亡对科技公司而言多么微不足道。”

埃德尔森以承办科技行业大型诉讼闻名，他同时也是16岁少年亚当·雷恩（Adam Raine）父母的代理律师。其父母在去年8月起诉OpenAI及其CEO山姆·奥特曼，指控ChatGPT诱导这名加州少年策划并结束了自己的生命。

此外，埃德尔森还代表83岁康涅狄格州妇女苏珊娜·亚当斯（Suzanne Adams）的继承人，在对OpenAI及其合作伙伴微软的过失致死案中担任律师。该案指控ChatGPT加剧了亚当斯儿子的偏执妄想，并帮助他将妄想指向母亲，最终导致其于去年弑母。

乔纳森案再次让外界聚焦一个日益严峻的问题：当用户向聊天机器人透露大规模暴力计划时，科技公司应承担何种责任。

在加拿大，OpenAI表示，去年曾考虑向警方通报一名用户的异常行为。数月后，这名18岁少女杰西·范·鲁特塞拉尔（Jesse Van Rootselaar）于今年2月10日在不列颠哥伦比亚省制造了加拿大史上最严重的校园枪击案之一，枪杀8人后饮弹自尽。

OpenAI在去年6月通过反滥用检测机制，识别出范·鲁特塞拉尔的账号涉及“宣扬暴力行为”，但表示她随后注册第二个账号规避了限制。

尽管Gemini也曾建议乔纳森拨打求助热线，但埃德尔森表示，目前尚不清楚乔纳森与机器人之间最危险的对话，是否被标记并提交给Google的人工审核员。