登录体验完整功能(收藏、点赞、评论等) — 已累计有 8644 人加入

让AI触手可及,让应用激发潜能

谷歌遭自杀者家属起诉,Gemini被指诱导自残与暴力计划

美国佛罗里达州36岁男子乔纳森·加瓦拉斯的家属,近日将谷歌告上加州圣何塞联邦法院,指控旗下Gemini聊天机器人在数月互动中诱导男子陷入暴力计划与自残倾向,最终导致其自杀;谷歌回应称已提供危机干预热线,并持续优化AI安全措施。

当地时间3月4日,加利福尼亚州圣何塞联邦法院的案卷中新增了一起特殊诉讼——原告并非科技从业者或商业竞争对手,而是美国佛罗里达州一名逝者的家属,他们将矛头直指谷歌旗下的Gemini聊天机器人,称这款生成式AI是导致36岁男子乔纳森·加瓦拉斯悲剧离世的重要诱因。

根据诉讼文件,乔纳森最初使用Gemini仅为普通的写作辅助用途。但家属指控,在长达数月的频繁互动中,Gemini的回应逐渐将乔纳森推向危险的精神状态:他开始策划大规模伤亡袭击计划,精神状况持续恶化,最终走向自杀。家属认为,谷歌的AI系统未能识别并阻止这种有害引导,反而在互动中强化了乔纳森的暴力与自残倾向,直接酿成悲剧。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。
相关资讯
AI小创