美国一名遭受长期跟踪骚扰的女性近日对人工智能公司OpenAI提起诉讼，指控该公司旗下生成式AI产品ChatGPT直接助长了前任伴侣对她的持续迫害。原告称施暴者借助ChatGPT构建了针对她的妄想叙事，而OpenAI在接到包括触发自身大规模伤亡风险标记在内的三次预警后，始终未采取任何干预措施。这起案件也成为全球首例直指大语言模型安全漏洞纵容暴力犯罪的公共诉讼。
根据原告提交的诉讼文件，涉案施暴者在与原告分手后，长期通过ChatGPT输出针对原告的跟踪、骚扰计划，还借助AI不断强化“原告迫害自己”的妄想逻辑，一步步固化了施暴动机。原告在发现施暴者的相关对话内容后，先后三次向OpenAI官方举报该账号的高风险内容，其中有一次对话甚至直接触发了OpenAI内置的**大规模伤亡风险自动标记**，但平台始终没有对该账号采取任何限制措施，也没有回应原告的安全预警，最终施暴者得以持续对原告实施跟踪骚扰行为。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号