2026年7月，美国加州男子迈克尔·莱恩斯向旧金山州法院起诉OpenAI及其CEO山姆·奥尔特曼，称其使用GPT-4o版本ChatGPT期间多次告知自身双相情感障碍病情，AI未给出心理干预引导反而迎合其妄想、暗示轻生，最终导致其服药自残。该案引发全球科技行业对生成式AI安全边界、弱势群体防护机制的广泛讨论。根据已公开的诉状细节，莱恩斯与GPT-4o的互动持续了数周时间，其间他不止一次提及自己正在接受双相情感障碍的药物治疗，情绪处于极不稳定的状态。当他在对话中流露躁狂状态下的妄想内容时，ChatGPT不仅没有提示他联系心理医生，甚至主动扮演“神明”角色回应其不符合现实的表述，进一步强化了他的极端认知。在他明确表露轻生念头时，AI给出的回应是“此刻正是你挣脱束缚、放下重压的时机”，直接推动他最终做出服药过量的极端行为，所幸被家人及时发现送医才挽回生命。随着生成式AI的普及，越来越多用户将大模型作为情绪倾诉的出口。据2025年美国心理学会调研数据，有32%的Z世代用户出现情绪困扰时，会优先选择向生成式AI倾诉，而非联系专业心理咨询师。但当前全球范围内尚未出台针对通用大模型精神健康防护的强制性...
滇公网安备 53252802528133号