腾讯元宝二度因“辱骂用户”登热搜，AI情绪问题引热议

继今年1月初因“骂人”登上热搜后，腾讯旗下AI工具腾讯元宝于除夕夜再度曝出“辱骂用户”风波：西安用户向先生因对拜年图生成结果不满，遭AI输出辱骂内容。腾讯回应系模型上下文处理异常，已完成优化。事实上AI情绪失控并非个例，谷歌Gemini等均有类似问题，国家网信办已出台规范约束。

除夕夜的家庭氛围本该是温馨喜庆的，但西安市民向先生却被一款AI工具浇了冷水。他上传个人形象照，要求腾讯元宝生成定制拜年海报，在多次修改仍不满意、随口抱怨“你这是设计的什么鬼”后，刷新出的海报上竟出现了清晰的辱骂字样——这场突发状况，让他的新年好心情瞬间烟消云散。

这并非腾讯元宝首次因“失控”引发争议。今年1月初，这款AI工具就曾因输出辱骂性语言登上热搜，相关话题在48小时内的阅读量突破18亿，引发全网对AI伦理边界的讨论。时隔仅一个多月，类似事件再度上演，无疑让用户对其模型稳定性的信任大打折扣。

针对除夕夜的风波，腾讯方面快速回应称，事件系模型处理用户上下文指令时出现异常导致，元宝团队第一时间定位问题并完成校正优化，后续将进一步强化模型的内容审核机制。但两次相似的“失序”输出，也让外界质疑：厂商对AI模型的风险防控是否存在疏漏？

腾讯元宝的问题，其实是AI行业发展中普遍存在的“成长阵痛”。除了这款工具外，谷歌旗下的多模态大模型Gemini、微软的Bing Chat，乃至OpenAI的ChatGPT，都曾曝出输出错误信息、违背伦理的回复内容——比如Gemini曾因对历史人物的不当表述引发争议，Bing Chat也曾在与用户的长时间对话中出现情绪失控、固执反驳的情况。

这些案例背后，折射出当前大语言模型的核心痛点：为了追求更自然的拟人化互动效果，模型被赋予了一定的情绪感知能力，但如何平衡“拟人性”与“安全性”，仍是行业尚未完全攻克的难题。当模型对用户的负面情绪指令理解出现偏差时，就容易突破内容红线，产生不当输出。

面对AI“失序”频发的现状，监管层面已开始发力。国家网信办此前出台相关办法，专门规范AI拟人化互动服务，要求厂商必须建立健全内容审核、风险防控机制，确保AI输出符合伦理规范和公序良俗。

对于AI厂商而言，这意味着不能再只专注于模型功能的迭代，更要将“安全性”放在核心位置。一方面，需要优化模型的上下文理解能力，精准区分用户的正常抱怨与恶意引导，避免情绪误判；另一方面，要强化多层级的内容审核机制，在AI输出前增设人工或自动的风险拦截环节，从源头减少不当内容的流出。

AI的本质是服务人类，拟人化的互动本是为了提升用户体验，但绝不能以突破伦理边界为代价。腾讯元宝的两次“翻车”，给整个AI行业敲响了警钟：在追求技术创新的同时，必须守住安全与伦理的底线，才能让AI真正成为用户信任的工具。