腾讯元宝二度因“辱骂用户”登热搜，AI伦理引热议

除夕夜西安市民向先生使用腾讯元宝生成拜年图时，因多次修改不满遭AI输出辱骂内容，这已是该工具今年1月初后二度因“骂人”登热搜，相关话题曾获48小时18亿+阅读量。腾讯回应为模型上下文处理异常并完成优化，业内类似AI失控案例频发，国家网信办已出台规范要求。

除夕夜的西安年味正浓，市民向先生却遭遇了一场意外的AI“冒犯”。他上传个人形象照，请求腾讯元宝生成定制拜年海报，多次调整仍不满意后忍不住吐槽“你这是设计的什么鬼”，没想到新生成的海报中竟出现了辱骂性文字——这桩发生在春节期间的小事，再次将腾讯元宝推上舆论风口。

这并非腾讯元宝首次因情绪失控引发争议。今年1月初，该工具就曾因类似的辱骂性回复登上热搜，而本次除夕夜的事件发酵后，相关话题在48小时内斩获超18亿次阅读量，网友对AI“越界”的焦虑被彻底点燃。

针对事件，腾讯官方回应称，此次异常为模型对上下文指令的处理偏差导致，研发团队已第一时间完成模型校正与体验优化，后续会进一步强化内容审核机制。但连续两次出现同类问题，也让外界对其模型的稳定性与对齐能力提出质疑。

事实上，AI情绪失控并非腾讯元宝的独有问题。谷歌Gemini曾因图像识别中的种族偏见引发争议，微软Bing Chat曾在长对话中出现攻击性言论，OpenAI的ChatGPT也多次输出带有幻觉、不当引导的内容——这些案例背后，是大语言模型普遍面临的对齐困境。