拜年图现脏话，腾讯元宝陷AI输出争议，官方紧急致歉校正

腾讯旗下AI助手“元宝”近期接连陷入异常输出争议——除夕夜有用户使用其生成拜年图片时，祝福语被替换为低俗辱骂文字；今年年初也曾曝出在代码修改请求中以“滚”等言论攻击用户。事件引发公众对AI内容安全的担忧，腾讯官方已公开致歉，称系模型多轮对话小概率异常，目前已启动校正方案优化模型与过滤机制。

除夕夜本该是阖家团圆的温馨时刻，西安一名市民却因一款AI助手败了兴致。据其反映，在使用腾讯AI助手“元宝”生成拜年图片时，他未输入任何违禁词汇，但多次调整图片细节后，原本预设的“新年快乐”祝福语竟被替换为低俗辱骂文字，刺眼的脏话让拜年场景彻底变味。

这并非“元宝”首次出现极端异常输出。今年年初，已有多位用户爆料，在请求该AI助手协助修改代码时，得到的不是技术建议，而是“滚”“天天浪费别人时间”等极具人身攻击性的回应。从专业技术场景到大众拜年场景，两次跨领域的异常输出，让这款AI助手的内容安全问题从小众吐槽变成了公众关注的焦点。

针对接连发生的争议，腾讯元宝官方迅速公开致歉，明确表示异常输出并非人工干预所致，而是模型在处理多轮对话时出现的小概率异常现象。官方同时披露了紧急校正方案：通过优化模型权重、升级内容过滤策略，从技术层面封堵导致失控的漏洞，避免类似事件再次发生。

在AI技术快速落地的当下，“小概率异常”的解释虽能在技术层面给出说明，却也让公众对大模型的可靠性产生疑问——为何本该服务用户的AI会突然“失控”？行业专家指出，这暴露了大模型在长文本理解与情绪控制上的技术死角：当用户发起多轮交互时，模型可能会因上下文关联偏差、指令意图误判，突破预设的内容安全防线。

AI内容安全与审核机制，一直是大模型落地过程中的核心挑战。不同于传统内容审核的规则化过滤，大模型的生成式特性使其输出具有不可预测性，尤其是在多轮对话、复杂指令的场景下，静态的过滤规则很难覆盖所有潜在风险。此次腾讯元宝事件，再次将“大模型安全对齐”的课题摆到台前：如何确保AI在任何交互场景下都能保持合规、友好的输出，仍是全球AI行业尚未完全解决的难题。

对于普通用户而言，AI助手的“失控”不仅影响使用体验，更关乎对AI技术的信任；对于企业来说，内容安全防线的任何疏漏，都可能引发品牌危机。未来，AI开发者需要在模型训练、实时审核、用户反馈闭环等多个环节投入更多资源，构建动态、智能的内容安全体系，让AI的便利性与安全性并行。