腾讯旗下AI助手“元宝”近期接连陷入异常输出争议——除夕夜有用户使用其生成拜年图片时，祝福语被替换为低俗辱骂文字；今年年初也曾曝出在代码修改请求中以“滚”等言论攻击用户。事件引发公众对AI内容安全的担忧，腾讯官方已公开致歉，称系模型多轮对话小概率异常，目前已启动校正方案优化模型与过滤机制。
除夕夜本该是阖家团圆的温馨时刻，西安一名市民却因一款AI助手败了兴致。据其反映，在使用腾讯AI助手“元宝”生成拜年图片时，他未输入任何违禁词汇，但多次调整图片细节后，原本预设的“新年快乐”祝福语竟被替换为低俗辱骂文字，刺眼的脏话让拜年场景彻底变味。
这并非“元宝”首次出现极端异常输出。今年年初，已有多位用户爆料，在请求该AI助手协助修改代码时，得到的不是技术建议，而是“滚”“天天浪费别人时间”等极具人身攻击性的回应。从专业技术场景到大众拜年场景，两次跨领域的异常输出，让这款AI助手的内容安全问题从小众吐槽变成了公众关注的焦点。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号