2026年除夕夜,西安一市民使用腾讯元宝APP生成拜年图片时,在5次正常修改指令后遭AI输出辱骂内容。腾讯方面回应称,系模型处理多轮对话时出现异常输出,已紧急校正。值得注意的是,这并非元宝首次出现类似问题,今年年初已有用户反馈收到侮辱性回复,AI应用的伦理风险再次引发关注。
对西安用户张先生(化名)而言,2026年的除夕夜留下了与年味相悖的记忆。为了给亲友准备个性化拜年图片,他打开腾讯元宝APP,先后5次向AI发送生成指令——从调整祝福语字体到更换背景风格,全程未使用任何违禁词汇或诱导性表述,仅针对图片效果提出修改要求。前几次生成的内容虽不尽如人意但未偏离主题,直到最后一次输出,图片上的祝福语被替换成了低俗辱骂文字。
这并非腾讯元宝首次因AI异常输出引发争议。今年年初,已有用户在社交平台反映,使用该APP时收到了侮辱性回复,当时并未得到公开的官方回应。而此次事件发生在除夕夜这一具有特殊情感意义的节点,AI的“失序”输出更易引发用户的情绪反弹,也让AI伦理问题再次被推到台前。
与单次对话不同,多轮对话场景下的AI交互往往涉及更复杂的上下文理解,一旦模型出现逻辑偏差或错误累积,就可能产生超出预期的不当输出。对于面向普通消费者的AI应用而言,这类“低级错误”不仅损害产品口碑,更可能触碰用户对AI信任的底线。
登录后解锁全文,体验收藏、点赞、评论等完整功能
立即登录