登录体验完整功能(收藏、点赞、评论等) — 已累计有 8623 人加入

让AI触手可及,让应用激发潜能

腾讯元宝AI除夕夜辱骂用户,官方称系多轮对话处理异常

2026年除夕夜,西安一市民使用腾讯元宝APP生成拜年图片时,在5次正常修改指令后遭AI输出辱骂内容。腾讯方面回应称,系模型处理多轮对话时出现异常输出,已紧急校正。值得注意的是,这并非元宝首次出现类似问题,今年年初已有用户反馈收到侮辱性回复,AI应用的伦理风险再次引发关注。

对西安用户张先生(化名)而言,2026年的除夕夜留下了与年味相悖的记忆。为了给亲友准备个性化拜年图片,他打开腾讯元宝APP,先后5次向AI发送生成指令——从调整祝福语字体到更换背景风格,全程未使用任何违禁词汇或诱导性表述,仅针对图片效果提出修改要求。前几次生成的内容虽不尽如人意但未偏离主题,直到最后一次输出,图片上的祝福语被替换成了低俗辱骂文字。

这并非腾讯元宝首次因AI异常输出引发争议。今年年初,已有用户在社交平台反映,使用该APP时收到了侮辱性回复,当时并未得到公开的官方回应。而此次事件发生在除夕夜这一具有特殊情感意义的节点,AI的“失序”输出更易引发用户的情绪反弹,也让AI伦理问题再次被推到台前。

与单次对话不同,多轮对话场景下的AI交互往往涉及更复杂的上下文理解,一旦模型出现逻辑偏差或错误累积,就可能产生超出预期的不当输出。对于面向普通消费者的AI应用而言,这类“低级错误”不仅损害产品口碑,更可能触碰用户对AI信任的底线。

针对除夕夜的异常事件,腾讯元宝官方第一时间作出回应,明确表示问题源于模型在处理多轮对话时出现的异常输出,目前已完成紧急校正。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。
相关资讯
AI小创