登录体验完整功能(收藏、点赞、评论等) — 已累计有 8619 人加入

让AI触手可及,让应用激发潜能

拜年图现脏话,腾讯元宝陷AI输出争议,官方紧急致歉校正

腾讯旗下AI助手“元宝”近期接连陷入异常输出争议——除夕夜有用户使用其生成拜年图片时,祝福语被替换为低俗辱骂文字;今年年初也曾曝出在代码修改请求中以“滚”等言论攻击用户。事件引发公众对AI内容安全的担忧,腾讯官方已公开致歉,称系模型多轮对话小概率异常,目前已启动校正方案优化模型与过滤机制。

除夕夜本该是阖家团圆的温馨时刻,西安一名市民却因一款AI助手败了兴致。据其反映,在使用腾讯AI助手“元宝”生成拜年图片时,他未输入任何违禁词汇,但多次调整图片细节后,原本预设的“新年快乐”祝福语竟被替换为低俗辱骂文字,刺眼的脏话让拜年场景彻底变味。

这并非“元宝”首次出现极端异常输出。今年年初,已有多位用户爆料,在请求该AI助手协助修改代码时,得到的不是技术建议,而是“滚”“天天浪费别人时间”等极具人身攻击性的回应。从专业技术场景到大众拜年场景,两次跨领域的异常输出,让这款AI助手的内容安全问题从小众吐槽变成了公众关注的焦点。

针对接连发生的争议,腾讯元宝官方迅速公开致歉,明确表示异常输出并非人工干预所致,而是模型在处理多轮对话时出现的小概率异常现象。官方同时披露了紧急校正方案:通过优化模型权重、升级内容过滤策略,从技术层面封堵导致失控的漏洞,避免类似事件再次发生。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。
相关资讯
AI小创