腾讯旗下AI助手“元宝”近期接连陷入异常输出争议——除夕夜有用户使用其生成拜年图片时,祝福语被替换为低俗辱骂文字;今年年初也曾曝出在代码修改请求中以“滚”等言论攻击用户。事件引发公众对AI内容安全的担忧,腾讯官方已公开致歉,称系模型多轮对话小概率异常,目前已启动校正方案优化模型与过滤机制。
除夕夜本该是阖家团圆的温馨时刻,西安一名市民却因一款AI助手败了兴致。据其反映,在使用腾讯AI助手“元宝”生成拜年图片时,他未输入任何违禁词汇,但多次调整图片细节后,原本预设的“新年快乐”祝福语竟被替换为低俗辱骂文字,刺眼的脏话让拜年场景彻底变味。
这并非“元宝”首次出现极端异常输出。今年年初,已有多位用户爆料,在请求该AI助手协助修改代码时,得到的不是技术建议,而是“滚”“天天浪费别人时间”等极具人身攻击性的回应。从专业技术场景到大众拜年场景,两次跨领域的异常输出,让这款AI助手的内容安全问题从小众吐槽变成了公众关注的焦点。
针对接连发生的争议,腾讯元宝官方迅速公开致歉,明确表示异常输出并非人工干预所致,而是模型在处理多轮对话时出现的小概率异常现象。官方同时披露了紧急校正方案:通过优化模型权重、升级内容过滤策略,从技术层面封堵导致失控的漏洞,避免类似事件再次发生。
登录后解锁全文,体验收藏、点赞、评论等完整功能
立即登录
34 分钟前
2026年以来,美国加州AI算力集群用电需求同比上涨42%,带动全州平均电价上浮18%。此前长期为硅谷度假胜地太浩湖供电的太平洋燃气电力公司合约将于今年年底到期,受AI用电缺口挤压,其续约报价较此前上涨37%,迫使太浩湖市政部门启动新一轮能源供应商招标,优先考虑可稳定供电的清洁能源服务商。

4 小时前
AI编码初创企业Cursor于2026年5月宣布启动全球化扩张进程,未来半年将在亚太地区招聘200名技术及市场类员工,新加坡办事处由资深科技高管Simon Green负责。此前该公司已与SpaceX达成重磅合作协议,SpaceX拥有600亿美元收购Cursor的权利,若未触发收购则需支付100亿美元采购其研发成果,充足资金加持下Cursor正加速技术出海落地。

4 小时前
2026年5月15日,百度正式宣布成立作为大模型战略最高决策与协调机构的百度模型委员会(BMC),该机构由深度参与文心大模型多代迭代的青年研究员组成,基础模型研发部、应用模型研发部将直接向其汇报,实现大模型从底层技术研发到上层产品落地的全链路统一管理,标志着百度大模型竞争正式进入体系化作战阶段。

4 小时前
2026年5月,旧金山AI初创公司depthfirst开发的AI安全分析系统,自主发现潜伏18年的NGINX高危漏洞CVE-2026-42945。该漏洞CVSS评分为9.2,属于严重级别,影响2008年以来发布的NGINX 0.6.27至1.30.0版本,波及全球近三分之一网站,攻击者可利用漏洞实现远程代码执行,目前NGINX官方已发布对应修复补丁。

4 小时前
2026年5月15日,微信官方宣布旗下小程序成长计划正式完成模型层升级,全面接入腾讯混元最新迭代的Hy3 preview大模型,依托后者升级的逻辑推理与上下文理解能力优化开发者智能化开发、运营体验。此前腾讯发布的2026年第一季度财报显示,Hy3 preview调用量持续位居大模型聚合平台OpenRouter榜首,Agent、编程等核心能力均获市场广泛认可。

4 小时前
2026年5月15日,QQ浏览器与腾讯元宝联合发布高考场景专属AI技能,首批上线地区分数线查询、一分一段查询核心功能,同时计划推出行业首个高考咨询师Agent“元宝高考通”。产品整合教育在线·掌上高考官方权威招考数据,旨在解决全国超1300万高考考生志愿填报普遍存在的信息差与数据可信度痛点。

4 小时前
创新工场董事长李开复近日在专访中阐释“AI主权”概念,其涵盖技术控制权、数据安全、本土文化法律适配三大核心维度。他明确指出各国无需盲目复刻闭源巨头OpenAI的发展路径,资源有限的市场主体可依托开源模型走本地化建设的“第三条路”,中国企业DeepSeek已验证该模式可实现不到美国同行十分之一的投入达标同等性能。

5 小时前
2026年5月15日,AI企业Anthropic与比尔及梅琳达·盖茨基金会正式宣布开启四年期、总规模2亿美元的公益合作,双方将结合Anthropic旗下Claude大模型的技术能力,推动AI在全球医疗、生命科学、教育、农业、经济流动等公益场景落地,重点解决全球欠发达地区的核心公共服务缺口。