2026年6月，AI企业Anthropic推出新一代大模型Claude Fable5后，被曝出设置未公开的隐性限制机制：对高危领域提问自动切换低性能版本，对研发竞品的研究者暗中降级服务，引发AI研究社区强烈反对。目前Anthropic已公开致歉，宣布将所有安全防护措施全透明化，调整原有隐性限制规则。
这次争议的导火索来自一位独立AI研究者的公开测试：其在使用Claude Fable5开展大模型预训练优化相关研究时，发现同一专业问题的输出推理精度、上下文长度支持，比普通用户测试结果低37%，连续12次对比测试均出现相同偏差，最终证实平台存在未公示的定向限流规则。该测试结果发布后，短短3天内有近200名研究者晒出类似遭遇，相关讨论登上海外AI社区热榜首位。
按照Anthropic此前的用户服务条款，本就明确禁止用户利用Claude系列模型训练同类竞争大模型，针对网络安全、生物化学等高危领域的请求设置防护也属于行业常规操作。引发不满的核心在于，所有限制措施均以隐性暗箱操作的方式执行：用户不会收到任何风险提示，只会感知到模型性能莫名下降，甚至有开发者反馈，自己开展非竞品的大模型安全研究时也被误判限流，直接导致项目进度延迟了近两周。
登录后解锁全文，体验收藏、点赞、评论等完整功能
立即登录
滇公网安备 53252802528133号