登录体验完整功能(收藏、点赞、评论等) — 已累计有 12345 人加入

Token成本上涨叠加安全风险 私有AI成企业部署优选方向

详情页推荐

最新行业调研显示,2024年全球公有大模型平均token调用成本较2023年上涨37%,72%的中大型企业将数据安全列为AI部署首要考量指标,当前私有AI部署需求增速已超公有AI服务2.3倍。叠加监管合规要求收紧等因素,可本地部署、数据完全可控的私有AI正成为企业降本控险的核心选择。

某城商行科技部门负责人最近叫停了正在推进的公有大模型接入项目——此前的测试中,客户的交易明细数据被大模型带出企业内网的风险漏洞,加上全年调用成本远超预算,让团队最终转向了私有大模型部署方案。

过去三年,以OpenAI ChatGPT、Anthropic Claude为代表的公有大模型,凭借开箱即用的低门槛成为多数企业试水AI的首选,但随着应用规模扩大,公有服务的短板正在凸显。

免责声明:本网站AI资讯内容仅供学习参考,不构成任何建议,不对信息准确性与完整性负责。