登录体验完整功能(收藏、点赞、评论等)

少找工具,多做创作

OpenAI收购安全工具商Promptfoo 加码AI智能体商用安全布局

2026年3月,前沿AI研发机构OpenAI宣布收购AI安全测试工具开发商Promptfoo,本次交易核心目标是补强其AI智能体产品线的全链路安全验证能力,解决大模型落地企业级关键业务场景时的合规性、可靠性痛点,也凸显全球头部AI厂商正将安全能力作为商用落地阶段的核心竞争赛道。

过去两年,AI智能体已从概念验证阶段进入规模化商用前夜:包括OpenAI推出的GPT Agents系列产品在内,已有超过30%的世界500强企业测试将AI智能体部署在供应链调度、内部权限管理等高敏感场景,但大模型幻觉、Prompt注入攻击等安全漏洞,始终是企业大规模采购的核心阻碍。

作为全球开发者群体中普及率最高的大模型安全测试工具之一,Promptfoo的核心能力覆盖Prompt注入漏洞检测、多轮对话输出合规校验、AI智能体决策逻辑风险审计等多个场景,此前已服务超过2000家企业级客户,其中近半数是金融、政务等高合规要求的机构。本次收购完成后,Promptfoo的技术团队将直接并入OpenAI的AI安全部门,其现有开源工具将继续面向开发者社区开放,商业化版本则将优先集成到OpenAI的企业级AI智能体解决方案中。

此前AI应用的安全防护大多采用后置内容审核的逻辑,仅能对大模型的最终输出结果做风险过滤,难以防范隐藏在多轮对话中的诱导攻击、AI智能体执行任务过程中的逻辑偏差。而Promptfoo的技术体系可以实现全流程风险校验:在用户输入环节即可识别潜在的注入攻击指令,在智能体调用工具、做出决策的环节可实时比对预设的合规规则,从根源上降低AI智能体在高敏感场景下的出错概率。据OpenAI内部测试数据显示,集成Promptfoo技术后,其AI智能体的安全漏洞检出率提升了72%,误判率下降了48%。

!
本文内容来源于公开互联网信息,并包含平台新增内容及用户发布内容,旨在进行知识整理与分享。文中所有信息与观点均仅供参考,不代表任何官方或特定立场,亦不构成任何操作或决策建议,请读者谨慎甄别,详情请见完整免责声明
相关资讯
AI小创