3月9日,OpenAI 宣布将收购 AI 安全平台 Promptfoo,并计划在交易完成后,把 Promptfoo 的技术全面整合进其企业级智能体平台 OpenAI Frontier。

Promptfoo 主要面向企业用户,在 AI 系统开发阶段帮助识别和修复各类安全漏洞。它的工具已被超过四分之一的财富500强企业采用,并通过开源的命令行工具(CLI)和库,支持对大语言模型应用进行评估和红队测试(red-teaming)。

OpenAI 表示,随着越来越多企业将“AI 同事”真正部署到业务流程中,评估、安全和合规已不再是可选项,而是基础需求。企业不仅需要系统化的方法来测试智能体行为、在上线前发现潜在风险,还需要在长期运维中保留清晰、可追溯的记录,以满足监管、治理和问责要求。未来,OpenAI 会在继续维护 Promptfoo 开源项目的同时,将其核心能力深度集成到 Frontier 平台,为企业用户提供更完整的一站式解决方案。

Promptfoo 由联合创始人 Ian Webster 和 Michael D’Angelo 领导,已打造出一套成熟且强大的评估与攻击模拟工具,帮助企业在全球范围内规模化部署大模型时提前识别风险。OpenAI 认为,Promptfoo 在企业级 AI 系统的安全测试方面积累了深厚的工程经验,这些能力融入 Frontier 后,将显著提升整个平台的安全水位。

根据 OpenAI 公布的信息,未来在 Frontier 上构建智能体的企业将在三个关键方面获得增强:

首先,安全测试将成为平台的原生功能——自动化红队测试和安全扫描将帮助用户识别并缓解提示注入、越狱、数据泄露、工具误用,以及超出预设策略的智能体行为等风险。

其次,安全能力将更紧密地嵌入开发流程,让团队能在早期就发现、排查并修复问题,真正把安全作为 AI 系统开发和运维的核心环节。

第三,平台将强化监督与问责机制,通过集成报告和可追溯性工具,帮助企业记录测试过程、追踪风险变化,并满足日益严格的治理、风险与合规(GRC)要求。

Promptfoo 联合创始人兼 CEO Ian Webster 表示,Promptfoo 从创立之初的目标,就是为开发者提供一套务实、可落地的方案,确保 AI 系统的安全可靠。随着 AI 智能体越来越多地接入真实数据和关键业务系统,对其进行系统化验证和防护的难度与重要性都在快速上升。他相信,加入 OpenAI 将加速这一方向的投入,让更多正在构建现实世界 AI 应用的团队获得更强的安全性、可靠性和治理能力。

OpenAI 对 Promptfoo 团队的加入表示欢迎,并强调将继续打造工具,助力企业安全、可靠地部署 AI 应用和智能体。此次收购仍需满足常规的交割条件后方可正式完成。