中国科技网

AI
手机 电脑 数码 智车 AI 苹果 直播
当前位置: 首页 > AI > 正文

OpenAI 确认购入 Promptfoo 平台 加码生成式模型提示安全与鲁棒性检测

2026-03-13 07:37:11 来源:IT之家 A+A-

OpenAI 确认正在收购 AI 安全平台 Promptfoo,意在强化生成式 AI 在提示工程与输出安全检测方面的能力储备,回应大模型广泛应用带来的内容风险与对齐挑战,在 AI 安全生态布局中被视为防御体系垂直整合的举措。据官方消息,Promptfoo 提供自动化提示鲁棒性测试与输出风险评估工具,现场测试显示可识别多种诱导性攻击模式。此举在 AI 安全并购趋势中引起讨论,为观察头部企业构建内生安全能力的方式提供实例,促使业界重新审视安全工具与模型研发的深度耦合,后续可留意整合后功能在产品线的嵌入节奏。

Promptfoo 的核心能力在于构造多样化对抗性提示集合并评估模型响应的安全性、稳定性与合规性,其测试框架可在持续集成流水线中自动运行。消息称其与多主流大模型 API 兼容,现场测试显示可快速定位提示注入与越权信息泄露风险。技术分析表明此次收购不仅扩充 OpenAI 的安全测试手段,也使其能在模型迭代早期捕获潜在缺陷,减少上线后风险暴露面,为大规模商用部署加固防线。

从 AI 安全治理视角看,该收购在生成式 AI 安全体系构建中引起关注,成为研判头部企业通过并购强化内生防御能力的参考样本,其通过引入专业测试平台提升模型全生命周期安全可控性,促使行业重新审视安全左移与持续评估在 AI 研发中的必要性。此举不仅提升 OpenAI 产品的安全可信度,也为其他厂商在构建自有安全体系时提供并购与合作范式,后续可跟踪整合后的工具开放度与行业标准参与度,评估其对全球 AI 安全生态成熟的推动作用。

Tags:OpenAI
(责任编辑:Diy92)

推荐阅读 相关文章

传OpenAI拟扩员至8000人 年底从4500人增加

有消息称OpenAI计划在今年底前将员工规模从目前的约4500人扩充至8000人,扩员重点集中在模型安全、多模态研发...[详细]

2026-03-28 09:34:26

马斯克宣布Grok Computer智能体即将上线

马斯克日前在社交平台宣布,xAI开发的Grok Computer智能体即将上线,定位为具备自主任务执行与多工具调用能力的...[详细]

2026-03-28 09:34:26

MiniMax高峰期限流 MiniMax M2.7模型热度超预期

MiniMax官方确认,因M2.7模型在近期高峰时段用户请求量远超预期,已启动临时限流措施以保障服务稳定性。M2.7模...[详细]

2026-03-28 09:34:26

小米MiMo大模型联合多Agent框架 首周限免开放

小米发布MiMo大模型并与自研多Agent框架深度整合,首周面向开发者与特定用户限免开放。MiMo在多轮对话、跨模...[详细]

2026-03-28 09:34:26

美团开源LongCat大模型 Flash-Prover 刷新SOTA

美团近日宣布开源LongCat大模型及其配套Flash-Prover推理验证框架,LongCat在多项长文本理解与生成任务中刷新...[详细]

2026-03-28 09:34:26

彭博社称马斯克派xAI工程师争夺xAI OpenAI客户

彭博社报道,马斯克已派遣旗下xAI的工程师团队主动接触部分OpenAI的企业客户,试图以算力优惠与定制化模型服务...[详细]

2026-03-29 10:52:06

传OpenAI拟扩员至8000人 年底从4500人增加

有消息称OpenAI计划在今年底前将员工规模从目前的约4500人扩充至8000人,扩员重点集中在模型安全、多模态研发...[详细]

2026-03-28 09:34:26

OpenAI 携手 Shazam 为 ChatGPT 客户端嵌入音频指纹检索音乐信息功能

OpenAI 与 Shazam 达成合作,在 ChatGPT 客户端中集成音乐识别能力,用户可直接提交音频片段获取曲目信息与背景...[详细]

2026-03-14 10:58:15

OpenAI 确认购入 Promptfoo 平台 加码生成式模型提示安全与鲁棒性检测

OpenAI 确认正在收购 AI 安全平台 Promptfoo,意在强化生成式 AI 在提示工程与输出安全检测方面的能力储备,回...[详细]

2026-03-13 07:37:11

OpenAI首款硬件产品放弃“io”品牌名 交付推迟至明年2月底后引业界关注

据法院文件与多方消息证实,OpenAI已决定在其首款人工智能硬件产品上放弃沿用"io"品牌名称,并明确该产品在明年...[详细]

2026-02-20 09:27:39

联系方式

商务QQ:19667318