中国科技网

AI
手机 电脑 数码 智车 AI 苹果 直播
当前位置: 首页 > AI > 正文

OpenAI 确认购入 Promptfoo 平台 加码生成式模型提示安全与鲁棒性检测

2026-03-13 07:37:11 来源:IT之家 A+A-

OpenAI 确认正在收购 AI 安全平台 Promptfoo,意在强化生成式 AI 在提示工程与输出安全检测方面的能力储备,回应大模型广泛应用带来的内容风险与对齐挑战,在 AI 安全生态布局中被视为防御体系垂直整合的举措。据官方消息,Promptfoo 提供自动化提示鲁棒性测试与输出风险评估工具,现场测试显示可识别多种诱导性攻击模式。此举在 AI 安全并购趋势中引起讨论,为观察头部企业构建内生安全能力的方式提供实例,促使业界重新审视安全工具与模型研发的深度耦合,后续可留意整合后功能在产品线的嵌入节奏。

Promptfoo 的核心能力在于构造多样化对抗性提示集合并评估模型响应的安全性、稳定性与合规性,其测试框架可在持续集成流水线中自动运行。消息称其与多主流大模型 API 兼容,现场测试显示可快速定位提示注入与越权信息泄露风险。技术分析表明此次收购不仅扩充 OpenAI 的安全测试手段,也使其能在模型迭代早期捕获潜在缺陷,减少上线后风险暴露面,为大规模商用部署加固防线。

从 AI 安全治理视角看,该收购在生成式 AI 安全体系构建中引起关注,成为研判头部企业通过并购强化内生防御能力的参考样本,其通过引入专业测试平台提升模型全生命周期安全可控性,促使行业重新审视安全左移与持续评估在 AI 研发中的必要性。此举不仅提升 OpenAI 产品的安全可信度,也为其他厂商在构建自有安全体系时提供并购与合作范式,后续可跟踪整合后的工具开放度与行业标准参与度,评估其对全球 AI 安全生态成熟的推动作用。

Tags:OpenAI
(责任编辑:Diy92)

推荐阅读 相关文章

银河通用机器人称春晚“小盖”动作非预设程序 系实时交互呈现

在2026年总台春晚中,银河通用机器人"小盖"因参与互动环节引发关注。日前,银河通用方面表示,"小盖"在春晚上的动...[详细]

2026-03-02 10:20:07

欧盟因Grok生成非自愿色情图 对马斯克旗下X平台展开大规模调查

近日,欧盟隐私监管机构宣布对马斯克旗下的X平台启动大规模调查,起因是该平台内置的AI聊天机器人Grok被滥用,生...[详细]

2026-03-02 10:20:07

马年春晚带动京东平台机器人搜索量环比增超300% 订单量涨150%

日前,2026年总台春晚落幕,京东平台数据显示,受晚会中机器人节目与展示带动,平台机器人品类搜索量环比增长超300%...[详细]

2026-03-02 10:20:07

央广网提示AI生成拜年视频或涉侵权 未经授权用肖像存法律风险

近日,一类由人工智能生成的"明星拜年视频"在短视频平台快速传播,部分账号借此收获较高播放量与互动数据。央广...[详细]

2026-03-01 11:58:47

月之暗面拟以百亿美元估值启动新一轮融资 加码通用大模型研发与全球化布局

近日有消息称,国内AI大模型公司月之暗面正寻求以约100亿美元估值进行新一轮融资。若本轮融资达成,将成为该公...[详细]

2026-02-28 08:57:04

OpenAI 确认购入 Promptfoo 平台 加码生成式模型提示安全与鲁棒性检测

OpenAI 确认正在收购 AI 安全平台 Promptfoo,意在强化生成式 AI 在提示工程与输出安全检测方面的能力储备,回...[详细]

2026-03-13 07:37:11

OpenAI首款硬件产品放弃“io”品牌名 交付推迟至明年2月底后引业界关注

据法院文件与多方消息证实,OpenAI已决定在其首款人工智能硬件产品上放弃沿用"io"品牌名称,并明确该产品在明年...[详细]

2026-02-20 09:27:39

英伟达CEO黄仁勋否认对OpenAI不满 称非常喜欢与奥尔特曼共事

近日,针对外界有关英伟达与OpenAI关系生变的传闻,英伟达首席执行官黄仁勋公开作出回应,明确否认对OpenAI存在不...[详细]

2026-02-10 07:29:14

黄仁勋称对OpenAI投资或为英伟达史上最大 但规模不及千亿美元

英伟达首席执行官黄仁勋在一次公开场合谈及公司对OpenAI的投资时表示,这笔投资有可能成为英伟达有史以来金额...[详细]

2026-02-06 07:45:29

OpenAI揭晓GPT-5.2内部分析工具 可解析超600PB数据并支持自然语言交互

OpenAI首次对外披露为GPT-5.2配套打造的专用内部分析工具,该工具具备处理超过600PB海量数据的能力,并全面支持...[详细]

2026-02-06 07:45:29

联系方式

商务QQ:19667318