科技中国

AI
业界 手机 电脑 数码 智车 AI 苹果 直播
当前位置: 首页 > AI > 正文

谷歌 Gemini2.5API 正式推出“隐式缓存”,开发者成本最高降低75%

2025-05-10 11:21:40 来源:IT之家 A+A-

5月10日消息,科技媒体 WinBuzzer 昨日发布博文,报道称谷歌为其 Gemini2.5API,推出了“隐式缓存”功能,自动识别并重用 API 请求中的常见前缀,开发者的成本最高可以降低75%。

该功能适用于 Gemini2.5Pro 和 Gemini2.5Flash 模型,自动检测 API 请求中的重复前缀并加以重用,开发者的使用成本最高可以降低75%。

注:与2024年5月推出的“显式缓存”不同,隐式缓存无需开发者手动配置,系统默认开启,节省成本的同时大幅简化操作流程。

为帮助开发者充分利用隐式缓存,谷歌建议在构建提示词时,将稳定、常见的内容放在开头,后面再添加用户特定的变量内容。此外,短时间内发送具有相似前缀的请求也能提高缓存命中率。

谷歌还设定了最低 Token 数量要求:Gemini2.5Flash 需1024个 Token,Gemini2.5Pro 则需2048个 Token。API 响应中新增的“cached_content_token_count”字段会显示缓存 Token 的使用情况和优惠计费详情。

与此同时,显式缓存仍作为可选方案,支持 Gemini2.5及2.0模型,允许开发者自定义缓存内容和生存时间。

谷歌此举虽宣称成本节省75%,但实际效果尚待第三方验证,且可能因使用模式不同而有所差异。

(责任编辑:Diy92)

推荐阅读 相关文章

鸿华先进、三菱汽车正式签署电车 OEM 供应谅解备忘录

5月7日消息,三菱汽车与鸿海科技旗下鸿华先进今日正式宣布,两家企业已就电动汽车 OEM...[详细]

2025-05-09 08:03:32

2025成都车展正式定档8月29日-9月7日

5月8日消息,第二十八届成都国际汽车展览会今日官宣,将于8月29日 -9月7日举办。作为...[详细]

2025-05-09 08:03:32

享界 S9旅行车谍照被曝光:配问界 M8同款尾灯 体形修长

5月8日消息,小红书博主 SAHADEV 今晚发布了两张享界 S9旅行车的伪装谍照。图片显示...[详细]

2025-05-09 08:03:32

联想拯救者进军自行车圈,产品包括电助力车、AI 眼镜、模拟驾驶座舱

5月8日消息,联想拯救者今日官宣进军自行车圈,发布了多款公路车、山地车新品。其中,公...[详细]

2025-05-09 08:03:32

理想 L7/8/9智能焕新版正式发布:标配双腔空气悬挂,新增加多款配色

5月8日消息,在今晚的理想汽车智能焕新版发布会上,理想 L7、L8、L9智能焕新版正式发...[详细]

2025-05-09 08:03:32

谷歌 Gemini2.5API 正式推出“隐式缓存”,开发者成本最高降低75%

5月10日消息,科技媒体 WinBuzzer 昨日发布博文,报道称谷歌为其 Gemini2.5API,推出了...[详细]

2025-05-10 11:21:40

小米推出米家无线洗地机 4Max:活水贴边清洁臂、23000Pa 吸力,国补价到手最低只要2549.15元

5月10日消息,小米米家无线洗地机4Max 现已上架京东平台并开启预约,新品配备活水贴边...[详细]

2025-05-10 11:21:40

小米米家扫拖机器人 M40S 将正式开启预约:升降式激光导航,国补价到手最低只要2549.15元起

5月10日消息,米家扫拖机器人 M40S 今日上架京东平台并开启预约,5月13日20:00开售。...[详细]

2025-05-10 11:21:40

谷歌“AI 笔记神器”NotebookLM 即将推出视频概述:将用户数据转换为视频

5月10日消息,科技媒体 Android Authority 今天发布博文,报道称谷歌“AI 笔记神器”N...[详细]

2025-05-10 11:21:40

卡内基梅隆大学推出 AI 模型“乐高 GPT”,可搭建积木 敲敲键盘就能生成

5月9日消息,据外媒 Tom's Hardware 今日报道,卡内基梅隆大学的研究团队开发出一款名...[详细]

2025-05-10 11:21:40

联系方式