今天小編分享的科技經驗：月之暗面 Kimi 開放平台“上下文緩存”開啓公測，歡迎閲讀。
IT 之家 7 月 1 日消息，月之暗面今日官宣 Kimi 開放平台上下文緩存（Context Caching）功能開啓公測。官方表示，該技術在 API 價格不變的前提下，可為開發者降低最高 90% 的長文本旗艦大模型使用成本，并提升模型響應速度。
IT 之家附 Kimi 開放平台上下文緩存功能公測詳情如下：
技術簡介
據介紹，上下文緩存是一種數據管理技術，允許系統預先存儲會被頻繁請求的大量數據或信息。當用户請求相同信息時，系統可以直接從緩存中提供，無需重新計算或從原始數據源中檢索。
适用場景
上下文緩存适用于頻繁請求，重復引用大量初始上下文場景，可降低長文本模型費用，提高效率。官方表示費用最高降低 90 %，首 Token 延遲降低 83%。适用業務場景如下：
提供大量預設内容的 QA Bot，例如 Kimi API 小助手
針對固定的文檔集合的頻繁查詢，例如上市公司信息披露問答工具
對靜态代碼庫或知識庫的周期性分析，例如各類 Copilot Agent
瞬時流量巨大的爆款 AI 應用，例如哄哄模拟器，LLM Riddles
互動規則復雜的 Agent 類應用等
計費説明
上下文緩存收費模式主要分為以下三個部分：
Cache 創建費用
調用 Cache 創建接口，成功創建 Cache 後，按照 Cache 中 Tokens 按實際量計費。24 元 / M token
Cache 存儲費用
Cache 存活時間内，按分鍾收取 Cache 存儲費用。10 元 / M token / 分鍾
Cache 調用費用
Cache 調用增量 token 的收費：按模型原價收費
Cache 調用次數收費：Cache 存活時間内，用户通過 chat 接口請求已創建成功的 Cache，若 chat message 内容與存活中的 Cache 匹配成功，将按調用次數收取 Cache 調用費用。0.02 元 / 次
公測時間和資格説明
公測時間：功能上線後，公測 3 個月，公測期價格可能随時調整。
公測資格：公測期間 Context Caching 功能優先開放給 Tier5 等級用户，其他用户範圍放開時間待定。
