跳动百科

月之暗面发布“上下文缓存”技术 称最高可降本90%

禄成伦
导读 【月之暗面发布“上下文缓存”技术 称最高可降本90%】《科创板日报》2日讯,月之暗面科技有限公司对外宣布,其大模型Kimi正式开放平台正式...

【月之暗面发布“上下文缓存”技术 称最高可降本90%】《科创板日报》2日讯,月之暗面科技有限公司对外宣布,其大模型Kimi正式开放平台正式公测新技术——上下文缓存技术(ContextCaching)。月之暗面方称,这项技术将降低开发者使用长文本旗舰大模型的成本,最高可降本达90%。