月之暗面发布“上下文缓存”技术,称最高可降本90%

月之暗面发布“上下文缓存”技术,称最高可降本90%
2024年07月02日 21:10 金融界网站

本文源自:金融界AI电报

以“价格战”为代表的大模型降本仍在继续,但相比直接降价,北京月之暗面科技有限公司提出了增效方案。7月2日,该公司对外宣布,其大模型Kimi正式开放平台正式公测新技术——上下文缓存技术。月之暗面方称,这项技术将降低开发者使用长文本旗舰大模型的成本,最高可降本达90%。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部