Heidi Labs
GitHub TrendingGitHub Trending 项目约 1 分钟150 字

billion-context:月级长会话上下文压缩插件

一款上下文压缩插件,适用于长达一个月的单个会话(数十亿 token)、小上下文窗口(100K 上下文就足够)以及节省 token(token 用量减少 5 倍)。

上下文压缩插件,月级长会话,兼顾小窗口(100k 上下文足矣)、省 token(省 5 倍 token)。

billion-context is all you need