orange.ai

orange.ai

0 关注者

13小时前

Manus 团队发布 Blog,解密上下文工程实践 这是花了用几千万美元学费,实际各种踩坑,才得到了一些反共识的经验 非常宝贵 1. 上下文工程比“从头造轮子”更香 Manus团队一开始就决定:别自己训练大模型,直接用现成的模型,把精力放在“怎么喂模型好吃的上下文”上。这样产品能快速迭代,模型升级了,产品也能跟着飞。 2. KV缓存命中率,省钱又提速的秘密武器 KV缓存就像“记忆力外挂”。只要上下文前缀不变,模型能复用之前的计算,推理又快又省钱。比如,缓存命中时的成本能比没命中便宜10倍!所以,团队拼命想办法让上下文“长得一样”,别乱动。 3. 上下文只加不改,别乱动历史 就像写日记,不能回头改昨天的内容。只往后追加新内容,这样缓存才不会失效。哪怕是小小的时间戳变化,也会让缓存白搭。 4. 工具多了别乱删,掩码比删除更聪明 Agent能用的工具越来越多,像超市货架一样。以前想着动态加减工具,结果缓存全失效,模型还晕头转向。后来学聪明了:工具都留着,用“掩码”让模型只看到该用的那几个,其他的暂时“隐身”。 5. 文件系统是超级外挂记忆 上下文窗口再大也有极限,怎么办?Manus直接把文件系统当成“外挂大脑”,模型需要啥就去文件里找。这样任务再复杂也不怕,信息随时能查回来。 6. 错误要留下,别急着擦屁股 Agent犯错很正常,别急着把错误删掉。把“走过的弯路”留在上下文里,模型下次看到就能学乖,不会老是踩同一个坑。 7. 少样本提示别太单一,适当加点花样 如果上下文里全是一样的例子,模型容易“套路化”,一直重复同样的操作。Manus会故意加点小变化,让模型保持新鲜感,避免陷入“机械式”决策。