时政
财经
科技
虚拟货币
其他
登录
#Manus团队
关注
orange.ai
1个月前
特别是第5点,用文件系统解决了大模型的上下文问题,让Agent拥有无限记忆和灵活操作能力。 文件系统是人类文明最伟大的发明之一。 让 Agent 能用文件系统作为记忆存储,是Manus团队最大的发明之一。 为什么用文件系统? 传统AI Agent最大的问题是“记性差”——上下文窗口再大,也有极限。比如128K tokens听起来很大,但遇到复杂任务、长文档、网页、PDF,分分钟就爆了。而且,长上下文不仅贵,还会让模型“迷糊”,性能下降。 Manus的思路是:既然大脑(上下文)装不下,就用“硬盘”——也就是文件系统,来当外挂记忆! 文件系统的创新用法 1. 无限扩展的记忆 文件系统没有上下文窗口的限制,Agent可以随时把重要信息写进文件,需要时再读出来。比如,遇到大文档、复杂网页,Agent只要记住文件路径或URL,内容可以随时查,不用全塞进上下文。 2. 结构化、分层管理 文件系统天然支持分层、分类。Agent可以把不同任务、不同阶段的信息分门别类地存储,像人类整理文件夹一样,查找和管理都很高效。 3. 可恢复的压缩 Manus的压缩策略很巧妙:不是简单丢弃信息,而是“可恢复”——比如只保留网页的URL,内容需要时再拉回来。这样既节省上下文空间,又不会丢失关键数据。 4. Agent间共享与版本控制 虚拟文件系统还能让多个Agent共享信息,像团队协作一样。还可以支持版本控制,记录每一步的变化,方便回溯和纠错。 5. 让Agent学会“用文件” Manus的Agent不只是被动存取文件,而是主动学会用文件来规划任务、记录进度、复述目标。比如,Agent会自动生成文件,随着任务推进不断更新,把目标“复述”到上下文末尾,防止“迷失在中间”。 Manus团队认为,文件系统其实是AI Agent的“外部化记忆”。模型不用什么都记在脑子里,而是像人类一样,学会查资料、做笔记、整理档案。这样,Agent就能处理更复杂、更长远的任务,甚至有点像“神经图灵机”——把短期记忆和长期记忆结合起来。 未来如果有更高效的序列模型(比如State Space Model),配合文件系统这种外部记忆,AI Agent的能力会有质的飞跃。
#大模型Agent
#文件系统
#上下文窗口
#记忆存储
#Manus团队
分享
评论 0
0
orange.ai
1个月前
Manus 团队发布 Blog,解密上下文工程实践 这是花了用几千万美元学费,实际各种踩坑,才得到了一些反共识的经验 非常宝贵 1. 上下文工程比“从头造轮子”更香 Manus团队一开始就决定:别自己训练大模型,直接用现成的模型,把精力放在“怎么喂模型好吃的上下文”上。这样产品能快速迭代,模型升级了,产品也能跟着飞。 2. KV缓存命中率,省钱又提速的秘密武器 KV缓存就像“记忆力外挂”。只要上下文前缀不变,模型能复用之前的计算,推理又快又省钱。比如,缓存命中时的成本能比没命中便宜10倍!所以,团队拼命想办法让上下文“长得一样”,别乱动。 3. 上下文只加不改,别乱动历史 就像写日记,不能回头改昨天的内容。只往后追加新内容,这样缓存才不会失效。哪怕是小小的时间戳变化,也会让缓存白搭。 4. 工具多了别乱删,掩码比删除更聪明 Agent能用的工具越来越多,像超市货架一样。以前想着动态加减工具,结果缓存全失效,模型还晕头转向。后来学聪明了:工具都留着,用“掩码”让模型只看到该用的那几个,其他的暂时“隐身”。 5. 文件系统是超级外挂记忆 上下文窗口再大也有极限,怎么办?Manus直接把文件系统当成“外挂大脑”,模型需要啥就去文件里找。这样任务再复杂也不怕,信息随时能查回来。 6. 错误要留下,别急着擦屁股 Agent犯错很正常,别急着把错误删掉。把“走过的弯路”留在上下文里,模型下次看到就能学乖,不会老是踩同一个坑。 7. 少样本提示别太单一,适当加点花样 如果上下文里全是一样的例子,模型容易“套路化”,一直重复同样的操作。Manus会故意加点小变化,让模型保持新鲜感,避免陷入“机械式”决策。
#Manus团队
#上下文工程
#大模型
#KV缓存
#经验总结
分享
评论 0
0
个人主页
通知
我的投稿
我的关注
我的拉黑
我的评论
我的点赞