LLM客户端并无真正的“长期记忆”，而是通过“结构化存储 + 动态重构prompt”的方式模拟记忆。长会话上下文的核心任务在于取舍与压缩： •哪些历史内容保留？ •哪些内容通过摘要或检索再现？ •如何让prompt在token限制下仍保持语义连续？设计RAG，agent多轮对话，或者多agent与LLM交互，也要过类似LLM客户端上下文管理这一关！否则就是RAG猜，agent演，然后老板

#LLM客户端 #长期记忆 #结构化存储 #动态重构prompt #RAG #agent多轮对话 #上下文管理 #项目失败

相关新闻

硅谷王川 Chuan

1个月前

人需要寻找一些全新的，物理上挑战更大的体验 (比如野外远足, 爬山，但不要有毁灭性风险)，给自己一些压力。这里的关键是，体验更新更大的压力的过程中，大脑会把短期记忆迁移到长期记忆中：每一步发生了什么，下次遇到类似情况你该怎么做。长期记忆本质是为了预测未来，尤其是具有生存价值的记忆，会记得很深。有丰富压力体验记忆的人，面对新的压力，应对起来会更有章法，甚至很开心的主动拥抱压力和挑战。缺乏类似记忆的人

ginobefun

1个月前

Anthropic 再发 Agent 神文：像人类工程师一样思考，解决「长程任务」难题 Anthropic 双 Agent 架构通过功能列表、增量提交与端到端测试，解决 AI Agent 长程任务上下文管理与持续性难题。 #AI Agent #长程任务 #Agent架构

辛宝Otto-Web Worker Podcast

1个月前

node.js ai sdk ，在后续发布的 v6 中会增加 rerank 的相关方法，在此之前，做 rag 的 rerank 时候需要用普通的对话模型，或者使用 api 来封装

凡人小北

1个月前

Google 在 Gemini 生态里直接宣判了 RAG 的死刑。这个 File Search 一句话就能概括： Google 把 RAG 从工程领域直接删掉了。以前做 RAG 是一整条流水线：切 chunk → embedding → 向量库 → 检索策略 → 引用链路 → 缓存优化 → prompt 拼装。现在 Gemini 的 File Search 非常简单，把PDF/JSO

dontbesilent

2个月前

小红书卖知识库的硬性标准是：保证你的顾客从未听说过什么是 RAG 这就好比肯德基的大部分顾客都不养鸡，一个道理

关联事件

#多智能体之争：Anthropic生态VS单智能体

Anthropic与Cognition就多智能体系统构建展开激辩，核心争议在于上下文共享与否。Anthropic强调构建多智能体生态，提升复杂任务处理效率，近期发布多智能体构建指南，阐述“协调者-执行者”架构，并通过代理协调和系统评估提升任务性能，认为单个智能体的上下文有限，压缩比太大就会失真。Cognition则更关注单个Agent的效率和稳定性。Anthropic还发布了关于多智能体系统的文章，详细阐述构建多个智能体所面临的工程挑战，并强调带宽、结构、机制的重要性。这场争论反映了AI发展路径的不同选择，对未来AI系统的设计和应用具有重要意义。