#长期记忆

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

2周前

人的智能演化，是trial & error的反馈循环，形成可泛化的行为模式；山谷里那片果树林一被发现，一传十十传百，过一段时间就没了，知道四季轮回的，明年还可以再来。这就是长期记忆以及善于总结规律的预测能力。

#智能演化 #trial & error #反馈循环 #行为模式 #长期记忆

1个月前

#BestBlogs 那天，AI 大模型想起了，被「失忆」所束缚的枷锁｜机器之心 | 机器之心文章全面综述了 LLM 记忆能力的发展现状、类型、实现机制及未来挑战，从短期记忆到长期记忆，以及多模态和参数化记忆的最新进展。摘要：文章深入探讨了大型语言模型记忆能力的关键发展，指出 LLM 正从短期上下文记忆迈向跨会话的长期记忆。文章首先介绍了 Google Gemini、Anthropic Claude、OpenAI ChatGPT 和 xAI Grok 等主流大模型在记忆功能上的最新进展，强调了记忆在提升 AI 交互自然度和连贯性方面的核心作用。接着，文章详细阐述了 LLM 记忆的几种主要类型：受限于上下文窗口的“上下文内记忆”（短期记忆）、基于外部数据库和 RAG 技术的“外部记忆”（长期记忆）、将信息编码进模型参数的“参数化记忆”，以及受人类认知启发的“分层式记忆”和“情境记忆”。文章还列举了 MemGPT、MemOS、MIRIX、G-Memory、M3-Agent、记忆层和 BTX 等具体实现记忆功能的项目和研究，涵盖了从内存管理到多模态记忆和原生模型记忆的多种创新方案。最后，文章分析了当前记忆系统面临的挑战，如遗忘机制、效率与成本平衡，并展望了多模态原生、终身自主演化和智能体间共享协作等未来趋势，指出记忆是通往通用人工智能的关键一步。主要内容: 1. 大模型记忆能力正从短期迈向长期和跨会话。 -- 早期 LLM 记忆受限于上下文窗口，而最新进展使模型能跨多轮对话记住用户偏好和历史信息，提升交互连贯性。 2. LLM 记忆分为多种类型，外部记忆是当前主流的长期记忆方案。 -- 包括上下文内记忆（短期）、外部记忆（RAG）、参数化记忆，以及类人的分层/情境记忆，其中外部记忆通过向量数据库实现海量信息存储和检索。 3. 记忆不再是简单存储，而是涉及存储、检索、提炼和遗忘的复杂机制。 -- MemGPT、MemOS 等系统将记忆视为系统资源进行管理，MIRIX 等项目则对记忆进行多层细化和智能处理，提升记忆的效率和准确性。 4. 多模态记忆和将记忆原生融入模型是未来重要趋势。 -- 随着多模态 AI 发展，记忆需处理图像、视频等信息；Meta 的记忆层和 RockAI 的 Yan 2.0 Preview 尝试将记忆直接编码进模型参数，实现更深层次的内化。 5. 构建智能记忆系统面临挑战，是实现 AGI 的关键。 -- 挑战包括遗忘机制、效率成本平衡，未来需发展综合记忆架构、智能体间共享记忆，并实现记忆的自动演化，最终通向通用人工智能。文章链接：

#LLM记忆 #长期记忆 #多模态记忆 #AI挑战 #通用人工智能

1个月前

字节放出了一款具备长期记忆能力的多模态智能体：M3-Agent 可以实时处理视觉和听觉输入，并转化为长期记忆，使其不局限于单一模态的信息存储情景记忆，还可以从中提取和积累语义记忆核心是M3-Agent的记忆系统以实体为中心，把与同一实体相关的所有模态信息（比如一个人的面部、声音、相关知识）连起来，形成图谱结构，这就可以使其能更深入一致的理解环境支持多轮迭代推理，根据需要从长期记忆中检索相关信息来辅助推理过程在基准测试中，尤其在需要长期记忆和跨模态推理的任务上，M3-Agent表现优秀 #M3Agent #AIagent

#m3-agent #多模态智能体 #长期记忆 #跨模态推理 #AI

2个月前

以 Claude Code 为例，Agent 的记忆： 1. 短期记忆，都在同一个上下文中，简单来说就是历史消息都在 2. 长期记忆，Claude[.]md 文件，记录项目相关信息，每次新会话会在第一条消息中包含，然后一直保留在历史消息中我漏掉了啥吗？就是这么简单朴实无华。

AI编程工具激战：Claude Code、Gemini Cli崛起· 906 条信息

#Claude Code #Agent记忆 #短期记忆 #长期记忆 #项目信息

4个月前

阿里云通义灵码 AI 编程助手推出独立客户端，无需通过插件形式安装在 VS Code 等 IDE 中。此次更新通义灵码带来 MCP 协议的支持、自带编程智能体模式、支持长期记忆、支持行间建议预测等，为开发者带来更丝滑、更智能的编程体验。通义灵码 AI IDE 客户端下载地址：

#阿里云 #通义灵码 #AI编程助手 #MCP协议 #编程智能体 #长期记忆 #编程体验 #软件更新

5个月前

不得不说，微信真的是特别好的做AI助理的入口。微信里搜“元宝”，添加为好友，置顶聊天。但目前的核心价值是公众号文章转发总结，AI聊天，文档总结。如果未来可以有各种通知系统和长期记忆，那就会更加牛逼。因为易得性比模型强大还要厉害！

#微信 #AI助理 #公众号 #转发总结 #AI聊天 #文档总结 #通知系统 #长期记忆