Anthropic关于上下文工程的最新发布:要想充分发挥AI智能体的潜力,需要上下文工程! 博客讲了上下文工程在构建AI智能体中的重要性及相关策略,是对提示工程的进一步拓展和深化 提示工程,关注的是如何写出更好的提示词 上下文工程,关注的是在模型推理过程中,如何持续选择和管理最有助于任务完成的信息(也就是上下文),包括系统提示、工具、外部数据、对话历史等等 构建有效上下文的原则是用最少的、高价值的信息,引导模型产生最佳行为 1. 系统提示 应清晰、简洁、具体,避免过度逻辑化或过于模糊 推荐分模块组织,比如说背景、指令、工具说明、输出格式等,使用XML或 Markdown标签 初始提示应尽可能小,是指信息刚好足够引导行为,然后根据测试结果逐步补充 2. 工具 工具应功能单一、清晰、无歧义,避免功能重叠 工具返回的数据应精简、高效,避免浪费上下文空间 工具集应保持“最小可用集”,便于模型决策和维护 3. 示例 提供典型、多样化的示例,避免堆砌边缘案例 示例比规则更有助于模型理解任务 动态的获取上下文,与其一次性加载所有信息,不如让智能体在运行时通过工具动态获取所需数据 1.通过文件路径、命名规则、时间戳等元数据判断信息的相关性 2.支持“渐进式信息发现”,避免一次性加载大量无关内容 对于持续数分钟到数小时的任务,比如代码迁移、研究项目,需要特殊策略应对上下文窗口限制 1. 压缩 定期总结对话内容,保留关键信息,比如决策、bug、实现细节,丢弃冗余内容 可结合模型自动生成摘要,保持任务连续性 2. 结构化笔记 智能体定期将关键信息写入外部记忆,比如文件、数据库 在需要时再将相关内容加载回上下文 3. 多智能体架构 主智能体负责任务协调,子智能体负责具体子任务 子智能体可深入探索某一问题,仅将摘要返回主智能体,避免上下文过载 适用于复杂研究、并行任务等场景 #上下文工程 #ContextEngineering
国庆期间终于闲下来了,感觉大家的状态都很松弛。 从大厂裸辞做AI创业也有半年了,我过的怎么样? 自媒体方面,全平台加起来已经有了大几千粉丝,收获了一小批用户的喜爱,对此,我感悟最深的其实是:真诚,利他才是涨粉秘籍,其他都是小道尔。 AI创业,我主要做了AI app,AI工具网站,还顺手搭了几个工作流帮助自己提效,平时还顺便在闲鱼上卖卖我写的一些资料和心得,每个月综合收入也有5位数 在这部分,我的成长还是比较大的 从一年前一行代码都不会写,到现在已经可以熟练指挥各种AI工具,帮我完成发推特,写脚本,爬数据,做网站各种工作,可以说我现在的一切都是AI带给我的 我觉得有两个点分享给大家:万事问AI,把自己产品化,我真的是一直在践行这两个点 想想也很唏嘘 一年前我还在大厂小小的格子间讨生活,加着加不完的班,做着做不完的需求,永远没有看到头的那天 那个时候最大的愿望就是:少并行几个需求,别总要求三天上线,让我能喘口气 一年后的今天,趁着国庆,对自己的半年做一次复盘,盘一盘得与失。 也认识了很多新的朋友,也有了各种各样的小圈子,有:出海赚美金分队,成长陪伴群,找新词小分队,产品经理创业小分队等等,自己在这条路上也不是孤单一人了 这半年来,我真实的踩到了AI带给我们的浪潮,心态和能力也发生了巨大的变化,希望我们都能在这波巨大的浪潮中崭露头角,也希望能遇到更多优秀的人!