howie.serious

0 关注者

4天前

上下文工程(context engineering)✅ llm 的权重(weights),相当于人脑的长时记忆;llm 的上下文窗口( context window),相当于人脑的工作记忆。 以 o3 为例,有 40 万 token 的上下文窗口,远胜人脑 7±2 单位的工作记忆空间。 所以,压榨顶级模型的价值,压榨 200 美金 pro 会员的价值,关键在意充分利用 llm 巨大的工作记忆,在执行任务时填充必要的、高质量的、高信号低噪声的上下文信息。 人类工作也是如此。团队协作的关键之一就是 context 同步。 llm 的 context engineering,如何理解? 一切操作 llm 上下文窗口的方法,都是上下文管理/工程,包括但不限于提示词、任务描述与解释,few-shot 示例,RAG,相关数据,工具,状态,历史。 用好你的 llm 上下文,就像用好你大脑的工作记忆。