#生产级应用

6个月前

逛 GitHub 的时候，发现了个宝藏开源项目：12-Factor Agents，汇总了 12 条开发 AI Agent 应用的核心设计原则，已狂揽 11k+ GitHub Star！这 12 条系统化、切实可行的设计原则，是作者与上百位技术创始人深入沟通交流后总结出来的。涵盖上下文管理、工具调用、状态建模、控制流、错误压缩、模块化结构等核心议题，不是空谈概念，而是真正能落地的工程方法。 GitHub：主要内容： - 12 个核心原则：从自然语言到工具调用、状态管理、错误处理等全方位指导 - 生产级设计模式：基于真实项目经验的架构设计和最佳实践 - 模块化开发理念：将 Agent 概念拆解成可独立应用的小模块 - 实战案例分析：包含完整的开发流程和常见问题解决方案 - 框架无关方法：适用于任何技术栈，不绑定特定 AI 框架附带视觉图解 + 深度讲解，可以边学边做。希望这份资料，对大家有所启发，做出能投入生产的 AI 产品。

#AI Agent #开源项目 #12-Factor Agents #设计原则 #生产级应用

8个月前

12-Factor Agents - 构建可靠 LLM 应用的原则 "12-Factor Agents" 项目借鉴了经典的 "12 Factor Apps" 理念，为构建生产级别的、基于大型语言模型的应用程序提供了一套清晰、实用的工程原则。作者 Dex 通过自身丰富的实践经验，指出当前许多 AI 代理框架虽然功能强大，但在追求高可靠性、可维护性和可扩展性的生产环境中，开发者往往需要回归到更基础的软件工程实践。该项目认为，许多成功的智能体应用，其核心并非完全不可控的自主决策循环，而是精心设计的、以确定性代码为主导，并在关键环节巧妙嵌入 LLM 能力的软件系统。因此，它提出了12个核心要素，旨在帮助开发者： - 增强控制力：例如“拥有你的提示”、“拥有你的上下文窗口”、“拥有你的控制流”。 - 提升工程质量：例如“工具即结构化输出”、“小型、专注的代理”、“通过简单的 API 启动/暂停/恢复”。 - 确保系统稳健性：例如“将错误压缩到上下文窗口”、“统一执行状态和业务状态”。 - 实现人机有效协同：例如“通过工具调用联系人类”。其根本目标是让开发者，即使没有深厚的 AI 研究背景，也能将 LLM 的强大能力以模块化、可控的方式整合进现有产品，从而更快地交付高质量、能真正服务于生产客户的 AI 软件。

#12-Factor #LLM #大型语言模型 #AI代理 #生产级应用 #工程原则

11个月前

DeepSeek 满血版在国产硬件上贫瘠的推理性能基本告别生产级应用。四台8卡晟腾910B 单用户推理速度才10+ tokens/s，花五百万就买个这？

#DeepSeek #国产硬件 #推理性能 #生产级应用 #晟腾910B #单用户推理速度