#agent模式

前端之虎陈随易

2周前

分享一个高效精准的AI Coding技巧：先用Ask模式跟AI聊清楚需求和方案，彻底搞懂后再用Agent模式让AI写代码，这样比较精准高效。

#AI #Coding技巧 #Ask模式 #agent模式

ginobefun

3周前

#BestBlogs 聊聊 AI 应用架构演进 | 阿里云开发者文章梳理了 AI 应用架构从简单调用到复杂 Agent 模式的演进过程与关键技术组件。摘要：文章循序渐进地阐述了 AI 应用架构的演进路线，从最初用户直接与大语言模型交互，到逐步引入关键增强层。首先，强调上下文增强（如 RAG）的重要性，用于弥补模型知识的时效性和领域局限性。接着，讨论了输入输出防护（Guardrails）对用户隐私和系统安全的重要性，并列举了常见的 Prompt 攻击类型及防御思路。文章进一步介绍了意图路由和模型网关的设计，以支持多功能应用和统一管理异构底层模型。随后，探讨了缓存机制在提升性能和降低成本方面的作用。最终，架构演进至具备规划和外部交互能力的 Agent 模式。文章还分析了 AI 应用的可观测性指标及通过批处理、并行计算等优化推理性能的方法。主要内容: 1. 上下文增强（RAG）弥补模型局限性，提升特定场景输出质量 -- 通过动态检索和补充外部知识，确保模型能处理时效性信息和特定领域问题，输出更准确关联的数据。 2. 输入输出防护是保障用户隐私和系统安全的关键架构层 -- 在用户输入和模型输出端增加隐私脱敏、恶意内容检测和过滤，有效防范数据泄露和 Prompt 攻击。 3. 引入 Agent 模式赋予 AI 应用规划和执行外部操作的能力 -- 使 AI 应用从被动问答转变为主动解决复杂任务，具备思考、使用工具及与外部环境交互的能力。 4. 模型网关统一管理底层异构模型调用，提升扩展性和运维效率 -- 为上层应用提供统一的调用接口，并处理访问控制、负载均衡、监控等非功能性需求。 5. 推理性能优化（批处理、并行计算）是提升 AI 应用响应速度的核心 -- 通过 Batching 和 Parallelism 等技术，有效降低 Time to First Token 和 Time per Output Token，提升整体吞吐。文章链接：

#AI应用架构 #agent模式 #关键技术组件 #上下文增强 #大语言模型

响马

3个月前

我现在在 vs code insider 下都只用 edit，agent 太奔放，只适合在项目初期使用。

#vs code insider #edit模式 #agent模式 #项目初期使用 #开发工具