宝玉

如何确定 AI 产品的度量指标（Metrics）？ 很多情况下，我们需要在“智能度（Intelligence）、成本（Cost）、延迟（Latency）”这三者之间权衡。 大多数组织只能重点优化其中一到两个，很难同时把三者都做到极致。不同的用例，其侧重点也不同。 比如做客服，你肯定希望顾客 10 秒内能收到回复，超过 10 秒他就走了，然后可能还会到处吐槽你的服务。但是如果你在做金融研究员的助手，可能等待 10 分钟也无所谓，毕竟后面要做的是重要的资本分配决策。 所以不同的决策时效性和重要性决定了你怎么在这三者之间取舍。 有时 UX 也很重要，比如你做客服，可以在等待时显示一个“思考中”的动画，或者把顾客先引导到其他页面阅读一些内容，总之有各种方式来稍微掩盖或分担延迟问题，但你还是要清楚自己的关键指标是什么，并据此去做技术或设计层面的优化。 摘录自：Anthropic 分享的在和客户合作的过程中总结的的企业落地 AI 最佳实践以及常见错误

预览