时政
财经
科技
虚拟货币
其他
登录
#内容摘要生成
关注
Mr Panda
6小时前
#上下文工程 我最近在做一个内容摘要生成的小功能,本来以为是个简单的任务:用户输入长文本,我调用更强、更大上下文的模型,让它生成优质摘要。结果发现,这一过程的成本比我预想的高得多。 高质量模型 → 价格昂贵 大上下文窗口 → Token 消耗成倍增长 每月 20 美元的订阅费 → 很难覆盖这些成本 对比下来,连 OpenAI 和 Cursor 这样的公司都不例外。以我自己为例,上个月在 Cursor 上花了接近 100 美元,其中大部分都用在 Claude 模型上,这意味着 Cursor 从我这里几乎没赚到钱。 这背后反映了一个更大的行业问题: 用户对高质量体验的要求 → 迫使应用方使用昂贵的大模型 长上下文输入 → 成本随 Token 增长呈线性甚至指数级上升 订阅模式的收入上限 → 无法有效平衡高频、高消耗用户 因此,对于任何想做 AI 应用的人来说,“上下文工程”是不可回避的核心能力。它的目标是在满足任务效果的同时,最大限度减少传给模型的内容量,用结构化、抽取关键信息的方式,让模型少读冗余、多读核心,从而显著降低计算开销。 因此,对于任何想做 AI 应用的人来说,“上下文工程”是不可回避的核心能力。它的目标是在满足任务效果的同时,最大限度减少传给模型的内容量,用结构化、抽取关键信息的方式,让模型少读冗余、多读核心,从而显著降低计算开销。
#内容摘要生成
#上下文工程
#大模型成本
#Token消耗
#AI应用
分享
评论 0
0
Mr Panda
6小时前
#上下文工程 #contextengineer 看 cusror 和 openai 最近的一些骚操作, 大概率和我遇到问题是一样的, 可能都是面临着计算成本和利润的压力。 我最近在做一个内容摘要生成的小功能, 遇到了的问题主要更好的模型、更大的上下文花费很大, 靠每月20刀的订阅费用, 很难把成本赚回来。 更别提像OpenAI 和 cursor 这样的公司。 我上个月 在cusror 上花了大100刀左右, 这100万的费用几乎都花在了 claude 上面, 相当于cursor 几乎没有从我这里赚到钱。 因此, 我现在对 做 AI 应用来讲这类问题非常难受, 上下文工程的最核心的内容就是解决用少量结构化的内容, 让模型更好的理解用户输入、更低成本的、低消耗token数量 的方式来完成用户的需要。
OpenAI GPT-5发布引发用户不满,阿尔特曼回应质疑· 12 条信息
#上下文工程
#AI应用成本
#Cursor
#OpenAI
#内容摘要生成
分享
评论 0
0
个人主页
通知
我的投稿
我的关注
我的拉黑
我的评论
我的点赞