#TPM

1个月前

折腾了几个礼拜，昨晚总算看到起量正常不报错了，起量才知道vllm有很多坑要踩，今天600w TPM走起，距离打满还差99% #vllm

#vLLM #起量 #TPM #技术 #乐观

6个月前

Gemini 2.5 Pro 又回到了 API 的免费层级，除了常规的每分钟请求数还有每分钟输入token的限制 Gemini 2.5 Pro 的 TPM 是 Gemini 2.5 Flash 的 10 倍 RPM：每分钟请求数 RPD：每天请求数 TPM：每分钟输入token数

Google Gemini 2.5发布引发AI模型性价比热议· 475 条信息

OpenAI新德里发布会：ChatGPT语音翻译功能引发热议· 869 条信息

#Gemini 2.5 Pro #API免费层级 #TPM #Token限制 #性能提升