#本地模型

avatar
#AI Whisper 的模型好像各家的识别效果都差不多，最终还是用本地模型了。大多数时候速度比 OpenAI 返回还快一点。机器是 M3 Ultra 的 Mac Studio。
#Whisper #OpenAI #本地模型 #Mac Studio
avatar
Channing
2周前
周末搞了个开源工具，把 macOS 26 自带的 Apple Intelligence 本地模型封装成 OpenAI API，可以在各类客户端中直接使用😎 Apple 本地模型的初步感受： ✅ 效果稳定可靠：多语言，能兼顾日常使用和结构化输出/工具调用；3b 的参数量不求聪明，只要一个稳定可预测，Apple 做到了 ✅ 速度流畅：推理时 CPU 打满，但不影响其他应用 ⚠️ 有系统层面的 rate limit 限速：调用方需要是带界面的 app 并且在前台，否则很容易触发限速，期待后续更加开放
#Apple #开源工具 #OpenAI API #MacOS #本地模型
avatar
Yachen Liu
1个月前
买了 MacWhisper，因为现在 AI 用得越来越多，反而打字速度变成了瓶颈。 测试了一下各种本地模型，还得是用 OpenAI 的 API 才能够取得比较不错的效果。
#MacWhisper #AI #OpenAI #打字速度 #API #本地模型
avatar
库克行行企企、食饭几味，在人工智能崛起的浪潮里，就像尼安德特人一样，什么都不知道。 但是他就是死好命，deepseek杀出一条本地模型的血路，利好他卖铲子。
#库克 #人工智能 #DeepSeek #本地模型 #利好