空空 🌟 狞猫世界第一可爱！
0 关注者
Susan STEM
2天前
我畅想一种 “双轨制” 的 AI 应用图景：一端是个人可控的本地模型，保障隐私、自主与个性化；另一端是规模化的公共平台，提供稳定、高效与普适服务。二者不是对立的，而是通过协议与标准并轨调度、互补共生。其实在中国，目前的开源模型生态已经隐约呈现出这种 私人端双轨制 的雏形——个人和团队可以在本地运行轻量化开源模型，满足特定需求，同时又能调用大厂提供的云端大模型，在更大算力和更丰富资源的支持下扩展应用
dontbesilent
2周前
genspark 支持调用本地模型了，飞机上也可以用了😄
𝘁𝗮𝗿𝗲𝘀𝗸𝘆
3个月前
#AI Whisper 的模型好像各家的识别效果都差不多，最终还是用本地模型了。大多数时候速度比 OpenAI 返回还快一点。机器是 M3 Ultra 的 Mac Studio。
Channing
周末搞了个开源工具，把 macOS 26 自带的 Apple Intelligence 本地模型封装成 OpenAI API，可以在各类客户端中直接使用😎 Apple 本地模型的初步感受： ✅ 效果稳定可靠：多语言，能兼顾日常使用和结构化输出/工具调用；3b 的参数量不求聪明，只要一个稳定可预测，Apple 做到了 ✅ 速度流畅：推理时 CPU 打满，但不影响其他应用 ⚠️ 有系统层面的 rat
Yachen Liu
4个月前
买了 MacWhisper，因为现在 AI 用得越来越多，反而打字速度变成了瓶颈。 测试了一下各种本地模型，还得是用 OpenAI 的 API 才能够取得比较不错的效果。
