2025-06-16 22:47:44
周末搞了个开源工具,把 macOS 26 自带的 Apple Intelligence 本地模型封装成 OpenAI API,可以在各类客户端中直接使用😎 Apple 本地模型的初步感受: ✅ 效果稳定可靠:多语言,能兼顾日常使用和结构化输出/工具调用;3b 的参数量不求聪明,只要一个稳定可预测,Apple 做到了 ✅ 速度流畅:推理时 CPU 打满,但不影响其他应用 ⚠️ 有系统层面的 rate limit 限速:调用方需要是带界面的 app 并且在前台,否则很容易触发限速,期待后续更加开放
2025-06-16 22:47:44
2025-06-16 22:33:25
2025-06-16 22:16:07