相关新闻

placeholder

蓝点网

4周前

#OpenAI 发布开放权重模型 GPT-OSS-120B 和 GPT-OSS-20B，模型能力媲美 o4-mini 和 o3-mini。这些推理思维链模型可以在本地使用，例如在 M4 MacBook 上采用 20B 版甚至可以每秒输出 30~40tokens，高通也证实这些模型可以在搭载高通骁龙芯片的设备上使用。查看全文：

placeholder

Frank

3个月前

local-ai-packaged 是一个开源的本地 AI 开发环境模板，通过 Docker Compose 集成了多种主流工具，包括 n8n、Supabase、Ollama、Open WebUI、Flowise、Qdrant、Neo4j 和 SearXNG 等。 用户可以通过该项目一键部署本地大型语言模型（LLM）、AI 代理和检索增强生成（RAG）等应用。n8n 负责自动化和工作流编排，Su

placeholder

澎湃新闻-10%公司

5个月前

49元本地部署？198元“永久会员”？三千“李鬼”网站寄生DeepSeek

placeholder
placeholder

yesterday

6个月前

我觉得本地部署开源大模型只是一个美好的愿望。 基本没有人的本地机器是跑得动满血版的，即便有这样的机器，很大的概率他也不会真的只放在家庭环境，有可能还是会跑到公司内部去。 而满血版也并没有神挡杀神，佛挡杀佛，也就是接近了第一梯队的顶尖模型而已，是接近。 而在本地，如果不跑满血版，拿他能干的事情其实就更少了。在量化了之后，推理模型也没有和以前的模型差出很多来。甚至有的时候还不如。 如果是公司，

placeholder

Mr Panda

6个月前

ollama + chatbox 几分钟就可以搞定deepseek 本地部署。