#Ollama

1周前

Ollama 做了一件让人意想不到的事儿，搞 AI 云服务了😭

#Ollama #AI云服务 #意想不到 #消极 #技术

歸藏(guizang.ai)

1周前

昨晚 Open AI 居然发布的是开源模型就是前几天泄露的 gpt-oss-120b 和 gpt-oss-20b Gpt-oss-120b 大致相当于 OpenAI o4-mini，20B 的相当于 o3-mini 120B 需要 80G 显存推理，20B 只需要 16G 显存设备。目前你知道的所有 LLM 周边生态都已经支持这两个模型，比如 ollama 这种

#OpenAI #开源模型 #gpt-oss #LLM #Ollama

陈少举（🦣 @[email protected] ）

1周前

Ollama有一个第三方提交的混元7b模型，到处说表现好，下回来玩玩看。🤔

#Ollama #混元7b模型 #第三方提交 #表现好 #玩玩看

3周前

有没有什么 python 库可以对接所有 llm 的 api？从 ollama 到 chatgpt 到 openrouter 到 claude，grok 之类的？自己写过点 chatgpt / ollama 的，但不够完善，升级和维护太累。

#Python库 #LLM API #Ollama #ChatGPT #Openrouter

2个月前

local-ai-packaged 是一个开源的本地 AI 开发环境模板，通过 Docker Compose 集成了多种主流工具，包括 n8n、Supabase、Ollama、Open WebUI、Flowise、Qdrant、Neo4j 和 SearXNG 等。用户可以通过该项目一键部署本地大型语言模型（LLM）、AI 代理和检索增强生成（RAG）等应用。n8n 负责自动化和工作流编排，Supabase 和 Qdrant 提供数据及向量数据库支持，Ollama 实现本地 LLM 推理。Neo4j 用于知识图谱场景，SearXNG 可以作为隐私友好的搜索引擎。 Open WebUI 和 Flowise 提供方便的可视化界面，用于与 LLM 和 AI 工作流交互，简化了应用开发和使用体验。所有组件均在本地部署，保障了数据隐私和自主控制，适合开发、测试和个性化扩展。详细内容和部署方法见项目仓库：

#开源 #AI开发 #Docker Compose #n8n #Supabase #Ollama #Open WebUI #Flowise #Qdrant #Neo4j #SearXNG #本地部署 #大型语言模型 #AI代理 #检索增强生成

2个月前

Cognito AI Search 一个安全且私密的方式来查找信息和获取答案智能搜索平台，将本地AI助手与网络搜索引擎相结合，确保您的数据完全保留在自己的硬件上。 Github 本地AI助手：通过Ollama集成LLaMA、Mistral等本地AI模型私密搜索：自托管SearXNG元搜索引擎，聚合70多搜索引擎

#CognitoAISearch #安全 #私密 #智能搜索 #本地AI助手 #网络搜索引擎 #Ollama #llama #Mistral #自托管 #SearXNG #元搜索引擎 #数据保护

2个月前

我。。。我通宵写代码到现在了。。。一抬头发现天亮了。。。难受😣 不过好消息是 avante.nvim 支持 ReAct prompting 了，现在 ollama 也可以无痛使用 agentic mode 了

#通宵 #代码 #天亮 #难受 #avante.nvim #ReAct prompting #Ollama #agentic mode

6个月前

ollama + chatbox 几分钟就可以搞定deepseek 本地部署。

#Ollama #Chatbox #DeepSeek #本地部署

6个月前

为啥没人来撸个.NET版本的Ollama啊，离谱

#.NET #Ollama #开发 #技术讨论