#本地部署

Frank

4周前

local-ai-packaged 是一个开源的本地 AI 开发环境模板，通过 Docker Compose 集成了多种主流工具，包括 n8n、Supabase、Ollama、Open WebUI、Flowise、Qdrant、Neo4j 和 SearXNG 等。用户可以通过该项目一键部署本地大型语言模型（LLM）、AI 代理和检索增强生成（RAG）等应用。n8n 负责自动化和工作流编排，Supabase 和 Qdrant 提供数据及向量数据库支持，Ollama 实现本地 LLM 推理。Neo4j 用于知识图谱场景，SearXNG 可以作为隐私友好的搜索引擎。 Open WebUI 和 Flowise 提供方便的可视化界面，用于与 LLM 和 AI 工作流交互，简化了应用开发和使用体验。所有组件均在本地部署，保障了数据隐私和自主控制，适合开发、测试和个性化扩展。详细内容和部署方法见项目仓库：

#开源 #AI开发 #Docker Compose #n8n #Supabase #Ollama #Open WebUI #Flowise #Qdrant #Neo4j #SearXNG #本地部署 #大型语言模型 #AI代理 #检索增强生成

澎湃新闻-10%公司

3个月前

49元本地部署？198元“永久会员”？三千“李鬼”网站寄生DeepSeek

#本地部署 #永久会员 #DeepSeek #李鬼网站

yesterday

4个月前

我觉得本地部署开源大模型只是一个美好的愿望。基本没有人的本地机器是跑得动满血版的，即便有这样的机器，很大的概率他也不会真的只放在家庭环境，有可能还是会跑到公司内部去。而满血版也并没有神挡杀神，佛挡杀佛，也就是接近了第一梯队的顶尖模型而已，是接近。而在本地，如果不跑满血版，拿他能干的事情其实就更少了。在量化了之后，推理模型也没有和以前的模型差出很多来。甚至有的时候还不如。如果是公司，可能还有一个并发的需求……对大多数人来讲，本地的扩容方法在工程上可能还是靠堆机器，那些在推理过程中的工程优化方法并没有普及。你肯定可以说我有数据保密的需求，那没问题。预期不要太高，又不是不能跑。我自己还有本地模型每天孜孜不倦的帮我干活呢。我只是想说大多数人对本地部署模型的美好愿望，现在这个阶段可能真的只能满足那么一点点。

#本地部署 #开源大模型 #技术局限性

Mr Panda

4个月前

ollama + chatbox 几分钟就可以搞定deepseek 本地部署。

#Ollama #Chatbox #DeepSeek #本地部署

加密狗

4个月前

DeepSeek可以做很多事情，比如“和 Dexscreener 构建免费的 AI 加密交易机器人”，如果将DeepSeek部署在自己电脑里面，就可以训练自己的专属AI资料库。 ✅今天分享《仅需3步，在本地部署DeepSeek》。本教程保姆级，内容详细，步骤简单，适合初学者【建议收藏】。 🧵教程如下：

#DeepSeek #AI加密交易机器人 #本地部署 #教程 #初学者

dontbesilent

4个月前

“deepseek本地部署” 现在被用来疯狂割韭菜不讲武德

#DeepSeek #本地部署 #割韭菜 #不讲武德

AIGCLINK

6个月前

基于Vision LLM把PDF转为Markdown的一款工具：vision-parse 智能提取，精确识别文本、表格可以保留文档的层级结构、样式支持多页，支持本地部署 #PDF转Markdown

#PDF转Markdown #文件转换 #智能提取 #多页支持 #本地部署 #文本识别 #表格识别