LLM下的内容 - news.news

暂无通知

#LLM

wuw

2天前

1/16 每天都看到大量工程师分享他们用llm写代码的经历。一些人完全依赖它生成代码，另一些人把它当作高级搜索工具。这两种态度背后体现了完全不同的工程素养

1/16 每天都看到大量工程师分享他们用llm写代码的经历。一些人完全依赖它生成代码，另一些人把它当作高级搜索工具。这两种态度背后体现了完全不同的工程素养

#工程师 #LLM #生成代码
Ryan-the-hito

5天前

（速递一下日本电视台今天播报的对 ds 的评价）日本电视台：deepseek 回答错误率 83% - 虚假回答 30％，无回答 53% - 此成绩与其他 llm 相比位列最尾 - 在与中国毫无关系的问题里，十个问题有三个都用中国政府的口径回答。

（速递一下日本电视台今天播报的对 ds 的评价）日本电视台：deepseek 回答错误率 83% - 虚假回答 30％，无回答 53% - 此成绩与其他 llm 相比位列最尾 - 在与中国毫无关系的问题里，十个问题有三个都用中国政府的口径回答。

#DeepSeek #日本电视台 #人工智能
dontbesilent

6天前

《把 LLM 倒过来》大部分中国人没用过大模型，但是他们看过大模型写的东西因为 AIGC 矩阵号可以赚取平台广告分成你不用搜索引擎没关系，我们做今日头条/抖音给你看你不用 LLM 没关系，我们把 LLM 写的东西推到你面前你不用也得用，你不看也得看把 LLM 倒过来 - 把资本主义倒过来

《把 LLM 倒过来》大部分中国人没用过大模型，但是他们看过大模型写的东西因为 AIGC 矩阵号可以赚取平台广告分成你不用搜索引擎没关系，我们做今日头条/抖音给你看你不用 LLM 没关系，我们把 LLM 写的东西推到你面前你不用也得用，你不看也得看把 LLM 倒过来 - 把资本主义倒过来

#LLM #AIGC #资本主义
宝玉

1周前

一句简单的提示词就可以让 LLM 在翻译的时候更好的“意译” 以前为了让 LLM 达到更好的翻译效果，我尝试了很多方式，比如最初的先直译再意译，后来的直译、反思和意译。虽然效果好了，但是却复杂了。现在随着模型能力增强，不再追求复杂的提示词技巧，而是尝试返璞归真，找到更好更简单的提示词方法。我发现对于翻译的任务，有时候翻译的效果过于生硬，恰恰在于给模型的任务是“翻译”，因为是翻译，所以模型

一句简单的提示词就可以让 LLM 在翻译的时候更好的“意译” 以前为了让 LLM 达到更好的翻译效果，我尝试了很多方式，比如最初的先直译再意译，后来的直译、反思和意译。虽然效果好了，但是却复杂了。现在随着模型能力增强，不再追求复杂的提示词技巧，而是尝试返璞归真，找到更好更简单的提示词方法。我发现对于翻译的任务，有时候翻译的效果过于生硬，恰恰在于给模型的任务是“翻译”，因为是翻译，所以模型会尝试按照字面意思去翻译，尽量还原原始的格式，但也造成一些翻译过于直白和生硬。这就像我们在学英语的时候，老师让我们去把英文翻译成中文，通常就会按照英文的单词和句式去翻译，但是如果老师让我们用中文“重写”而不是翻译，那么就可以自由的多，只需要去理解原来英文的意思，用中文的方式去重新表达，反而效果好很多。所以我最近尝试了在做翻译任务的时候，让大语言模型去用“目标语言重写”而不是“翻译”，效果果然大不一样，结果不再拘泥于原有语言的格式语法，而是用更自然的方式表达出来。比如说昨天 OpenAI 星际之门的公告，最后一句话： “We want to connect with firms across the built data center infrastructure landscape, from power and land to construction to equipment, and everything in between.” 如果“翻译”，就是按照字面意思： “我们希望与整个数据中心基础设施领域的企业建立联系，从电力和土地到建设再到设备，以及这其中的所有环节。” 如果“用中文重写”，就自然的多： “我们希望与整个数据中心基础设施领域的企业建立联系，包括电力和土地、建筑施工、设备等各个方面的合作伙伴。” 至于提示词，则很简单： “请尊重原意，保持原有格式不变，用简体中文重写下面的内容：” or "Please respect the original meaning, maintain the original format, and rewrite the following content in Simplified Chinese:" 翻译其他语言也类似，只要把提示词中目标语言部分换掉即可。欢迎分享你用这个提示词成功或者失败的案例。

#LLM #翻译 #意译
宝玉

2周前

DailyDoseofDS 这个图把传统 RAG 和 Agentic RAG 之间的差异分的比较清楚。传统 RAG 就是先把文档向量化保存到向量数据库，然后在用户查询时，对用户的问题也做向量化，从向量数据库中找到相关的文档，再把问题和找出来的结果交给 LLM 去总结生成。这种方式的优点就是简单，由于不需要太多次和 LLM 之间的交互，成本也相对低，但缺点是经常会因为做相似检索时，找不到合

DailyDoseofDS 这个图把传统 RAG 和 Agentic RAG 之间的差异分的比较清楚。传统 RAG 就是先把文档向量化保存到向量数据库，然后在用户查询时，对用户的问题也做向量化，从向量数据库中找到相关的文档，再把问题和找出来的结果交给 LLM 去总结生成。这种方式的优点就是简单，由于不需要太多次和 LLM 之间的交互，成本也相对低，但缺点是经常会因为做相似检索时，找不到合适的结果，而导致生成结果不理想。 Agentic RAG 则是在过程中引入 AI 智能体： - 先对用户的查询内容用智能体进行重写，比如修正拼写错误等 - 智能体判断是不是还需要额外的信息，比如可以去搜索引擎搜索，或者调用工具获取必要的信息 - 当 LLM 生成内容后，在返回给用户之前，让智能体去检查答案是不是和问题相关，是不是能解决用户的问题，如果不行，则返回第一步，修改查询内容，继续迭代，直到找到相关的内容，或者判断该问题无法回答，告知用户结果。当然这样做的缺点是成本要相对高一些，并且耗时会更长。

#RAG #Agentic RAG #向量数据库
Mr Panda

3周前

有了LLM，我感觉让我的跨领域学习，入门学习的门槛大概就是那20刀/月。比如现在我对着LLM 教我学习深度学习模型。用3w1h 方法快速帮我科普、补充额外的知识，这要是以前，我光看教科书，搜集资料个把月的时间就过去了。的确这是一个令人兴奋的时代。

有了LLM，我感觉让我的跨领域学习，入门学习的门槛大概就是那20刀/月。比如现在我对着LLM 教我学习深度学习模型。用3w1h 方法快速帮我科普、补充额外的知识，这要是以前，我光看教科书，搜集资料个把月的时间就过去了。的确这是一个令人兴奋的时代。

#LLM #跨领域学习 #深度学习
𝘁𝗮𝗿𝗲𝘀𝗸𝘆

4周前

单方面宣布 Project DIGITS 是我今年最想拥有的产品 128G 统一内存 1000 TFLOPS 的 FP4 算力（5090 大概是 104.8 TFLOPS 的 FP16 算力能本地跑 200b 的 LLM（还可以两个 link 起来跑 405b 的强到没朋友的情况下还这么小巧好看（Mac mini 那么大女大遥遥领先到友商车连尾灯都看不见

单方面宣布 Project DIGITS 是我今年最想拥有的产品 128G 统一内存 1000 TFLOPS 的 FP4 算力（5090 大概是 104.8 TFLOPS 的 FP16 算力能本地跑 200b 的 LLM（还可以两个 link 起来跑 405b 的强到没朋友的情况下还这么小巧好看（Mac mini 那么大女大遥遥领先到友商车连尾灯都看不见

#Project DIGITS #统一内存 #FP4算力
源Genji

4周前

如果一个系统的工作流程是依靠人来编排的，那么它就是Workflow（工作流）。如果一个系统的工作流程没有办法事先编排，需要依靠LLM在工作中动态编排，那么它就是Agent。

如果一个系统的工作流程是依靠人来编排的，那么它就是Workflow（工作流）。如果一个系统的工作流程没有办法事先编排，需要依靠LLM在工作中动态编排，那么它就是Agent。

#系统 #工作流 #Workflow
anton

1个月前

honestly think 70B~ is like the perfect LLM size for running locally

honestly think 70B~ is like the perfect LLM size for running locally

#LLM #70B #local AI