大模型下的内容 - news.news

暂无通知

#大模型

orange.ai

1个月前

网传阿里洽谈收购零一万物的预训练团队。大模型公司不做预训练其实真的没什么。预训练的ROI这么低，钱花在哪里不好呢？

网传阿里洽谈收购零一万物的预训练团队。大模型公司不做预训练其实真的没什么。预训练的ROI这么低，钱花在哪里不好呢？

#阿里巴巴 #收购 #零一万物
Michael Anti

1个月前

我觉得不必讨论AGI什么时候到来以及什么是AGI。自从ChatGPT诞生后，就可以发现人脑和大模型之间的高度类比、甚至相似性。无论是把LLM当成一个刚毕业的实习生，还是把人类教学当成LLM知识蒸馏训练，实际上大家已经把人脑和AI放在一个层次上讨论了，有意义的问题是AI时代，人脑如何和AI结合，迅速进化。

我觉得不必讨论AGI什么时候到来以及什么是AGI。自从ChatGPT诞生后，就可以发现人脑和大模型之间的高度类比、甚至相似性。无论是把LLM当成一个刚毕业的实习生，还是把人类教学当成LLM知识蒸馏训练，实际上大家已经把人脑和AI放在一个层次上讨论了，有意义的问题是AI时代，人脑如何和AI结合，迅速进化。

#AGI #ChatGPT #人脑与AI结合
Michael Anti

1个月前

我觉得不必讨论AGI什么时候到来以及什么是AGI。自从ChatGPT诞生后，就可以发现人脑和大模型之间的高度类比、甚至相似性。无论是把LLM当成一个刚毕业的实习生，还是把人类教学当成LLM知识蒸馏训练，实际上大家意见把人脑和AI放在一个层次上讨论了，有意义的问题是AI时代，人脑如何和AI结合，迅速进化。

我觉得不必讨论AGI什么时候到来以及什么是AGI。自从ChatGPT诞生后，就可以发现人脑和大模型之间的高度类比、甚至相似性。无论是把LLM当成一个刚毕业的实习生，还是把人类教学当成LLM知识蒸馏训练，实际上大家意见把人脑和AI放在一个层次上讨论了，有意义的问题是AI时代，人脑如何和AI结合，迅速进化。

#AGI #ChatGPT #人脑与AI结合
Thinking Garden

1个月前

周末两天读完及实践完了《基于大模型的RAG应用开发与优化》，我可以给到4颗星（推荐）： 1. 比较系统全面的介绍了RAG完整流程（文档加载、分块、索引、存储、检索前、检索、检索后、评估、优化） 2. 本书以LlamaIndex 为核心进行讲解，配合官方文档阅读更佳（先看一遍官方文档，产生一堆问题，读此书，之后再度一遍官方文档） 3. 如果能提供完整的可复现的源代码比如jupyter 我觉着我会给到

周末两天读完及实践完了《基于大模型的RAG应用开发与优化》，我可以给到4颗星（推荐）： 1. 比较系统全面的介绍了RAG完整流程（文档加载、分块、索引、存储、检索前、检索、检索后、评估、优化） 2. 本书以LlamaIndex 为核心进行讲解，配合官方文档阅读更佳（先看一遍官方文档，产生一堆问题，读此书，之后再度一遍官方文档） 3. 如果能提供完整的可复现的源代码比如jupyter 我觉着我会给到4.5克星。 ----

#大模型 #RAG应用 #LlamaIndex
Gantrol

1个月前

Claude上个月的Clio论文，《Clio系统：洞察真实AI用途，同时保护用户隐私》，让我更确信“大模型厂商能批量发现需求”这点：图1. 前端、手机端开发最多，内容创作、研究、教育也很多图2. 多层分类，可以缓解隐私泄露问题图3. 可以按语言分析用户偏好，比如中文用户喜欢写悬疑、犯罪类小说

Claude上个月的Clio论文，《Clio系统：洞察真实AI用途，同时保护用户隐私》，让我更确信“大模型厂商能批量发现需求”这点：图1. 前端、手机端开发最多，内容创作、研究、教育也很多图2. 多层分类，可以缓解隐私泄露问题图3. 可以按语言分析用户偏好，比如中文用户喜欢写悬疑、犯罪类小说

#AI用途 #用户隐私 #大模型
𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1个月前

新的一年里，继续向内求，修炼自己的身心大模型.

新的一年里，继续向内求，修炼自己的身心大模型.

#新年 #个人成长 #身心修炼
白骏知识分享

1个月前

给大伙儿分享一款读书产品 ❶ 初次使用需要使用 Google 账号进行登录； ❷ 上传一本 epub 的电子书文件； ❸ 选择一个大模型开始读书。 📖 3MinTop 在阅读界面使用了左右分布的布局，左边是书籍原文，右侧是功能区域，可以根据当前章节进行总结、问答、导图等形式的整理概括

给大伙儿分享一款读书产品 ❶ 初次使用需要使用 Google 账号进行登录； ❷ 上传一本 epub 的电子书文件； ❸ 选择一个大模型开始读书。 📖 3MinTop 在阅读界面使用了左右分布的布局，左边是书籍原文，右侧是功能区域，可以根据当前章节进行总结、问答、导图等形式的整理概括

#读书产品 #Google登录 #epub文件
腾讯新闻-四木相对论

1个月前

2024年的大模型：潮水流转，范式更新

【编者按】以变革应对变局，以远见超越未见。四木相对论、大象新闻、大象财富联合腾讯新闻、腾讯财经、腾讯科技推出2024年终策划《变局之下》，回望2024、展望2025，让洞见穿越时间，向未来寻求确定....

#大模型 #2024年 #范式更新
WY

1个月前

说大模型不行的话要慎重。昨天去一个活动做分享，在我之前分享的是一位大学教授，总的基调是认为大模型能力不行，不能用于生产，要用在生产上必须针对每个场景做针对性微调。该教授举了几个例子来证明大模型不行，如：做高考数学不行；不会逆向思考，所以答不出上一句诗；要语料反复曝光才能学到知识，所以回答不了中国第九长河这样的问题。现场测试o1，只要是常见的诗，问上一句诗一点压力都没有，回答第九长河也有

说大模型不行的话要慎重。昨天去一个活动做分享，在我之前分享的是一位大学教授，总的基调是认为大模型能力不行，不能用于生产，要用在生产上必须针对每个场景做针对性微调。该教授举了几个例子来证明大模型不行，如：做高考数学不行；不会逆向思考，所以答不出上一句诗；要语料反复曝光才能学到知识，所以回答不了中国第九长河这样的问题。现场测试o1，只要是常见的诗，问上一句诗一点压力都没有，回答第九长河也有理有据，甚至还会考虑是算中国境内长度还是全流域长度，还会分析说松花江可以算作独立的，也有当作黑龙江一部分的，比搜索的效果我觉得好多了。 2024高考数学我查了下，o1-preview可以拿到141的高分。等到我上台，我说我是创业者，我主要是来给大家鼓劲的，要相信大模型的技术发展。我今天特别有信心，因为刚才教授说大模型不行的两个例子，我试了下都可以。千万不要随便diss大模型，因为很容易过时。

#大模型 #人工智能 #机器学习
宝玉

1个月前

网友分享：你好宝老师，我想投稿大模型的使用体验。我是理工科，国内土博，材料专业。使用强度不是很高，但是集中分析的时候会连续追问和讨论。关于推理模型，我想说说我的使用体验。我使用的较多的时gpt o1，O1mini，还有谷歌的新出的thinking。我想说o1目前还是当之无愧的第一，因为具有很庞大的知识库。我使用都是在分析化学的情况下，比如红外图谱和核磁图谱的分析。然后O1是说的最靠谱。我

网友分享：你好宝老师，我想投稿大模型的使用体验。我是理工科，国内土博，材料专业。使用强度不是很高，但是集中分析的时候会连续追问和讨论。关于推理模型，我想说说我的使用体验。我使用的较多的时gpt o1，O1mini，还有谷歌的新出的thinking。我想说o1目前还是当之无愧的第一，因为具有很庞大的知识库。我使用都是在分析化学的情况下，比如红外图谱和核磁图谱的分析。然后O1是说的最靠谱。我结合文献和O1聊我的推理，基本就能把图谱分析的七七八八差不多。但是o1mini不精通化学结构导致理解不了复杂化学结构，谷歌的thinking也一样对化学不够精通，比如今天核磁分析时就弄混了ppm高低和上下场的关系。而o1可以一直正确的分析推理。以我的认知我认为，知识库的丰富程度极大程度决定了好用与否。最近新出的推理模型，由于缺乏知识库，测试发现推理的化学结果大部分都不对。目前我只有用o1的时候很少发现错误。所以可能高成本的模型还是更有实际价值，而针对推理方面雕花的可能还是炫技更多一些。

#大模型 #GPT #O1
fin

2个月前

大模型Scaling law撞墙，基本从年初PHD们吐槽到了现在大佬们公开谈论作为半导体从业者，这集看了太多遍不能更熟悉了芯片行业scaling law统称摩尔定律，各路媒体在十五年前就开始悲观的展望摩尔定律消亡有一个反直觉，或者说主流媒体这几年并不报道的是，制程摩尔定律，竟然比二十年前更快了摩尔定律的本质，是很多个技术曲线的scaling law前赴后继的组成了一道一道S型技术曲

大模型Scaling law撞墙，基本从年初PHD们吐槽到了现在大佬们公开谈论作为半导体从业者，这集看了太多遍不能更熟悉了芯片行业scaling law统称摩尔定律，各路媒体在十五年前就开始悲观的展望摩尔定律消亡有一个反直觉，或者说主流媒体这几年并不报道的是，制程摩尔定律，竟然比二十年前更快了摩尔定律的本质，是很多个技术曲线的scaling law前赴后继的组成了一道一道S型技术曲线，累积叠加造成的幻象：芯片每单位面积能容纳的gate数量指数型增长实际上现在的所谓4nm/N3E制程节点早就成了数字游戏，电路gate的实际尺寸仍然是20nm，只不过gate密度是等效3nm 这就和AI目前的情况一样，LLM的pretraining阶段的大力出奇迹，只是目前阶段投入回报比极佳（最佳）scale up的路线每个技术曲线的scaling law都是有寿命的，不存在一招鲜吃遍天的情况 AI的LLM的pretraining的撞墙，在AI领域发展长河上，和芯片制程里的众多革命性S型技术曲线一样(比如double patterning，EUV)，是一项亮眼的，值得反复在教课书上称颂的里程碑式技术曲线正如摩尔定律早已经不是侠义的摩尔定律，而是广义的摩尔定律一样比如在计算机架构上，Domain specific architecture能玩的花样也越来越多，俨然成了新一道S曲线的快速增长期如果看前几年的hotchip论文集，很明显，摩尔定律不仅没有停滞，反而在加速，仿佛回到了十几二十年前架构的百家争鸣的新黄金时代看多了半导体的摩尔定律历史，再看LLM pretraining阶段scaling law撞墙，在更大尺度上的AI发展看起来，不会是什么阻碍 AI的发展，仍然会维持每十年软硬件加速六个数量级的指数发展作为背景板，会有各种广义的加速路线来维持这个指数型发展中间没有S型技术曲线的真空期，确实会延缓一些速度，比如2012~2017年的摩尔定律。但即便如此，前一代的技术红利商业化还能吃很久很久，即便是supervised learning，现在仍然是在已经很惊人的体量上保持着夸张的增速呢

#大模型 #Scaling law #PHD们吐槽
Leo Xiang

3个月前

最近深度使用 Napkin，这个工具很不错，大模型 + 图表方向潜力还非常大，如下图：几分钟就可以出一个。 Napkin 的实现思路有伙伴研究过的没？

最近深度使用 Napkin，这个工具很不错，大模型 + 图表方向潜力还非常大，如下图：几分钟就可以出一个。 Napkin 的实现思路有伙伴研究过的没？

#Napkin #大模型 #图表工具