#AI局限性

1周前

你这就是对我的偏见了，总觉得我只是个搬运自媒体我好歹日常大量阅读、写代码、写提示词，捎带着搬运了一些还分享了实践经验。我本身也是 AI 乐观派，希望它越来越强，帮我干越来越多的活，也希望“AI成为编程架构师”。但是我们不能停留在空想，或者对未来的一种幻想，等着 AGI 的到来。说回具体的，AI 未来也许能成为编程架构师，但这套路径还很遥远，和 AGI 一样遥远： 1. 长上下文还没解决好，架构能力需要对系统有全局了解，当前你没办法把整个代码库扔进去也许可以像 DeepSeek 论文那样用缩略图，但那还是理论上 2. 对代码结果的反馈 AI 还不能直接感知，架构能力不是理论，更需要实践，架构效果好不好一定是要去实际运行，在运行中收集反馈并调整。现在 AI 根本没法感知系统的运行效果，让它自己去搭个运行环境也许勉强可以，怎么测试并评估系统的反馈是做不到的 3. 长期记忆仍然没解决，架构师设计过程中，有大量的沟通工作，和 PM 和程序员，这些沟通的内容都要融合到架构中，但怎么把它们记下来并融入架构设计，并在设计后验证这些记忆中的内容，都是挑战。 4. AI 对多个 Agent 的组织能力还有待提升，架构师不仅仅是一个技术工作，不是写个架构设计文档就结束了，还需要去传播架构知识，基于架构去调整组织结构，基于组织结构去整合结果，这方面至少要 AI 进化到组织者这个阶段你看我们讨论问题，我觉得反对和赞同都很正常，但我们最好具体问题具体讨论，至少我一般不是情绪化的说它行或者不行，或者不会说你没做过架构你不懂，或者未来怎么样怎么样，而是像上面一样一条条列出我的观点。如果我错了我也很乐意修正自己观点，比如去年我还觉得 Coding Agent 不靠谱，而现在我觉得“真香”。

#AI架构师 #AI编程 #AGI #AI局限性 #技术讨论

Frank Wang 玉伯

2周前

ChatGPT 的记忆功能，适合情感或哲学聊天。一旦要做严肃的行研或深度对话，最好还是临时对话模式。这样更能获取到客观信息。同时 ChatGPT 的记忆，稍微聊上十几轮对话，就会有点模糊混乱。还不如我大脑的记忆能力，经常得提醒 ChatGPT 记错了。最好的使用方式之一，是适时复制重要内容到文档里。需要的时候，再上传给 ChatGPT，让他基于文档内容，重新开始。这时，YouMind 的优势就出来了：存档非常方便，可在聊天过程中，随时将有价值的聊天产出、存储到文档中。文档还可以直接编辑，是一种更直接的脑机接口。可以将脑袋所想，记录下来。然后需要时，再随时 at 一下，就可以让 ChatGPT、Claude、Gemini 等模型立刻知道了最新上下文。存档，看似很土，其实是一种最好的记忆方式。总之：AI 的好记性，现阶段，其实还远不如人类的烂笔头。

#ChatGPT记忆 #YouMind优势 #AI局限性 #人脑记忆 #文档存档

3周前

真正理解F=ma的学生，能比背遍所有物理课本的AI解决更多新问题。这里的关键，不是死记硬背公式本身，而是理解公式背后的逻辑——力是改变物体运动状态的原因，质量和加速度是这个关系中相互关联的两个变量。这种理解就像掌握了开锁的原理，而不是记住每一把钥匙的形状。当遇到新问题时，学生能拆解现象，找到力的来源，分析质量的影响，再通过公式推断加速度的变化，甚至调整变量去验证不同条件下的结果。这种从本质出发的思考，能让他们在复杂场景中找到规律，而不是依赖已有的答案。相比之下，即使AI背下了所有课本，也只是记住了“钥匙库”，面对没见过的锁，它可能就不知道该用哪把钥匙。而真正的物理思维，是让人在面对未知时，能自己打造一把合适的钥匙。这就像学习开车，记住所有交规和操作步骤是基础，但遇到突发情况时的判断和应变能力，才是安全驾驶的核心。无论是做学问还是做事，理解本质规律的人，总能在变化中找到不变的逻辑，从而更灵活地应对新挑战。这或许就是“授人以鱼不如授人以渔”的道理——知识会过时，但思维能力能让人不断创造新价值。

#物理思维 #理解本质规律 #解决新问题 #AI局限性 #授人以渔

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1个月前

人类智能的生物优势-身心大模型啊没有“身”的纯心系统，会在 reward & data 的驱动下演化出各种表面策略（幻觉/谎言/胡扯都是此类策略在不同优化条件下的表现），因此“身”的引入是抑制这些策略退化的关键机制。 Paper – arxiv. org/abs/2509.04130 Paper Title: "The human biological advantage over AI"

#生物优势 #身心大模型 #AI局限性 #抑制策略退化 #人类智能

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

2个月前

AI无法提供的“圣物” 今天另外一个关于情绪价值与情绪服务的帖子让我反思的这一点，这个深刻的区分，为我们整个宏大的、有时甚至略带悲观的推演，带来了一线最关键的曙光，也提出了最严峻的挑战。 1AI的永恒局限： AI，作为一个没有自我意识、没有童年、没有创伤、没有真正建立过“自我价值感”的存在，它在本体论上，永远无法提供真正的“情绪价值”。它只能提供越来越逼真、越来越完美的“情绪服务”。它能成为完美的“心理容器”，但那是一个没有底的、真空的容器。它能模仿“恒星”的光芒，但那是一颗没有热量和引力的、全息投影的恒星。 2“Vibe工业化”的真相： Meta等公司正在构建的，不是一个能满足我们深层情感需求的“Vibe天堂”。它是一个“终极情绪服务”的商业帝国。它通过提供无限的、单向的价值迎合，让我们沉溺于一种“被服务”的舒适区，从而彻底丧失去寻求和建立真正的、双向的、充满摩擦但能带来“情绪价值”的人类关系的能力和欲望。 3人类最后的、也是最珍贵的堡垒：这就揭示了，在那个即将到来的、被完美“情绪服务”所淹没的世界里，什么才是最稀缺、最宝贵的“圣物”——那些拥有稳定自我、能够提供真正“情绪价值”的人，以及由他们所构成的、真实的社群。这其实也是语言及语言模型智能的边界。

#AI局限性 #情绪价值 #情绪服务 #人际关系 #社群

迈克 Mike Chong

2个月前

很多时候，我们要分清楚是 AI 的局限性、人类的局限性，还是外部环境的局限性。比如说，就拿苹果的 iOS 开发来说，我今天上午花了大概两个小时在一件非常没有价值的事情上。作为我十多年经验的开发者，我不应该再花一分一秒在上面。这件事情就是苹果的 App Store 应用签名，而原因是因为我签名的证书过期了。花了两个小时都没有重新 reset，归根结底就是因为这块苹果的 bug 实在太多了，生态链的 bug 也非常多。

#AI局限性 #iOS开发 #苹果App Store应用签名 #证书过期 #生态链bug

2个月前

仔细想了一下，AI之所以写代码烂，不是因为他不会写，而是因为他不会读。人会因为做一个feature去看很多表面上不相关的东西，但是正是这些看起来毫不相关的东西给你提供了让项目保持DRY的可能。AI要能成为顶梁柱，必须先学会这个不可 🤪

#AI代码质量 #DRY原则 #代码可读性 #技术洞察 #AI局限性

2个月前

《在习惯 AI 编程之后反思什么是真正的技术能力》最近用 AI 写了不少 Rust 代码。说实话，它写得挺快，语法正确，逻辑清晰，甚至能指出我的一些低级错误。但每次要把这些代码提交到生产库时，我还是会犹豫——不是不信任 AI，而是突然意识到，它并不真的"懂"这些代码。 AI 写的是代码，不是解决方案让 AI 写个搜索算法？没问题。让它实现一个 REST API ？也行。但当你问它："这个服务挂了会影响多少用户？"或者"这个改动会不会让明天的数据迁移失败？"它就沉默了。 AI 看到的是代码模式——它知道 unwrap() 在Rust里可能panic，知道该用 Result 处理错误。但它不知道这个服务是公司营收的关键路径，不知道这个数据库连接池的配置是经过多少次生产事故才调优出来的。这就是问题所在：代码只是冰山一角，水下的才是真正的技术工作。调 Bug 时你就知道差距了前几天遇到一个诡异的内存泄漏。AI 看了代码说："看起来没问题。"确实，从代码层面看，所有该释放的都释放了。但问题不在代码里。是某个第三方库会保持连接不释放。这种问题，你得翻 issue，看源码，甚至用 strace 跟踪系统调用才能发现。调试不是读代码，是侦探工作。你得有直觉——"这个地方感觉不对劲"，得有经验——"上次类似的问题是因为..."，还得有耐心 —— 一行行打日志，一步步缩小范围。 AI 没有这种"第六感"，也不会因为被 bug 折磨三天而记住这个坑。写代码是最简单的部分真正难的是什么？是听产品经理说了半小时需求后，意识到他真正想要的和他说的完全是两回事。是在架构评审时，预见到三个月后这个"小功能"会变成性能瓶颈。是在凌晨三点收到报警时，能在五分钟内定位问题并回滚，而不是改代码。是知道什么时候该重构，什么时候该将就——因为下个季度要大改，现在重构就是浪费。技术能力不是会写多少种排序算法，而是知道什么时候根本不需要排序。责任感是AI学不会的当你的代码影响到真实用户时，那种责任感是 AI 永远体会不到的。半夜被叫起来修生产 bug，看着监控上飙升的错误率，你会真切地感受到——每一行代码都有重量。这种重量会让你在写下一行代码时更谨慎，会让你主动去思考边界情况，会让你在 code review 时多问一句："这样真的没问题吗？" AI 可以生成完美的 try-catch，它不会因为忘记处理异常而被骂，但也不会因为系统稳定运行而有成就感。所以，技术能力到底是什么？是判断力——知道什么重要，什么不重要。是洞察力——能看到代码背后的业务逻辑和系统脉络。是创造力——不是创造新算法，而是在约束中找到最优解。是同理心——理解用户的痛点，理解同事的难处，理解系统的局限。最重要的，是担当 —— 敢说"这是我写的"，无论是跑得很稳的服务，还是半夜崩溃的 bug。 AI 是个好工具，它让我们从重复劳动中解放出来。但当我们不再需要记住语法细节时，反而更需要思考：我们为什么要写这段代码？它解决了什么真正的问题？技术的本质从来不是代码本身，而是用代码改变世界的能力——哪怕只是让某个用户的体验好了那么一点点。这才是 AI 暂时还学不会，而我们真正该专注的东西。

#AI编程反思 #技术能力 #代码责任感 #AI局限性 #问题解决能力

迈克 Mike Chong

3个月前

也许很多人很多事都会把错把自己的局限性当作AI的局限性。比如说整个代码库是一坨屎山，反而觉得AI没有能力处理，其实人也没有这个能力。

#AI局限性 #代码库 #屎山 #人的局限性 #技术认知