𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

统计数据

1161
文章
0
粉丝
0
获赞
17481
阅读
avatar
符号生成符号，然后model collapse
avatar
Max Bennet，智能简史的作者，在MLST的访谈中，提到的Tristan关于灵长类新皮质层layer4的解释和他自己的speculation，非常有启发。layer4接收从丘脑转发的感官信息，然后自己通过符号建模做行为预测，而哺乳动物从结构上也有layer4，但后来萎缩了。 让我接着speculate： 这也解释了具身与符号的强耦合，我们天生具备符号接地能力的，但显然我们的环境越来越被数字化后，我们的建模和行为预测也受到很大影响，未来如何真不好说，而且现在LLM又来了，会直接影响到我们的认知能力。 let’s about granular versus agranular because I think the best theory I’ve seen is Tristan’s theory on this. So what does layer 4 do in neocortex? Across the entire neocortex, layer 4 is where sensory input is received. The primary sensory input is received into the neocortical column. This comes from the thalamus so the canonical model is sensory input from sensors, eyes, ears, skin flows up through the brainstem to the thalamus and then from the thalamus propagates to layer 4 and then from layer 4 it goes within a variety of other layers of neocortex. And then other layers of neo- cortex project back to the thalamus and the rest of the brain. So why would it be the case that regions of neocortex would not have a layer 4? Well, if you actually watch an animal’s development, what’s interesting is mammals with an agranular prefrontal cortex is not always agranular. It actually starts having a layer 4 and the layer 4 atrophies over development. And so I think this is very, mirrors well for instance, of active inference where what’s happening is the neocortical column can kind of be in 2 phases. It can either be trying to match its model of the world to its sensory input. In other words, I see sensory input and I’m trying to infer what’s there and I’m gonna construct the idea of a triangle. But there’s another state of a neocortical column which is generation which is I’m gonna start the latent representation of a triangle and I’m gonna imagine and explore it. And so 1 idea is that what frontal cortex does is primarily try and fit the world to its model. In other words, it spends the vast majority of its time constructing intents and not trying to modify that intents to fit what it observes, but in fact try to change what an animal does to satify its intent. So layer 4 atrophies doesn’t actually go all the way away. If you go deep into a brain you see some basic layer 4 so it’s not completely gone but it atrophies because frontal cortex spends very little time trying to change what it perceives its intent to be to map what the animal’s doing, but in fact what it does is tries to change what an animal does to map it match to its intent. And what I think is so interesting and brilliant about this idea is it explains exactly why layer 4 doesn’t start not existing. Because at first an animal needs to build a model of itself, thus layer 4 is present, but over time it shifts towards once I have a model of what I want and who I am and the things I would do, I don’t need to spend as much time changing my model of self. I’m gonna spend most of my time trying to change my behavior. So this is a very speculative idea but it makes a lot of sense in the context of active inference and it’s the best to personally and all of my reading of, explanations of why, agranularity exists, the best explanation I’ve seen.
avatar
KIMI 杨植麟 做一个有Taste的agentic LLM 做模型的过程，本质上是在创造一种世界观，它体现了我们对于“一个好的AI应该是什么样、应该追求何种价值观”的理解，这正如乔布斯所言：“all comes down to taste”。 我们坚信这一点，因为智能与电力、货币等同质化（fungible）事物不同，它本质上是“非同质化”（non-fungible）的。每个模型产生的token都是独一无二的，就像一位CEO、一位设计师或一位音乐家产生的智能是完全不同的一样。 在智能这个维度，存在着广阔的“品味”空间。在Agent的世界里，由于test-time scaling的存在，这种差异性会被指数级放大，催生出更多新颖的用例。这正是我们未来的一个重要目标。
avatar
你的行动揭示了你真正的目标（Revealed Preferences） 阿德勒：“只相信行动。生命发生在事件层面，而非言辞层面” 所以要坚持输出，书写已经是build，点赞也是，所以短视频的算法投喂，是视觉注意力的浪费、空转和被流量塑形成变现的浏览量。
avatar
不像某些推友奉naval的语录为圭臬，我认为那些语录鸡汤味还是太浓！😆 Dan这个爆款我一开始也以为是鸡汤，点开一看原来是我们中国人说的： 吾当一日三省吾身！ 不过Dan给出了三省的具体self questioning！范友自己阅读做笔记吧！看看要想改变自己需要多少个三省日子？！
avatar
植物也能动？ 有史以来第一次看到植物在呼吸⬇️
avatar
所有流量的生意最后都是割韭菜
avatar
大A股一涨，推上股神又多起来了
avatar
有意思，也就是说deepseek往往能比bytedance的seed lab更快一步技术上突破？ 从mHC到Engram，都是比seed更快投入模型改进中，好奇seed会不会再一次跟进ds改进豆包
avatar
语言已经是最强大的世界模型了——它用符号压缩了人类对因果、物理、社会的所有理解。
avatar
最近看的推友们对于skills，skills的skills，skills的自我演化等讨论很是火热，这其实已经属于认知层甚至元认知层面的事了。有了这些数据，anthropic家的模型智能还会再上一层。 就像姚顺雨在AI-Next圆桌讨论上说的另外一段话：Anthropic这个公司很有意思，它不做什么花哨的创新，就是把预训练做大，把RL做好，然后去解决真实世界的任务，模型就会越来越聪明，带来更多价值。做To B，其实所有目标是更一致的：模型智能越高，解决任务越多，带来的收入越大。 回到"元认知"这个概念本身： ├─ 你在思考（认知） ├─ 你意识到"我在思考"（元认知） └─ 你意识到"我可以改进我的思考方式"（元元认知） 大多数人停在第一层 Power User到了第二层 极少数人到第三层
avatar
靠靠，美国联邦ICE城管成了人人喊打的过街耗子🐭？
avatar
语言首先是speech-言语，书写、文字、形式语言包括计算机编程语言的衍生那是后面的事，最近大致摸清楚了，speech-social到act到cognition，基本上是人类具身个体的语言器官映射（感官/躯干四肢/大脑）。对应的这波LLM则是chatbot、agent和认知共生体speech-symbiosis。 而围绕LLM的创业，早期是chatbot套壳（conversational llm），然后是基于CoT的ReAct的通用数字空间的agent（agentic llm），都是LLM交互脚手架，接下来是什么？
avatar
唉，简直了！尧舜禹去腾讯不会要去做speech-social的LLM交互去了吧！ 之前AK在采访中就提到，腾讯有着这个世界上最多的人类交互数据。
avatar
一旦生活安稳了，连鱼也喜欢游戏
avatar
靠，美国的ICE，大陆的城管啊
avatar
ai时代的新消费主义：token空转
avatar
其实我不反感ai味，但确实受不了千篇一律的ai味！ 活人感说真的，大部分也是很丑陋的。
avatar
我也是见过LLM市面的人了 任凭你们prompt也好、skills也罢，都是脚手架，都是交互而已…
avatar
奇奇怪怪的数字空间演化理论又多了一些： 我们的数字空间自互联网以来逐步社会化， 首先是社交平台：speech-social，由纸质线下转为线上，最先迁移的人收获了第一批数字化空间的流量红利； 而与平台的交互延伸到企业数字化空间：speech-act，主要有码农程序员们作为代理用程序语言来构建的，这一代人都活得很好； 现在我们有了LLM作为数字空间的原生代理了，会怎样？ speech-cognition？
avatar
这才是2026年一开始的体感😆
avatar
因为视觉，才有了符号，表征和神经网络中的重建与预测啊 听觉呢？触觉？味觉？似乎都无法脱离此时此地此在。
avatar
大的真的要来了吗？ DeepSeekv4
avatar
语言外化也就是语言的数字化（Bennet）
avatar
程序员的"印刷术时刻"（乐观）