最近的研究表明，通过有针对性的训练，递归可以更稳健地出现，但基线模型在相似深度周围遇到了障碍，支持饱和假设的观点。 Recent work shows recursion can emerge more robustly with targeted training, but baseline models hit walls around similar depths, supporting

#递归 #模型训练 #饱和假设 #深度学习 #基线模型

相关新闻

RamenPanda

2天前

CUDA + PyTorch仍然统治地位，TPU动摇不了

向阳乔木

5天前

Stable Diffusion背后的秘密：原来一直在去噪，不是在画图！ --- 你可能用过 Stable Diffusion。当输入"一只猫坐在沙发上"。然后，你看着进度条，一点一点往前走。 10%... 20%... 30%... 图像慢慢从模糊变清晰。一开始，全是噪点。然后，隐约能看到一些形状。再然后，能看到猫的轮廓。最后，一张清晰的图出现了。你有没有想过

花果山大圣

6天前

看这个论文之前，我只是不懂注意力到底是个什么概念研究了半天并且和 chatgpt 聊了几十轮后，现在不懂的东西有梯度下降，过拟合，决策树，SVM，深度神经网络，LSTM等相比起来 rust 简单多了🧐

Oasis Feng

1周前

想了解一个 LLM 的三观其实并不容易。就像面对一名成年人，当你用试探性的问题去询问时，对方大概都会比较谨慎地用政治正确的话语来掩盖真实三观。一旦进入非常放飞自我的创作中，人们终究会在不经意间暴露自己的内心想法，LLM 也不例外。一个比较经典的例子就是让 LLM 创作架空历史题材的内容。\

Yifeng Wang

1周前

发现居然没人提到 Gemini 3 Pro 的 API 里最大的彩蛋，就是这段 magic string…… context_engineering_is_the_way_to_go 现在很多应用厂商会蒸馏用户和上游模型的聊天记录来训练自己的垂类小模型，为此 OpenAI 之前已经加密了推理内容，Gemini 也做了类似处理。但这有一个 edge case /🧵