朋友解读了一篇Anthropic 今年三月研究AI内部推理机制的论文，太有意思了。 1. 之前以为AI遇到不会的问题就会产生幻觉，其实默认状态是“我不知道”，只有被某些信号误导，才会产生。 2. AI会长远规划，比如写诗不是碰押韵，会提前规划好结尾的韵脚。 3. AI做数学题时会同时用近似估算和精确计算两条路，最后综合给答案。 4. AI解释自己的推理过程，往往正确，但输出时会为了让人满意