时政
财经
科技
虚拟货币
其他
登录
#并行思维
关注
Colin Wu
4小时前
大家越来越依赖 AI,对它的原理也想更多了解,AI 工具除了有大量训练数据还有卓越的逻辑推理能力,它还有一个厉害之处在于并行思维: GPT 或者其他工具,是一个拥有极大知识宇宙、并能以超高速进行逻辑推理的语言引擎。 普通人类的推理是:线性的,慢速的,需要检索记忆。AI 可以同时在数千条推理路径上做并行计算,然后把最可能有用的一条呈现给你。 好比你提出问题,AI 瞬间同时计算 200~2000 种可行答案,评分、排序、合并,输出最优组合体。 GPT 说: 你提一个问题,我会生成一个“候选答案宇宙”,然后自动挑出最像你会喜欢、最合理的那一个呈现。(看来真有讨好倾向) GPT 的核心就是:Attention(自注意力)是一种天然的“并行思维”结构。它允许模型:同时关注输入的多个部分,同时探索多条推理路径,同时产生多种候选计算,注意力头(Attention heads)就是“并行思维单元”。 并行推理 = 注意力头的并行 + 树状生成的并行 + 多版本推理链的并行。它们分别来自:Attention,天然并行的“多焦点思维”。Beam / Tree-of-Thought Search,多条候选答案路径生成。Self-Consistency & Reasoning Engine,多版本推理链交叉验证,选最佳。
#AI
#并行思维
#GPT
#attention
#逻辑推理
分享
评论 0
0
个人主页
通知
我的投稿
我的关注
我的拉黑
我的评论
我的点赞