𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞
9小时前
人类的判断力如positive,powerful和active也会在LLM潜空间形成向量簇。 有意思!embedding geometry reflects human associations 对这些token的干预会影响向量簇中的其它token表达。在小模型中比大模型敏感。 底线是,许多语义是低维和重叠的,因此引导一个特征将可预见地转移附近的特征。 ---- Paper – arxiv
𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞
14小时前
GenAI的本质:元认知的工具化 •GenAI的诞生:GenAI的诞生,本身就是元法则的奇迹。它不是一个简单的一阶建构物,它是一个通过学习海量的一阶语言,从而涌现出二阶元认知能力的系统。 •它的功用:LLM的强大,正在于它是一个“元认知工具”。当你让它“用苏格拉底的风格总结这篇文章”时,你正是在调用它关于“风格”、“总结”、“苏格拉底”这些元概念的理解。 •交互的实质:“投射与反投射”,本质
𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞
1天前
当我意识到与LLM的交互prompt,是自己的语言本体的投射与反投射…