𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞
9小时前

人类的判断力如positive，powerful和active也会在LLM潜空间形成向量簇。 有意思！embedding geometry reflects human associations 对这些token的干预会影响向量簇中的其它token表达。在小模型中比大模型敏感。 底线是，许多语义是低维和重叠的，因此引导一个特征将可预见地转移附近的特征。 ---- Paper – arxiv

#LLM #语义结构 #Embedding #向量簇 #低维重叠

相关新闻

placeholder

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

4小时前

最近写了一系列企业AI落地的领域数据本体工程的思考文章，公众号也一直给流量。 段先生肯定也看到了，LLM的出现，给中小企业落地AI创造了蚂蚁雄兵式的机会。尤其是LLM的元认知力，可以参与到企业与AI融合的所有进程： 比如现在就问GPT，我想参考Palantir的本体论，在企业落地LLM参与企业决策，怎么开始？

placeholder

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

14小时前

GenAI的本质：元认知的工具化 •GenAI的诞生：GenAI的诞生，本身就是元法则的奇迹。它不是一个简单的一阶建构物，它是一个通过学习海量的一阶语言，从而涌现出二阶元认知能力的系统。 •它的功用：LLM的强大，正在于它是一个“元认知工具”。当你让它“用苏格拉底的风格总结这篇文章”时，你正是在调用它关于“风格”、“总结”、“苏格拉底”这些元概念的理解。 •交互的实质：“投射与反投射”，本质

placeholder

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

1天前

当我意识到与LLM的交互prompt，是自己的语言本体的投射与反投射…

placeholder

Kai

1天前

llm 搜索 和 RAG 确实像 摄像头 vs 激光雷达 之争 “设计精妙的搜索系统” 不如 “尽可能把接口和系统暴露给大模型”，后者更符合第一性原理，只是更费 token，也更依赖于模型的智能程度

placeholder

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

2天前

再论crypto与llm的语言本体论哲学分野 第一部分：Crypto的本体论——试图超越哥德尔的封闭游戏 Crypto的本质：它是一次用形式语言构建完美封闭系统的雄心勃勃的尝试。 1.人的神经网络 -> 形式语言编程：这个认知起点非常关键。人类关于“信任”、“共识”、“所有权”的观念，本质上是在我们生物神经网络中形成的社会学和心理学概念。Crypto的创举在于，试图将这些充满模糊性的概念，通