#低维重叠

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

15小时前

人类的判断力如positive，powerful和active也会在LLM潜空间形成向量簇。有意思！embedding geometry reflects human associations 对这些token的干预会影响向量簇中的其它token表达。在小模型中比大模型敏感。底线是，许多语义是低维和重叠的，因此引导一个特征将可预见地转移附近的特征。 ---- Paper – arxiv. org/abs/2508.10003 Paper Title: "Semantic Structure in LLM Embeddings"

#LLM #语义结构 #Embedding #向量簇 #低维重叠