#模型认知

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

4天前

已知的潜空间结构研究发现1：语义聚类 •相似意思的词在潜空间中靠近 •例如：“king” - “man” + “woman” ≈ “queen” 研究发现2：任务子空间 •不同任务激活不同的子空间 •翻译任务 vs 问答任务 → 不同的几何区域研究发现3：因果干预 •如果我们修改潜空间中的向量 •可以改变模型的输出（如改变情感）这意味着： •潜空间不是随机的 •它有结构 •这个结构与模型的”认知”相关

#潜空间结构 #语义聚类 #任务子空间 #因果干预 #模型认知