4天前

已知的潜空间结构 研究发现1:语义聚类 •相似意思的词在潜空间中靠近 •例如:“king” - “man” + “woman” ≈ “queen” 研究发现2:任务子空间 •不同任务激活不同的子空间 •翻译任务 vs 问答任务 → 不同的几何区域 研究发现3:因果干预 •如果我们修改潜空间中的向量 •可以改变模型的输出(如改变情感) 这意味着: •潜空间不是随机的 •它有结构 •这个结构与模型