#新皮层

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

5小时前

Saining Xie让我们社区重新审视在LLM中的entangled，把目光投向人类新皮层的L2/3层的表征。

#SainingXie #LLM #人类大脑 #新皮层 #表征

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

14小时前

生物记忆系统至少有三个算法上不同的子系统：海马体（情节记忆）：单次写入，时间索引，情绪加权算法：可能更接近 sparse coding + temporal binding 不像梯度下降新皮层（语义记忆）：慢速整合，统计提取，泛化算法：更接近 Hebbian 可塑性的慢速累积某种程度上像梯度下降，但时间常数完全不同工作记忆（L2/3 + 前额叶）：主动维持，注意力选择，快速衰减算法：持续的 attractor 动力学根本不是梯度下降，而是动力系统的稳定轨道

#生物记忆 #海马体 #新皮层 #工作记忆 #情节记忆 #语义记忆 #记忆算法 #sparse coding #temporal binding #Hebbian 可塑性 #梯度下降