相关新闻

placeholder

meng shao

1周前

[论文解读] LightMem: 轻量高效的记忆增强生成 —— 来自浙大的论文，针对 LLM 在动态交互中记忆不足的问题，提出一种高效的记忆系统，帮助 LLM 像人类一样处理历史信息，同时显著降低计算开销。 背景与问题 LLM 在单次任务中表现出色，但面对长上下文或多轮交互时，常因“中间丢失”问题而遗忘早期信息。传统记忆系统通过存储、检索和更新历史数据来缓解，但存在三大痛点： · 冗余信息：原始

placeholder

sitin

1个月前

EmbeddingGemma 旨在解决当前大多数嵌入模型依赖云端运行所带来的数据隐私、网络依赖和高资源占用问题。它是一个专为在本地和设备端（如手机、笔记本）高效运行而设计的开源嵌入模型。 核心特性 轻量高效：模型经过量化后，运行内存占用低于200MB，使其能够在移动设备和PC上顺畅地离线运行。 高性能：尽管体积小，但其在多项基准测试中的表现媲美甚至优于更大的同类模型。 可变输出维度：支持 Mat