#模型唤醒与睡眠

1天前

ChatGPT Pulse 的工作机制非常像 AI IDE 公司 Letta 的Sleep-time Compute。四月份我做过相关论文分享。将用户的 query 作为分界线，模型在接收到 query 之后被视为“唤醒阶段” test-time compute，在此之前则为“睡眠阶段” sleep-time compute。 LM 的任务是：“思考这个 context，有哪些可能有用的信息？” 这些信息会被结构化为一种“状态”（state）保存下来。 ChatGPT Pulse 可能直接把用户query也生成了。小型公司的方法创新，似乎逐渐被大公司吸纳。

#ChatGPT Pulse #AI IDE Letta #Sleep-time Compute #模型唤醒与睡眠 #AI技术创新