小径残雪

小径残雪

0 关注者

9个月前

这几天在倒腾把Deepseek 7b模型装到本地的M1上,感觉token吐得有点慢,效果也比较差。今天看见清华的ktransformer,大幅提升推理速度,搞不好能直接单机运行DS满血版。等高手跑通以后搞一搞。

#DeepSeek #模型优化 #清华ktransformer #M1 #推理速度 #单机运行

相关新闻

placeholder

偶像派作手

2天前

AI大模型能做到这么自然生动的翻译了(基于DeepSeek)

placeholder

𝙩𝙮≃𝙛{𝕩}^A𝕀²·ℙarad𝕚g𝕞

2天前

OpenAI终于放了点有用的东西⬇️engineer context: when to trim, summarize, prevent drift, and defend against context poisoning

placeholder

Rocky

1周前

中国 #AI 模型Kimi K2 Thinking ,这次居然超越了GPT-5、Grok4、Claude 4.5!🥸🥸 再一次见证DeepSeek时刻!据说只用了460万美元,跑通了1T参数的 MoE 架构,这不是给我美股伤疤撒盐嘛?😭 话说中国 #AI 芯片,真的实现了自产自给?🤔感觉有点不可思议!

placeholder

陈少举 (🦣 @[email protected] )

1周前

#原神 从玉衡杯数据库将杜林的技能丢给DeepSeek和ChatGPT,DS建议优先考虑绝缘,而GPT则建议优先考虑魔女。 发现DS真的很喜欢推荐绝缘套。🤔 DS: GPT: 。

placeholder

Larry & Leo Bro - Eagle of Full Stack

1周前

昨天晚上优化了下 prompt,结果一宿一单都没开,纯纯给 deepseek 送了一晚上 apj 钱,这会儿正在让 ai 反思呢!

© 2025 news.news. All rights reserved. 0.0794 秒. v1.0.46
我的评论