嗯哒嘿

嗯哒嘿

0 关注者

9小时前

新买了一台Mac mini M4Pro的丐版,24G的统一内存能跑哪些大模型? 先说大方向的结论,4B和7B的随便跑,无论是4bit还是8bit量化都可以。14B开始吃力只能跑4bit并且速度明显变慢。20B的勉强,24B以上悬,基本上跑不了。 速度结果如图,我对具体模型评价见评论↓

#Mac mini M4Pro #大模型 #4B/7B模型可流畅运行 #14B模型吃力 #20B模型勉强

相关新闻

placeholder

Olivert

4小时前

大模型五大经典论文PDF,送给喜欢钻研的兄弟。 链接:

placeholder

Olivert

6小时前

一小时了解大模型,从函数到Transformer!一路大白话彻底理解AI原理。 非常适合入门。有了总体框架之后再去学习具体的知识点。 点击链接,一键跳转微信免费领取大模型全套资料:

placeholder

yetone

14小时前

一个朋友把他 Vibe Coding 的作品给我帮他查问题,说是他实在迭代不动了,越迭代问题越多 我拉下他的代码沉吟片刻后瞬间就像大模型之神上身一样疯狂给他说明这些 bug 该怎么改,他说我也不会你来改吧,然后我就像复述着神的低语一样给他改着代码 所以程序员们也不需要害怕,你是未来唯一能听懂和传达神谕之人,是时候建立个 Vibe Coding 邪教了 —— 拜大模型会

placeholder

初码

22小时前

强烈要求全球立法,严惩大模型的降智行为,降智一次罚款10亿美金!妈的服务器一不够用,就随机偷懒分配到垃圾节点,这VIP是白冲了!

placeholder

盐粒 Yanli

1天前

本期 pycon 的另一个 talk 的文字稿 梳理了一下当前常见的大模型应用形态和交互模式

© 2025 news.news. All rights reserved. 0.17708 秒. v1.0.46
我的评论