守晨💤

守晨💤

0 关注者

3个月前

才发现termux官方仓库已经上架了llama.cpp的vulkan后端,不需要编译可以直接用,顺手整理了篇在手机上用vulkan加速推理llm的教程参考

#termux #llama.cpp #vulkan #LLM #手机

相关新闻

placeholder

howie.serious

1个月前

gemini 最佳实践:if 深度思考,then 信息图总结。 每次和 gemini 聊完一个话题,如果是多轮的层层深入的对话,最后有所收获的话,那就多走一步:选择 nano 🍌, > 基于我们前面的对话,画一张信息图,整理核心观点 例如,刚才和 ai 聊 llm 强化学习对于父母的启发。语言是模糊的,思想是在多轮对话中逐渐清晰的,和 llm 多轮对话当然是有启发的,但多了信息图总结这一步,

placeholder

dontbesilent

1个月前

努比亚豆包手机,有人买吗 安卓 agent

placeholder

howie.serious

1个月前

chatgpt 以来,发展了三年的LLM,提供的早已不止是情绪价值。 我在2025跨年对谈时就明确认为,2025年,使用ai的关键,是向 ai “要价值”!要直接的、经济的价值! 2025年的发展,基本上验证了我的判断。 本周的ai专题直播,一起聊一聊这三年,这三年的ai学习、应用。欢迎预约直播,本周五直播间见。 预约方式: (不知不觉,发现 2025 年已经做了 20 场 ai 专题

placeholder

陈少举 (🦣 @[email protected] )

1个月前

感觉DeepSeek-OCR还是不稳定,不知道是3b模型太小了,还是Ollama有问题,或者Vulkan支持有问题。🤔

placeholder

江河老于

1个月前

30年前有人说,电视遥控器是比原子弹还厉害的毁灭性武器。现在我们必须说,手机是最大的毁灭性武器。 —— Hu Ping 胡平 2025.11.17

© 2025 news.news. All rights reserved. 0.08912 秒. v1.0.46
我的评论