当前位置:当前位置: 首页 >
目前有什么可以本地部署的大模型推荐?
文章出处:网络 人气:发表时间:2025-06-22 05:40:10
这里推荐一个本地微调大模型的框架。
ZO2,一个仅用18G显存就能全参微调175B大模型的框架(当然也支持微调小一些的模型)。
更新:现在ZO2支持Qwen3啦,全参微调32B的版本只需要6GB显存。
Code: ***s://github***/liangyuwang/zo2 Paper: ***s://arxiv.org/abs/2503.12668。
同类文章排行
- 女明星穿瑜伽裤出门是什么体验?
- 独立站怎么阻止别人盗我的产品?
- 一个很穷的亲戚得了癌症,跟我借钱,借还是不借?
- 有哪些软件堪称神器,却很少人知道?
- PHP和Node.js哪个更爽?
- 面试中被嘲笑Token放在redis里,该如何应对这种情况呢?
- 现在个人开发ios还有机会吗?
- 什么是 5G 固定无线接入(FWA)?
- 怎么看待B站舞蹈区和某些风格比较暴露的up?
- 哪个瞬间让你觉得编程只是一门技术?
最新资讯文章
- Electron 做游戏客户端的潜力有多大?
- 女明星穿瑜伽裤出门是什么体验?
- 你最满意的10款 PC 软件是什么?
- 现在的AI编程什么水平,对于完全不懂编程的人来说,可以用AI设计开发出软件吗?
- 中了一个亿 你会做什么?
- 榴莲的产量明明很高,为什么还卖那么贵?
- 日本真的有些澡堂和温泉是不分男女的吗?有人去过不分男女的那种吗?
- 如何看待盲人UP主蒙眼炒鸡蛋在成都各大医院都买不到胰岛素,最后进抢救室?
- 为什么如今3.1Mbps的网速在2024年的体验那么差?
- 如果你可以从历史上抹去一种编程语言,你会选择哪个?
- 能不能发一张你相册里最好看的自拍照?
- 为什么苹果手机杀后台现象频繁?是内存不够、后台管理严格还是其他原因呢?
- 老板说我设计了一周的海报还是不行,我到底该怎么学啊?
- 阿里面试:为什么MySQL不建议使用delete删除数据?
- Jetpack Compose 和 Flutter 应该先学哪个呢?






关注公众微信号
移动端,扫扫更精彩