配置为 m1max 64g+1T ,最近搞了个小小龙虾,消耗的 token 太快了,打算部署各本地模型,一来了解了解,而来是想做下简单的翻译、文档处理的工作。能有合适的本地模型吗?
配置为 m1max 64g+1T ,最近搞了个小小龙虾,消耗的 token 太快了,打算部署各本地模型,一来了解了解,而来是想做下简单的翻译、文档处理的工作。能有合适的本地模型吗?
|
zenfsharpApr 30
1
Gemma4-31b-it-q8_0 ,记得开满 256Context 窗口,也用 Q8 质量压缩。
|
|
huaweiiApr 30 via Android
2
qwen3.6 系列,你 64gb 的选择挺多的。你去 hf 上把你的型号输入进去让他给你选个合适的压缩模型就行
|
|
xFryeApr 30
3
https://ollama.com/blog/mlx 看看这个合适不
|
|
sentinelKApr 30
4
mlx 的 qwen3.6-35B-A3B 试试看
|
|
rrubickApr 30 via iPhone
6
用 LM sutio ,它会根据你的内存大小标记合适的模型。注意由于模型需要常驻内存,不要卡着上限
|
|
ahdwApr 30
9
建议看看 oMLX 的社区评测,不要用 llama.cpp ,浪费苹果硬件
|
|
davidqwMay 2 via iPhone
11
gemma4
|