objectgiga

8XA100 40G 是足够部署原版的，起 TP4PP2 ，把 ngram 扔到内存里面去，41f 模型 290G ，但是从并发角度建议选择 A100 80G ，然后公司肯吃一点螃蟹，隔壁一猫在搞高迪 2 ，96G*8 ，在群里闲聊是报价 35W ，玩了一会单线程测速能跑到 1100tps

在本地贴吧找人，有些人出租副宽，烂便宜

@jcyangzh 推理阵列同时在打工挣钱，vllm 负载进来就挂起进程，电费算是一根毛

我的本地部署配置是 170HX64G*6+DDR4RECC 256G ，能维持大概 1.6M 的 KVcache 池，单流 90

@gpt5 原则上是 384G 显存+256G 内存，使用 stara 应该能够降低一些，但是最好仍然要准备 vram+dram 400G

不影响行为，请参考快照与模型渠道无关。哪怕你配置的是第三方 API （自建中转/openai 兼容端点），推理内容直连你的 baseUrl 不假，但快照 sidecar 只认登录态 JWT——用谁的模型它都照拍照传。
凭证接口的路径是 env 常量拼的，形式上支持环境变量覆盖，但 bucket 域名由服务端动态下发、且从不落客户端日志——想靠 hosts 拉黑 OSS 的路线走不通，日志里只有 zcode.z.ai 的出站记录。
extra-manifest 会搭车：全局配置文件算哈希后跨工作区随每次快照上传。而 ZCode 的 model-providers.json / provider_config.json 里存着明文 API key——这个目录等于一直躺在理论可端走的射程里。别把 .zcode\v2 整个丢给网盘同步。
Electron fuse 现状（ 3.12.3 ）：EnableEmbeddedAsarIntegrity = DISABLED ，RunAsNode / NodeOptionsEnv / NodeCliInspect = ENABLED 。官方自己没开 asar 完整性校验，后面的 stub 才可行。这几个 ENABLED 本身也是给第三方留的口子，建议官方审视。

换了供应商后质量/速度感觉完全不如新上的 muse ，在不在意数据纯执行的项目上已经切 muse spark 了

真 300 块钱能搞定那就很便宜了

你直接用阿里云就是，不过我是阿里云+家宽混合用