sentinelK's recent timeline updates sentinelK's recent timeline updates
我本将心向明月，奈何明月照沟渠。
May 30, 2023
 ONLINE |
sentinelKV2EX member #631792, joined on 2023-05-30 20:41:02 +08:00Today's activity rank 8264 |
kop1989的三转小号
| 你好 NVFP4： strata-0.1.44.1， qwen3.8-flash-next， rtx pro 5000 48GB + 64GB RAM， decode 130t/s， prefill2600 t/s Local LLM • sentinelK • 6 mins ago |
| strata 极致优化指南（参数篇）64GB RAM + RTX pro 5000 48GB， IQ3_XXS 量化， prefill 4500t/s， decode 180t/s 同时缓存 5 个 262k 会话不重新 prefill Local LLM • sentinelK • 2 days ago • Lastly replied by coefu | 13 |
| “马鞍税”，一篇非常有意思的 harness 横比文章 程序员 • sentinelK • Sep 18 • Lastly replied by greentim | 9 |
| 很好奇小米开放的这个实时训练监控器，其中成本（cost）的组成： https://mimo.xiaomi.com/rl/#overview 程序员 • sentinelK • Sep 17 • Lastly replied by lwep | 8 |
| deepseek-flash 的第三方跑分趣闻 DeepSeek • sentinelK • Sep 11 • Lastly replied by sentinelK | 3 |
| mac m5 ultra 上线中国官网。1.2T 显存带宽， 256GB 版本 8.6 万 Local LLM • sentinelK • Aug 28 • Lastly replied by sadan9 | 51 |
| RTX PRO 5000（或其他 48GB 显存）的 Qwen3.8-27B-FP8 配置交流（prefill 5000+t/s， decode 60+t/s）
1 Local LLM • sentinelK • Aug 26 • Lastly replied by tgfbeta
|
55 |
| OpenCode go 订阅开始区分模型提供额度， kimi-k3、deepseek-v4-pro 等只有 15$的额度，请各位注意用量。 程序员 • sentinelK • Jul 20 • Lastly replied by shuck | 49 |
sentinelK's recent replies
20h 30m ago Replied to a topic by scoutL › 程序员 › 塞班机时代也有很多不错的像素 rpg 网游，智能机时代为什么不延续这些 IP |
你在这扣哧几个月甚至一两年，做一个游戏，了不起了卖 48 。
人家隔壁随便搞个纸片人能换无数个 648 ，要你你怎么选。
人家隔壁随便搞个纸片人能换无数个 648 ，要你你怎么选。
20h 32m ago Replied to a topic by scoutL › 程序员 › 塞班机时代也有很多不错的像素 rpg 网游，智能机时代为什么不延续这些 IP |
现在的人的游戏节奏变了。手游在普遍朝着更懒、更低精力的角度演进。
目前的环境之下，好好做游戏 ≠ 能赚钱。
做第九艺术不如搞多巴胺过山车。
目前的环境之下，好好做游戏 ≠ 能赚钱。
做第九艺术不如搞多巴胺过山车。
23h 58m ago Replied to a topic by jinsongzhaocn › Local LLM › 本地大模型：统一内存(UMA)和显存+内存(分层卸载), 统一内存 UMA 才是普通用户的未来！ |
楼主这是怕手里的统一内存设备被 strata 冲烂，出来唱多吗 XDD
1 day ago Replied to a topic by kk0x03 › 程序员 › 重复操作的事情变成 skill 让 AI 去干，但是发现 AI Coding 本身已经开始变得重复劳动了 |
也就是说，对于 LLM 的泛用性来讲，瓶颈这几年其实没变，本质上就是上下文的合理获取。
只不过之前是直观、垂直领域的上下文如何获取，我们通过 ReAcT 配合模型后训练解决了。
那么横向领域的、非客观的、甚至主观故意曲解、隐藏的背景信息究竟该如何获取，是下一步的问题。
只不过之前是直观、垂直领域的上下文如何获取，我们通过 ReAcT 配合模型后训练解决了。
那么横向领域的、非客观的、甚至主观故意曲解、隐藏的背景信息究竟该如何获取，是下一步的问题。
1 day ago Replied to a topic by kk0x03 › 程序员 › 重复操作的事情变成 skill 让 AI 去干，但是发现 AI Coding 本身已经开始变得重复劳动了 |
现在限制全面 AI 化的掣肘，本质上就是人类组织结构中的很多非信息化的部分了。
因为目前的公司的组织结构是按照人类的能力和任务来设计的。这就导致很大一部分信息量其实是不信息化，不“上系统”的。
比如领导说，小王，你们组的产品线要抓紧，功能和工期要“衡量斟酌”一下。
这个“抓紧” 导致的 “衡量斟酌” 背后的实际含义，如果用上下文计，最起码 500K token 。得从领导喜好、内部政治、团队背景乃至公司历史盘古开天辟地开始讲。
然而这些目前大模型都无从而知，也就无法给你最好的建议。
因为目前的公司的组织结构是按照人类的能力和任务来设计的。这就导致很大一部分信息量其实是不信息化，不“上系统”的。
比如领导说，小王，你们组的产品线要抓紧，功能和工期要“衡量斟酌”一下。
这个“抓紧” 导致的 “衡量斟酌” 背后的实际含义，如果用上下文计，最起码 500K token 。得从领导喜好、内部政治、团队背景乃至公司历史盘古开天辟地开始讲。
然而这些目前大模型都无从而知，也就无法给你最好的建议。
1 day ago Replied to a topic by tab16360 › 推广 › uu 远程是真的很吃流量 |
UU 远程和 parsec 一样，是动态 fps ，会随着你 UI 的变化、当前焦点进程类型而变动 fps 帧率，从而节省流量。
2 days ago Replied to a topic by wsseo › 程序员 › AI 这么牛，为什么大厂的一些东西还这么多 bug，这么难用 |
1 、验收标准难以量化，harness 尤甚。
2 、目前的 harness 都太大而全，逻辑边界太长，没法穷举所有场景。
harness 这种场景最明显，基本逻辑简单(ReAcT)，但是实际实践就会发现，实在是太繁复了。几十个工具交杂在一起很难 debug 。再加上引擎是不确定性的，且还要支持 BYOK ，最终就是一团乱麻。
2 、目前的 harness 都太大而全，逻辑边界太长，没法穷举所有场景。
harness 这种场景最明显，基本逻辑简单(ReAcT)，但是实际实践就会发现，实在是太繁复了。几十个工具交杂在一起很难 debug 。再加上引擎是不确定性的，且还要支持 BYOK ，最终就是一团乱麻。
2 days ago Replied to a topic by blackantt › 程序员 › REA 来了，即便是 C/S 结构，难道不会根据 client 的界面去给它配 server 侧代码吗？ |
REA 是传统意义上的逆向。相当于是已编译程序的拆解乃至破解。是拆解内存地址逻辑的。
你说的逆向是 feature 层面的，属于逆向设计。
思路不同，逆向设计这种场景用的更多也是事实。
你说的逆向是 feature 层面的，属于逆向设计。
思路不同，逆向设计这种场景用的更多也是事实。
2 days ago Replied to a topic by illegals0001 › OpenAI › Pro 200 选的 GPT-6 Pro/Astra，实际时不时被降到 GPT-5.6 Luna， OpenAI 客服来回五轮，最后给我一封模板信 |
省流：
你进入了一个餐馆，餐馆需要预储值。
然后，你进去有没有座位，上了座位吃什么，能不能吃饱，什么时候吃饱，最终吃了多少钱，都跟你没关系，餐馆帮你决定。
你进入了一个餐馆，餐馆需要预储值。
然后，你进去有没有座位，上了座位吃什么，能不能吃饱，什么时候吃饱，最终吃了多少钱，都跟你没关系，餐馆帮你决定。
2 days ago Replied to a topic by YanSeven › 职场话题 › llm 时代，架构师和普通大头兵的在专业上的区别在哪 |
目前的使用 AI 的思路是 AI 靠统计学概率来推定一个局部最优的结果，然后去试图验证这个结果。验证成功>结束，验证失败>尝试另外一个局部最优解。
所以本质上，越难验证的职业，就越难被 AI 替代。
这个难验证有几个可能性。
1 、验证、试错的成本极大。
2 、没有一个合理的量化指标能够精准表达验证效果。
3 、没有一个已知的验证方法。或者因为一些主、客观原因导致无法验证。
架构师这个职位我个人理解属于 1 、2 之间。
一个技术选型、架构是否适用于当前产品，其实是一个非常复杂的问题。你很难靠一两句话就能说清楚。
但是一旦选型和架构与实际业务需求出现比较大的偏差，对于企业而言，代价又是不可承受的。
所以本质上，越难验证的职业，就越难被 AI 替代。
这个难验证有几个可能性。
1 、验证、试错的成本极大。
2 、没有一个合理的量化指标能够精准表达验证效果。
3 、没有一个已知的验证方法。或者因为一些主、客观原因导致无法验证。
架构师这个职位我个人理解属于 1 、2 之间。
一个技术选型、架构是否适用于当前产品，其实是一个非常复杂的问题。你很难靠一两句话就能说清楚。
但是一旦选型和架构与实际业务需求出现比较大的偏差，对于企业而言，代价又是不可承受的。
Select Language