iintothewind

iintothewind

Go get some fries on the pier
V2EX member #207779, joined on 2016-12-27 08:00:43 +08:00
Today's activity rank 2315
Per iintothewind's settings, the topics list is hidden
Deals info, including closed deals, is not hidden
iintothewind's recent replies
希望 SenseNova 团队尽快提交 llama.cpp 的 PR 并入 master, 让 llama.cpp 官方支持加载 loop 9b.


- 上游 ggml-org/llama.cpp 的 master 分支(今天拉取)中,gguf-py/gguf/constants.py 和 src/llama-arch.cpp 的架构表里只有 sensenova_u1(那是另一个模型 SenseNova U1,来自已合并的 PR #28919),没有 sensenova_loop。
- 所以加载时必然走到 src/llama-model.cpp:419 的 throw std::runtime_error("unknown model architecture: '" + ... + "'")。你看到的“不能识别”应该就是这条消息(如果不是,请把原文发给我,需要另外排查)。
- 上游 issue ggml-org/llama.cpp#31571 目前仍是 open 状态,没有对应 PR 合入。也就是说,上游 master 至今不支持该架构。
5h 53m ago
Replied to a topic by Daniel6606 › 分享发现 › 来看看这个开源 9B 模型的审美吧
今早上看到 SenseNova 发布了量化版本, unsloth studio 运行说不能识别, 依赖的 llama.cpp 版本还没更新, 只能再等等了:

- 上游 ggml-org/llama.cpp 的 master 分支(今天拉取)中,gguf-py/gguf/constants.py 和 src/llama-arch.cpp 的架构表里只有 sensenova_u1(那是另一个模型 SenseNova U1,来自已合并的 PR #28919),没有 sensenova_loop。
- 所以加载时必然走到 src/llama-model.cpp:419 的 throw std::runtime_error("unknown model architecture: '" + ... + "'")。你看到的“不能识别”应该就是这条消息(如果不是,请把原文发给我,需要另外排查)。
- 上游 issue ggml-org/llama.cpp#31571 目前仍是 open 状态,没有对应 PR 合入。也就是说,上游 master 至今不支持该架构。
1 day ago
Replied to a topic by Daniel6606 › 分享发现 › 来看看这个开源 9B 模型的审美吧
正式版放出了?
这么快, 我认为这个模型非常有意思, 值得尝试.

其实企业 agent 落地, 9b 模型是很好的选择, 在我们这边 9b 是主力模型, 承担了大部分的场景任务. 每天好几亿的消耗量, 在线模型的 API 花销真的不小.
让 muse 接管你的邮箱, github, google, 其它社交账号, 它会非常勤劳的通过这些权限拉取数据, 进行分析.
然后它:
- 会给你跟踪各种进度
- 会发掘并总结你的社交关系画像
- 会每日复盘如何能更好的了解你
- 自动记录各种流水, 自动总结 skill

它会对你所有的隐私都敢兴趣, 这一切只需要你把权限给它就行了.
我准备选一个 rust 的 pi 底座来定制玩一玩,看着 rpi 不错,有时间我就试试。
你遇到骗局了吧?
这种应该当场拒绝, 而不是先请吃饭, 为什么要请吃饭? 我实在想不通.
9 days ago
Replied to a topic by iintothewind › Claude › Dario 主教和它的救世主逻辑
@fiveStarLaoliang 其实随着 DeepSeek 每一次发布, 把 Pareto frontier (斩杀线) 往前推, 被替代下来的闭源模型, 如果不开源就会被遗弃在人类历史中了.

我估计, 这也是做闭源模型的公司最恨 DeepSeek 的一点: 毕竟只领先一点点不能支撑那么高的估值, 而落后甚至打平, 那就解释不了为什么卖这么贵.
9 days ago
Replied to a topic by iintothewind › Claude › Dario 主教和它的救世主逻辑
@fiveStarLaoliang 嗯, 我就是看了这个视频, 了解到了更多 Dario 这个"救世主"的趣事, 哈哈哈.
这个视频做的真的挺不错的.
感谢 op 这个帖子,来中和一下论坛里面跪舔 Claude 的乌烟瘴气了.

我知道你发这个肯定会被他们喷, 我知道我这样写也有可能被他们喷,
我知道这个帖子, 大概率很快被某只"无形的大手"移动到不可见区域,

但是,

我支持你.
直到, 鞭子抽到了自己身上, 才知道被打原来有多疼, 不是一下,

是---:

一下,
一下,
一下,
.....
....
...
..
.
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   982 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 11ms · UTC 22:40 · PVG 06:40 · LAX 14:40 · JFK 17:40
♥ Do have faith in what you're doing.