SmiteChow

SmiteChow

未来不设限才能不破防
🏢  缔
V2EX member #96238, joined on 2015-02-07 16:43:37 +08:00
Today's activity rank 6714
SmiteChow's recent replies
1h 11m ago
Replied to a topic by Vh5g6zZU › 分享发现 › 最近把阿里的恩情还完了
让我想起了当初薅羊毛百炼平台模型,没有开那个模型 token 用尽停止功能,倒欠几块钱的事。
老老实实上班
Sep 24
Replied to a topic by catamaran › 程序员 › 酷壳无法访问了
坟头草都很高了,别消费人家了。
看社交风格,我们家没有送礼的习惯,我老婆家有。
路边 9 元理发
Sep 17
Replied to a topic by lame_chen › 职场话题 › 卷王都是什么心态呢
不能用心态去衡量卷王们,是信仰不同,他们无疑是背叛了工人阶级的,心甘情愿当资本家的走狗。

做人还是要有信仰。
@crocoBaby litellm 作为网关主要功能就是保证可用性(轮询策略,fallback 策略,主动 rp/tp 管理)的,我一般是发现 agent 长时间卡在重试就去网关检测各个模型的健康,然后用脚本批量把 rate limite 的模型删了,一天用下来删到最后就是 workbuddy 打底了😀

免费就是需要多费点功夫,没办法。通过合理的抽象,这点功夫并没给我带来额外的困扰。
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   5675 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 45ms · UTC 03:41 · PVG 11:41 · LAX 20:41 · JFK 23:41
♥ Do have faith in what you're doing.