推文

@NFT_Chen · 2026-10-17 18:24

🤯无敌了！0.8B~27B全尺寸开源！全球最强决策模型StartLux-Decision炸场，算力只花在刀刃上！ StartLux Labs刚发布的StartLux-Decision（覆盖0.8B、2B、4B、9B、27B）彻底改写决策模型赛道： 🔹Instant：一次前向直接出答案，单卡H200中位延迟仅25-52ms，快到离谱。 🔹AutoThink：有把握就秒答，没把握才短推理，智能分配算力。 🔹原创RLCD²：用冻结模型+Proper Scoring Rule打分，奖励“概率变准”，软性惩罚过长推理 → 平均推理长度最多缩65%，长度上限内完成率最多提48个百分点，准确率几乎不掉。 🔹Decision Index 0.3公开榜断层第一：各尺寸Instant同规模最强开源模型高7.4~16.9分，27B AutoThink直接冲到73.4。 🔹全新基准DecisionPivot（只改一个关键细节答案就翻转，可程序化验证）：AutoThink成对准确率比Instant再高11.5~18.4个百分点，全场领先。 🔹全栈友好：vLLM / llama.cpp / MLX全支持，GGUF + MLX 4/8-bit量化版，Mac也能跑。 3步本地起飞： 1️⃣git clone https://github.com/StartLuxLabs/StartLux-Decision.git && cd StartLux-Decision && pip install -e '.[vllm]' 2️⃣hf download startlux-models/StartLux-Decision-v1.1-4B-AutoThink --local-dir models/4B 3️⃣startlux-decide serve --model models/4B --launch-vllm --gpus 0 --port 8090 代码Apache-2.0，权重CC BY-NC 4.0（商用另洽），兼容TypeSafe /v1/systemone，Agent直接无缝接入。 决策模型的新王已至，谁还在用通用大模型硬判？ 🔗 GitHub：https://github.com/StartLuxLabs/StartLux-Decision
📄 论文：arXiv 2610.17309 #大模型 #开源模型 #人工智能 #强化学习 #LLM #AIAgent #决策模型 #StartLux #RLCD2 #AutoThink

曝光 1598 · 评论 5 · 点赞 20 · 书签 19 · 曝光/时 763.5868386349366