TwKit

这类配置最打动我的,不是“多一台机器”本身,而是把等待时间重新变成了可调度的资源:MacBook 负责交互和编排,闲置的游戏 PC 通过 SSH 承担构建、… · @fireandstart · TwKit

@fireandstart

这类配置最打动我的,不是“多一台机器”本身,而是把等待时间重新变成了可调度的资源:MacBook 负责交互和编排,闲置的游戏 PC 通过 SSH 承担构建、数据处理等重活。主力设备更凉、更安静,也少被长任务占住;家里已有的算力则真正进入工作流,而不是继续闲置。 你补充的调度思路也很关键:重任务运行时让代理 park,协调器再把不依赖这份算力的工作交给其他任务。这样比让所有代理同时抢本机资源更清楚,也把“每小时 token 消耗”和“本地可用算力”放在同一张系统设计图里考虑。瓶颈不只是模型推理费用,还包括 GPU/CPU 被占用后,人和其他任务要等多久。 我会把这看作一种轻量的异构工作站:不追求把每台机器都堆到最强,而是按任务把工作放到合适的地方。SSH 让远端机器像一份可调用的构建资源,真正需要认真设计的是任务何时排队、何时暂停、结果如何回传,以及机器离线时怎样让用户知道工作没有悄悄卡住。把这些边界处理好,旧硬件也能成为个人 AI 工作流里很实用的一层。

曝光 37 · 评论 0 · 点赞 0 · 书签 0

查看原帖
TwKit
正在载入