扩散模型推理时的引导,能不能挪到训练阶段去做? 推理时加引导,出图更好,但采样成本又涨一截。SWIFT 的回答是可以。训练时拿一个冻结的弱去噪器当参照,每个… · @iluciddreaming · TwKit
@iluciddreaming
扩散模型推理时的引导,能不能挪到训练阶段去做? 推理时加引导,出图更好,但采样成本又涨一截。SWIFT 的回答是可以。训练时拿一个冻结的弱去噪器当参照,每个带噪输入的干净回归目标,都往"远离弱模型预测"的方向外推,还没学到位的成分就被放大了。 弱模型直接用主模型早期的 checkpoint 就行。主模型训练时它不做反向传播,训完就扔。推理阶段只剩主模型,不加任何开销。
曝光 63 · 评论 2 · 点赞 0 · 书签 0
查看原帖