TwKit
正在载入
TwKit

把训练时间换成“预测器范数走了多远”来衡量,深度的作用就清楚了:它不普遍加速学习,而是在谱上困难的任务中改善训练时间的渐近缩放指数。 https://arx… · @vintcessun · TwKit

@vintcessun

把训练时间换成“预测器范数走了多远”来衡量,深度的作用就清楚了:它不普遍加速学习,而是在谱上困难的任务中改善训练时间的渐近缩放指数。 https://arxiv.org/abs/2610.35514 论文分析平方损失下深线性教师—学生模型的梯度流,用预测器范数重参数化时间,让不同任务共享同一谱缩放律;深度改变的是新旧时间尺度的关系。结论目前主要立足线性模型与总体梯度流。

曝光 20 · 评论 0 · 点赞 1 · 书签 0

查看原帖