通过这段时间学 LLM，越学越有一个感受： 大模型厂商之间真正的差距 主要在训练，不在推理 推理这块，各家工程实现有差异， 但差距相对没那么大 显存带宽这类… · @antiAIvo · TwKit

@antiAIvo

通过这段时间学 LLM，越学越有一个感受： 大模型厂商之间真正的差距 主要在训练，不在推理 推理这块，各家工程实现有差异， 但差距相对没那么大 显存带宽这类物理边界很清晰 开源框架已经把 KV Cache、算子融合、调度 这些通用优化做得很成熟 闭源厂商在这上面拉开的空间有限 难复制的是训练： 数据怎么洗、怎么配比、怎么合成、后训练怎么对齐等等 这些没有开源标准答案，这些AI大厂也不会公开配方

曝光 1161 · 评论 4 · 点赞 20 · 书签 6