算力问题不解决，AI股票根本不可能大规模回撤。 算力问题如何解决？除了创新没有别的方法。 可能的拐点有几个，但谁能预测？ “一、 拐点一：从“暴力堆参数”转… · @jjamesw1 · TwKit

@jjamesw1

算力问题不解决，AI股票根本不可能大规模回撤。 算力问题如何解决？除了创新没有别的方法。 可能的拐点有几个，但谁能预测？ “一、 拐点一：从“暴力堆参数”转向“架构大换代”（算法突破） 现在的 Transformer 架构非常依赖硬件死磕。未来如果出现一种全新的算法架构，能像人类大脑一样工作，算力需求就会呈指数级下降。 现在的痛点： 现有的注意力机制（Attention）非常笨。你每多输入一个字，算力消耗不是线性增加，而是成二次方暴涨。 未来的解法： 科学家们正在研发新型架构（如 Mamba、新一代线性注意力机制或稀疏激活架构 MoE）。未来的终极目标是非对称计算——让 AI 学会“选择性思考”，处理简单问题只动用 1% 的参数，遇到难题才激活 100% 的参数。这能直接砍掉 90% 以上的无效推理算力。 二、 拐点二：从“云端军备竞赛”转向“端侧应用落地”（商业去泡沫） 当大模型的基本能力（如逻辑推理、语言理解）达到一个阶段性的“天花板”后，行业会从拼谁的模型大转向拼谁的应用好用。 巨头的减速： 目前微软、谷歌、Meta、OpenAI 等巨头之所以疯狂买显卡，是因为大家都想抢先做出第一个“万亿参数”的超级 AI（AGI）。一旦这个阶段的竞争格局定型，或者技术遭遇物理瓶颈（比如人类数据被喂光了），疯狂买显卡的“军备竞赛”就会慢下来。 模型蒸馏与量化： 行业会大量开展“模型瘦身”。通过技术手段（蒸馏、量化、剪枝），把一个原本需要 8 张顶级显卡才能运行的千亿大模型，压缩成只有十分之一大小、但性能几乎不降的小模型。这种小模型可以直接塞进你的手机、电脑、扫地机器人（端侧 AI），不再依赖云端昂贵的数据中心。 三、 拐点三：从“通用芯片”转向“微纳晶体管与新材料”（硬件跨代） 现在大家觉得算力不够，是因为我们还在用传统的硅基半导体和传统的计算架构（冯·诺依曼架构），它的能源转换效率太低了。 硅基的极限： 现在的 GPU 绝大部分能量都变成了热量散发掉了（这就是为什么数据中心需要巨额的电费去散热）。 未来的硬件： 随着类脑芯片（Neuromorphic Computing）、光子芯片（Optical Computing）或三维堆叠技术的成熟，未来的芯片在处理 AI 任务时的能效比可能会提升上万倍。用几瓦的功耗，就能完成现在几千瓦服务器的工作。 四、 拐点四：行业达成“经济性平衡”（市场无形的手） 任何技术发展最终都要算经济账。现在的 AI 行业处于极其不健康的“高投入、低产出”阶段。 算力成本的倒逼： 当企业发现租用算力的成本已经远远超过了 AI 能带来的商业利润时，市场自然会“降温”。 倒逼技术升级： 这种高昂的成本会逼着工程师放弃“暴力堆算力”的懒惰想法，转而去钻研“如何在极低算力下把事情办好”。这时候，类似 Few-shot Learning、主动学习（Active Learning）等高效利用资源的算法才会真正成为市场绝对的主流。”

曝光 77 · 评论 0 · 点赞 1 · 书签 0