7.72 TB 的“Anthropic 泄露大模型”，底裤被人用几行代码扒掉了。 前两天 Hugging Face 上突然冒出一个叫 numbat 的仓库，… · @tvytlx · TwKit

@tvytlx

7.72 TB 的“Anthropic 泄露大模型”，底裤被人用几行代码扒掉了。 前两天 Hugging Face 上突然冒出一个叫 numbat 的仓库，号称是 Anthropic 内部下一代 Mythos 级别的半成品权重。 772 个分片，足足 7.72 TB，对外吹是 14 万亿参数，很快攒了五千多次下载。 很多人在猜哪家大厂又出内鬼了，结果有个搞模型安全的研究员哥们，直接给这玩意做了一次“法医尸检”。 最绝的是，这哥们连一张显卡都没用，也没去下那 7.72 TB 的文件。 他就拿了一台 22G 内存的纯 CPU 机器，利用 safetensors 格式的特性，靠 HTTP 分段请求只拉取文件头和特定字节片段，顺手把模型给逆向了。 鉴定结果挺黑色幽默的： 这几万亿参数压根没进过炼丹炉，全是用 Python 随机数生成器算出来的假货。 造假的人甚至懒得藏种子。 直接把每一层张量的名字拿去算个 SHA-256 哈希，取前 8 个字节当种子，塞进 NumPy 的 PCG64 生成器里跑正态分布，算出来的结果直接当权重。 这哥们写了个脚本对账： 633 个张量里的 1137 万个数值，跟这套公式算出来的结果，100% 逐比特吻合，分毫不差。 12 个专家矩阵里 3.73 亿个权重的正负号，也 100% 命中同一套随机序列。 甚至连 NVFP4 量化后的 1.73 亿个权重编码，每个张量只需配一个浮点数缩放因子，就能复刻出 99.51%。 那为什么一开始能唬住人？ 因为造假的老哥挺贼，全模型 114 层里，唯独最开头的词向量表（Embedding）是真的。 里头确实有“巴黎-法国”、“猫-狗”这种真实训练出来的语义结构，大概率是从别的真模型里抠出来缝上去的。 至于最后的预测头（lm_head），明明配置文件里写着权重独立，实际上就是拿词向量表直接乘了个 0.8913 糊弄事。 连 README 里吹的 14 万亿参数，跟它自己索引文件里记的 6.85 万亿都对不上。 我觉得这事最精彩的地方，在于这哥们展示的“空手验货”思路。 以前大家默认面对几 TB 的巨无霸模型，没个几十张 H100 连打开验真假的门票都没有，庞大的体积本身就成了最好的掩护。 但其实真训练出来的权重矩阵有明显的低秩方向，跟高斯白噪声在奇异值分布上差了十万八千里。 只要懂底层文件结构和统计分布，花几分钟抽样几百兆数据，就能把几个 T 的障眼法看穿。 当然，这事也有它的边界： 数学只能铁证如山地证明权重是程序生成的，但没法证明是谁传的。 至于是有人单纯搞恶作剧骗关注，还是某家安全团队故意摆的蜜罐，用来钓那些急着白嫖商业机密的爬虫和内鬼，这就没法靠算哈希算出来了。 就是有点心疼那五千多个吭哧吭哧下了 7.72 TB 的兄弟，阵列硬盘白白折寿。 要不我今晚也写个三行代码的循环，搓个 50 TB 的随机数传上去，名字就叫 GPT-6，专门帮各大实验室做机房带宽压力测试算了。 https://www.reddit.com/r/ClaudeAI/comments/1xls4cj/the_772tb_alleged_anthropic_ai_model_is_fake_i/

曝光 254 · 评论 2 · 点赞 0 · 书签 0