字节前实习生攻击模型训练项目争议

最近字节的员工们，都快骂爆了。此前在字节恶意篡改代码，攻击内部项目的田柯宇，近期再次冲到热搜。 而原因是，这几天彭博报道，他创业后确认拿到了近 3000 万美元融资，其中不乏 IDG 这种国内知名机构。 但真正的导火索是，他在一场播客中，辩解自己是受欺凌的一方，他声称当时在字节跳动实习时，组里来了个新实习生，有管理员权限，会超额占用算力，还会直接停掉其他实习生的训练任务。 他向领导反映过，没解决。于是他自己动手，让 AI 帮他写了个小程序，大概 10 天里手动卡住了，对方项目运行的 5 次，以把算力额外释放出来，给别人用。 他说自己不缺算力，自己的任务也没被停过，纯粹是看不惯有人欺负人，并否认网上传言的投毒、嫁祸别人做法。 然而就在这场播客发出后，字节同事圈一下就炸了，不少当时在那个组里的字节员工，以及帮着排查问题的同事，纷纷现身说法。 他们指责田柯宇，其实是差点把字节好几个项目，直接给端了的人。而不是他描述的 10 天 5 次，而是从 2024 年 3 月就开始，持续好几个月，影响了多个项目（包括 LlamaGen 文生图，后来的 Goku 视频生成项目）。 北京、上海、西雅图的字节员工，轮流排查都查不出问题。 为了防止作恶被人们发现，田柯宇不只是手动停任务，还包括改共享目录里的模型权重、用 sudo 替换系统里的 PyTorch 文件，再把修改时间改回去、改随机种子等。 这样，事件被伪装成随机故障，就没有人能看出，这是他在作恶了。 同时他们还称，田柯宇在字节内部，就是造假惯犯。他负责的 VAR 项目用了上千张训练卡，但事后发现跑的其实是开源 PixArt 模型，不是他自己训练的模型。 为了防止别人，用同样提示词对比识破，还偷偷在提示词前面加了指令，他真正训练的模型效果差很多。 随着事件发酵，目前公开指责田柯宇的字节员工，正变得越来越多，而这场事件也成为了近期字节内部热议的话题，不少字节员工调侃，早知道也作恶，出去拿傻大头 VC 融资了。

曝光 213257 · 评论 69 · 点赞 451 · 书签 144

字节没有那么菜，他的同事们也不是傻子。 如果通过代码commit进去的，早就被发现了。 他这个大部分的破坏行为并不是通过commit的方式直接checkin的。而是直接登陆生产环境机器直接改本地代码的方式，或者利用pytorch 漏洞自己注入攻击代码方式来攻击的。是黑客行为。 这还有个CVE专门记录这个RCE 漏洞的。 CVE-2024-48063 是开源机器学习框架 PyTorch 的一个高危远程代码执行（RCE）漏洞，CVSS 评分为 9.8（最高等级危险）。 [1] 漏洞概述 •漏洞类型：反序列化远程代码执行 (RCE) / 缺乏鉴权机制 •成因：在 PyTorch 的分布式 RPC（远程过程调用）框架中，RemoteModule 在反序列化过程中没有对输入数据进行适当的验证或清理。攻击者可通过客户端将带有恶意方法的 RemoteModule 实例序列化并通过 RPC 发送到服务端，触发反序列化后可在服务端执行任意代码，可能干扰分布式训练集群。 •争议说明：部分意见认为，该行为属于 PyTorch 分布式计算的“预期设计”，但这在实际集群环境中带来了严重的未授权访问与代码执行隐患。 这小子利用这个漏洞，攻击了字节的训练集群。 所以，字节对他还行，没有起诉他破坏计算机系统罪。这个完全够的上，主观，恶意，破坏。

曝光 87120 · 评论 33 · 点赞 321 · 书签 96

字节跳动前实习生模型训练攻击事件，看了更多的细节内容后，觉得这人类似的行为可能不止在实习期间，求学期间或生活里类似的事情估计就没少干。有路径依赖了。

曝光 24714 · 评论 9 · 点赞 124 · 书签 14

還是那句話 ： 生产环境的代码 一个实习生可以随便checkin 随便deploy？？？ 字节也是草台班子作风啊！

曝光 20886 · 评论 1 · 点赞 5 · 书签 3