字节前实习生田柯宇回应模型训练破坏争议
AI科技 · 12 篇公开推文 · 11 位作者 · 曝光 768993 · 评论 244 · 点赞 2729 · 书签 917
围绕字节跳动前实习生田柯宇被指破坏模型训练的争议，出现前同事指控、本人回应及公开证据整理。讨论既涉及技术细节，也涉及企业管理、证据核验与网络追责。
创作角度
- 事件经过：整理实习生被指破坏模型训练流程的具体行为。
- 证据与技术可行性：审视攻击是否能绕过代码提交和常规审查。
- 当事人回应：呈现田柯宇对争议的解释与其他员工证词。
- 网络追责边界：讨论公开证据、同行冲突与网暴风险。
- 企业管理：追问权限控制、算力管理和生产系统审计责任。
相关公开推文
田柯宇对面的实习生A也回应了，指控的重点是： 他不只是搞破坏，还把破坏伪装成随机故障，自己再坐在排查会上，听大家查到了哪里，然后调整破坏方式。 团队以为是代码、机器或者训练方法出了问题，北京、上海、西雅图的同事轮流排查，折腾了一两个月，却一直找不到根源。 另一项新增指控是：他自己负责的项目，展示成果也涉嫌造假。 他当时负责公司的一个 VAR 文生图项目，用了上千张GPU，每周汇报进展，还放了一个演示模型让同事测试。 但对方称，演示里实际跑的是别人的开源模型 PixArt，不是他自己训练的模型。为了避免被相同提示词对比识破，还偷偷在用户输入前加了“City”。 而他真正训练的模型，效果远没有展示出来的那么好，后来团队不得不重新做。 破坏的目的上，按另一方文章暗示的逻辑，他是想让自己在内部项目竞争里赢：把别人的项目搞得做不出来，把自己的项目包装成做得很好，保住资源和地位。 他负责的是 VAR，后来公司重点推进 Goku，算力开始往 Goku 倾斜。如果 Goku 一直训练失败，而他的 VAR 每周都有“新成果”、演示效果又很好，管理层就可能觉得：还是田这条路线更有前途，应该继续给他资源。 https://mp.weixin.qq.com/s/U7r5lwRXqJyy2BJXpsmgMg
曝光 253667 · 评论 34 · 点赞 460 · 书签 191
查看原帖睡之前，看了公众号文章对实习生搞破坏的详细复盘，看的人血压升高。 这人太恶毒了。 这人技术不算差 ，但是品质方面极其恶毒。 各种破坏迷惑性非常强。 比如下面这个破坏，伪装成分布式网络问题 ，而且是随机的，间歇性发作的。 aka在你耗费大量计算资源之后，然后捅一刀。 这还是十几种不同破坏方式对一种。 我能想到调试人员在调试这些问题时候有多崩溃与绝望。 事情暴露后，字节同事没刀🔪他， 已经是很有素质了。 这太可恨了。
曝光 154760 · 评论 30 · 点赞 631 · 书签 314
查看原帖曾因破坏字节跳动模型训练被辞退的田柯宇，在播客《elsewhere 别处发生》中首次详细回应两年前的争议。他称，当时一名新实习生经常超额占用算力，甚至停止其他同事的实验，自己向上级反馈无果后，选择「以暴制暴」。他承认曾用 ChatGPT 编写程序，在约 10 天内手动干扰对方实验 5 次，但否认持续数月攻击训练集群，强调自己并非为了争夺算力，也承认做法不当。 然而，一份题为《实习生 A 视角来了》的反驳材料，给出了完全不同的说法。材料列出多段据称来自字节内部的代码记录，指控田柯宇的破坏行为始于 2024 年 3 月，持续数月，涉及多个项目。他先向 LlamaGen 项目的模型参数混入随机噪声，随后又篡改视频生成项目 Goku 使用的 PyTorch 底层代码，让模型训练结果出错、程序随机中断。这些故障极难复现，甚至出现过 100 台机器运行相同程序，只有一台异常、重启后又恢复正常的情况。中美团队为此长期轮流排查，直到当年 7 月底才发现异常代码。田柯宇在此期间还会根据同事的排查进展调整攻击方式。 更严重的是另一项科研诚信指控。材料称，田柯宇当时负责一个使用上千张 GPU 训练的 VAR 文生图项目，但展示给同事测试的成果，其实来自已经开源的 PixArt 模型。他还在用户输入的 Prompt 前偷偷添加「City」，让同事难以通过相同提示词发现两个模型的关联。此前测试人员就发现，生成图片中经常莫名出现城市建筑，却一直找不到原因。事后团队检查发现，真正的 VAR 模型远未达到展示效果。文末还列出多名相关项目研究人员，称他们愿意为亲历部分作证。 字节跳动早在 2024 年就确认，田柯宇曾通过编写、篡改代码恶意干扰内部研究项目训练，随后将其辞退，并起诉索赔 800 万元及合理支出。田柯宇此次透露，一审法院判赔约 50 万元，其余诉请被驳回，但字节已提起上诉，目前仍在二审。他表示认可赔偿，也为自己的行为道歉，但坚持认为外界严重夸大了他的行为。
曝光 84438 · 评论 41 · 点赞 164 · 书签 108
查看原帖神了，今天临时去当个外包客服，体验一下 然后客服群里有人问，为什么做了两张图就把额度花完了， 我们然后看了一下后台用户是调用的claude的api 俺寻思claude也不能画图啊 于是又问了一下，发现用户是让claude去操作ps画图的 震惊瘫坐了。
曝光 61932 · 评论 26 · 点赞 611 · 书签 33
查看原帖https://keyu-tian-sabotage.github.io/ 字节跳动前实习生田柯宇 (Tian Keyu) 模型训练攻击事件：受害者陈述与证据整理
曝光 43290 · 评论 5 · 点赞 93 · 书签 45
查看原帖字节没有那么菜，他的同事们也不是傻子。 如果通过代码commit进去的，早就被发现了。 他这个大部分的破坏行为并不是通过commit的方式直接checkin的。而是直接登陆生产环境机器直接改本地代码的方式，或者利用pytorch 漏洞自己注入攻击代码方式来攻击的。是黑客行为。 这还有个CVE专门记录这个RCE 漏洞的。 CVE-2024-48063 是开源机器学习框架 PyTorch 的一个高危远程代码执行（RCE）漏洞，CVSS 评分为 9.8（最高等级危险）。 [1] 漏洞概述 •漏洞类型：反序列化远程代码执行 (RCE) / 缺乏鉴权机制 •成因：在 PyTorch 的分布式 RPC（远程过程调用）框架中，RemoteModule 在反序列化过程中没有对输入数据进行适当的验证或清理。攻击者可通过客户端将带有恶意方法的 RemoteModule 实例序列化并通过 RPC 发送到服务端，触发反序列化后可在服务端执行任意代码，可能干扰分布式训练集群。 •争议说明：部分意见认为，该行为属于 PyTorch 分布式计算的“预期设计”，但这在实际集群环境中带来了严重的未授权访问与代码执行隐患。 这小子利用这个漏洞，攻击了字节的训练集群。 所以，字节对他还行，没有起诉他破坏计算机系统罪。这个完全够的上，主观，恶意，破坏。
曝光 33376 · 评论 22 · 点赞 162 · 书签 56
查看原帖還是那句話 ： 生产环境的代码 一个实习生可以随便checkin 随便deploy？？？ 字节也是草台班子作风啊！
曝光 20886 · 评论 1 · 点赞 5 · 书签 3
查看原帖我还是觉得要坚决给田柯宇说话澄清的机会的。 不然最后留的邮箱的人的动机很可疑，开发者的同行相轻，还是借机私仇？ 搜集对方黑料，这跟网暴没任何区别。 elsewhere的采访我看了，不是喜欢的创业者类型，但是不代表就该被网暴，摧毁人的思路永远是私德，最后能爆出来的大多都是各种假信息。
曝光 19641 · 评论 9 · 点赞 26 · 书签 12
查看原帖