TwKit

字节实习生田柯宇模型训练破坏争议

AI科技 · 10 篇公开推文 · 8 位作者 · 曝光 909726 · 评论 216 · 点赞 2141 · 书签 909

田柯宇就两年前被指破坏字节模型训练的争议作出详细回应,对方实习生也提出不同指控。讨论围绕算力使用、故障伪装、证据网站及诉讼进度展开,双方说法需分别核实。

创作角度

  • 回顾字节实习生田柯宇被指破坏模型训练的起因和调查过程
  • 并列田柯宇、对方实习生及公司相关回应
  • 核对判决、赔偿和二审进展,避免将指控当作已定事实
  • 讨论网络曝光证据、当事人辩解与舆论审判的边界

相关公开推文

@0xTykoo

看完了文章,按田柯宇自己的说法,事情大概是这样的: 他本来是字节组里待得最久的实习生。后来来了另一个实习生恶霸,占着超额的算力,还会直接关掉其他实习生的程序,受影响的主要是一些比较内向的人。大家找领导反映,但没得到解决。 他自己的程序其实没被关过,也不缺算力,但他觉得自己作为组里的老大哥,看不下去别人被欺负,于是决定以暴制暴:让 GPT 帮忙写了个程序,手动把对方的任务卡住或者关掉,让超额占用的算力被收回,其他人就能用了。他说自己大概在十天里做了五次,只动了那个人的任务。 后来事情被发现,他被开除了,网上又传出了“为了抢算力给大模型投毒”“持续攻击集群”“被发现后嫁祸别人”等说法。他否认这些描述,但承认自己确实违规,也浪费了公司的时间和资源。按访谈里的说法,字节索赔八百多万,一审判赔五十万,他接受这个赔偿,但字节又上诉了。

曝光 255127 · 评论 41 · 点赞 330 · 书签 141

查看原帖
@0xTykoo

田柯宇对面的实习生A也回应了,指控的重点是: 他不只是搞破坏,还把破坏伪装成随机故障,自己再坐在排查会上,听大家查到了哪里,然后调整破坏方式。 团队以为是代码、机器或者训练方法出了问题,北京、上海、西雅图的同事轮流排查,折腾了一两个月,却一直找不到根源。 另一项新增指控是:他自己负责的项目,展示成果也涉嫌造假。 他当时负责公司的一个 VAR 文生图项目,用了上千张GPU,每周汇报进展,还放了一个演示模型让同事测试。 但对方称,演示里实际跑的是别人的开源模型 PixArt,不是他自己训练的模型。为了避免被相同提示词对比识破,还偷偷在用户输入前加了“City”。 而他真正训练的模型,效果远没有展示出来的那么好,后来团队不得不重新做。 破坏的目的上,按另一方文章暗示的逻辑,他是想让自己在内部项目竞争里赢:把别人的项目搞得做不出来,把自己的项目包装成做得很好,保住资源和地位。 他负责的是 VAR,后来公司重点推进 Goku,算力开始往 Goku 倾斜。如果 Goku 一直训练失败,而他的 VAR 每周都有“新成果”、演示效果又很好,管理层就可能觉得:还是田这条路线更有前途,应该继续给他资源。 https://mp.weixin.qq.com/s/U7r5lwRXqJyy2BJXpsmgMg

曝光 234901 · 评论 31 · 点赞 433 · 书签 170

查看原帖
@0xTykoo

elsewhere 了解到的大致情况是:法院的判决田柯宇赔偿50万。但字节而后又提起了上诉,目前还在二审。 还在二审的过程中敢这么高调,说实话这哥们太适合去美国创业了。

曝光 176886 · 评论 4 · 点赞 48 · 书签 21

查看原帖
@mtrainier2020

睡之前,看了公众号文章对实习生搞破坏的详细复盘,看的人血压升高。 这人太恶毒了。 这人技术不算差 ,但是品质方面极其恶毒。 各种破坏迷惑性非常强。 比如下面这个破坏,伪装成分布式网络问题 ,而且是随机的,间歇性发作的。 aka在你耗费大量计算资源之后,然后捅一刀。 这还是十几种不同破坏方式对一种。 我能想到调试人员在调试这些问题时候有多崩溃与绝望。 事情暴露后,字节同事没刀🔪他, 已经是很有素质了。 这太可恨了。

曝光 142488 · 评论 30 · 点赞 574 · 书签 278

查看原帖
@0xLogicrw

曾因破坏字节跳动模型训练被辞退的田柯宇,在播客《elsewhere 别处发生》中首次详细回应两年前的争议。他称,当时一名新实习生经常超额占用算力,甚至停止其他同事的实验,自己向上级反馈无果后,选择「以暴制暴」。他承认曾用 ChatGPT 编写程序,在约 10 天内手动干扰对方实验 5 次,但否认持续数月攻击训练集群,强调自己并非为了争夺算力,也承认做法不当。 然而,一份题为《实习生 A 视角来了》的反驳材料,给出了完全不同的说法。材料列出多段据称来自字节内部的代码记录,指控田柯宇的破坏行为始于 2024 年 3 月,持续数月,涉及多个项目。他先向 LlamaGen 项目的模型参数混入随机噪声,随后又篡改视频生成项目 Goku 使用的 PyTorch 底层代码,让模型训练结果出错、程序随机中断。这些故障极难复现,甚至出现过 100 台机器运行相同程序,只有一台异常、重启后又恢复正常的情况。中美团队为此长期轮流排查,直到当年 7 月底才发现异常代码。田柯宇在此期间还会根据同事的排查进展调整攻击方式。 更严重的是另一项科研诚信指控。材料称,田柯宇当时负责一个使用上千张 GPU 训练的 VAR 文生图项目,但展示给同事测试的成果,其实来自已经开源的 PixArt 模型。他还在用户输入的 Prompt 前偷偷添加「City」,让同事难以通过相同提示词发现两个模型的关联。此前测试人员就发现,生成图片中经常莫名出现城市建筑,却一直找不到原因。事后团队检查发现,真正的 VAR 模型远未达到展示效果。文末还列出多名相关项目研究人员,称他们愿意为亲历部分作证。 字节跳动早在 2024 年就确认,田柯宇曾通过编写、篡改代码恶意干扰内部研究项目训练,随后将其辞退,并起诉索赔 800 万元及合理支出。田柯宇此次透露,一审法院判赔约 50 万元,其余诉请被驳回,但字节已提起上诉,目前仍在二审。他表示认可赔偿,也为自己的行为道歉,但坚持认为外界严重夸大了他的行为。

曝光 76024 · 评论 36 · 点赞 149 · 书签 101

查看原帖
@holegots

牢田这个事情 ,真实是字节法务太菜了,那么多实锤证据,但凡有华为/腾讯法务一半的实力, 牢田都不会在这里装模作样,还能发誓做英雄了。 https://keyu-tian-sabotage.github.io/

曝光 73485 · 评论 23 · 点赞 303 · 书签 54

查看原帖
@rollrollyuan

https://keyu-tian-sabotage.github.io/ 字节跳动前实习生田柯宇 (Tian Keyu) 模型训练攻击事件:受害者陈述与证据整理

曝光 42333 · 评论 5 · 点赞 93 · 书签 44

查看原帖
@MaxForAI

我第一次见elsrwhere的郭老师这样..... 田的团队到底干啥了????

曝光 41228 · 评论 28 · 点赞 101 · 书签 44

查看原帖
@jakevin7

田柯宇投毒记录网站又更新了。 感兴趣的人可以看看这个网站,了解一下上下文 https://keyu-tian-sabotage.github.io/

曝光 18721 · 评论 9 · 点赞 87 · 书签 45

查看原帖
@surfcapitalfour

我还是觉得要坚决给田柯宇说话澄清的机会的。 不然最后留的邮箱的人的动机很可疑,开发者的同行相轻,还是借机私仇? 搜集对方黑料,这跟网暴没任何区别。 elsewhere的采访我看了,不是喜欢的创业者类型,但是不代表就该被网暴,摧毁人的思路永远是私德,最后能爆出来的大多都是各种假信息。

曝光 18328 · 评论 9 · 点赞 23 · 书签 11

查看原帖
TwKit
正在载入