AI 大模型投毒第一案｜参加字节排障日会，根据同事排查思路定向修改攻击代码

11月5日，字节跳动内部发布的年内第四份《企业纪律与职业道德委员会通报》进一步披露了这起事件的相关细节。通报指出，2024年6月至7月，集团商业产品与技术部门前实习员工田某某，因对团队资源分配不满，通过编写、篡改代码等形式恶意攻击团队研究项目的模型训练任务，造成资源损耗。公司已与其解除实习协议，同步阳光诚信联盟及企业反舞弊联盟，并同步至其就读学校处理。据字节跳动内部人士介绍，由于田某某为在读博士，公司将其辞退后首先交由校方处理。但在事件处理期间，田某某多次对外否认，称攻击模型训练任务的不是自己，而是别的实习生。考虑到田某某完全没有意识到错误，且涉事行为已触犯公司安全红线，公司最终决定向法院起诉，以表明公司严肃态度、杜绝类似事件再次发生。

字节官方回应 ⬇️

几个月前就发生的事情，直到十一月份字节才提起诉讼并开始大量发酵，我猜沉寂了这么久字节是想冷处理的，只通报了学校，田博士非得反向辟谣闹，在小红书和脉脉上发布大量帖子否认，最可恨的是把锅甩给此事件同时期离职的另外一个实习生，贼喊捉贼，求锤得锤，非要挑战一下大厂的法务呗。

以下是可信度比较高的证据帖（https://github.com/JusticeFighterDance/JusticeFighter110），调查录音链接在这里：https://www.youtube.com/watch?v=nEYbYW--qN8

针对上面发布的证据帖 JusticeFighter110，田博士（应该是）非常机智的建了另一个仓库用来回应，名字也非常有意思，叫 JusticeNeverTooLate，正义永远不会迟到，讽刺意味拉满了，舆论可以被操纵但事实真不行，https://github.com/william-sto/JusticeNeverTooLate

看看田博士都做了些啥：

1. 修改集群pytorch源码，包括随机种子，优化器，数据加载
2. 随机kill 多机实验进程，导致大卡实验卡死
3. 通过checkpoint打开登陆后门，自动发起攻击随机停止进程
4. 参加集群故障排查日会，根据同事排查思路持续定向修改攻击代码
5. 修改同事模型权重，造成实验结果无法复现

第四条简直太秀了，恶意属性拉满，最狠的黑客总是以卧底的形式存在。想想被他影响的同项目组的其他程序员们，模型跑几次结果有点不一样很正常，但是要是每次都是天差地别那真的天都要塌了啊。天天睁开眼就是排查，硬是不知道哪里有问题，脑浆都转没了，实在想不到是出内鬼了啊，还根据同事的排查思路修改攻击代码，田博士内心 OS：一想到他们要开会跟我透露排查了什么我就想笑。

"破坏计算机信息系统罪" 是刑事犯罪！字节只要求金钱赔偿其实已经相当仁至义尽了（可能看在学校的面子上），这么长时间光人力成本就不止 800w 了，甚至后面谈判赔偿金额还会再降也说不准，最重要的应该是表现出公司的处理决心以及希望当事人公众道歉。刑法第 286 条 :

违反国家规定，对计算机信息系统功能进行删除、修改、增加、干扰，造成计算机信息系统不能正常运行，后果严重的，处五年以下有期徒刑或者拘役；后果特别严重的，处五年以上有期徒刑。

违反国家规定，对计算机信息系统中存储、处理或者传输的数据和应用程序进行删除、修改、增加的操作，后果严重的，依照前款的规定处罚。

故意制作、传播计算机病毒等破坏性程序，影响计算机系统正常运行，后果严重的，依照第一款的规定处罚。

单位犯前三款罪的，对单位判处罚金，并对其直接负责的主管人员和其他直接责任人员，依照第一款的规定处罚。【刑法修正案九】

对于很多做了坏事的人来说，闭嘴其实是一种沉默成本最小的解决方案，但很多人就是学不会，有利己的机会就不会停手。"你有权保持沉默" 这句话，建议理解为 -> 你 "最好" 保持沉默。