字节或损失千万美元实习生恶意破坏模型训练

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2024-10-21 08:23:46 新晚报

字节或损失千万美元

10月18日，多个微信群流传一则消息，称某头部大厂的大模型训练被实习生入侵，注入了破坏代码，导致其训练成果不可靠，可能需要重新训练。据称遭到入侵的代码影响了8000多张卡，带来的损失可能超过千万美元。

知情人士透露，该头部大厂为字节跳动。事件发生在今年6月，起因是某高校的一名博士在字节跳动商业化技术团队实习时，因对团队资源分配不满，使用攻击代码破坏了团队的模型训练任务。传闻显示，这名田姓实习生利用了HF（huggingface）的漏洞，在公司的共享模型里写入破坏代码，导致模型的训练效果忽高忽低，无法产生预期的效果，且AML团队无法核查原因。但传闻曝出后，该实习生在某微信群里辟谣称，自己发完论文后就从字节跳动离职，这个当口有另一个人钻漏洞改模型代码，把责任推到自己头上。

字节跳动内部调查明确此事为田姓实习生所为。目前，该实习生已被辞退，公司同时将此事同步给行业联盟和该实习生所在的学校。尽管该实习生被辞退后到处“辟谣”甩锅，称是其他人所为，但事实上他确实攻击了商业化技术团队的模型训练任务，影响了一些业务进展，但整体对公司造成的损失并没有传闻中的超过千万美元那么大。

一位技术安全专家表示，HF漏洞产生的原因是单一性集中训练，此事暴露了字节跳动技术训练存在安全管理问题。公司既没有做好权限隔离，也没有做好共用代码的审计。正常情况下，每次大的代码变动必须做审计，无论谁操作都有痕迹记录，一个人想动代码是不可能的。目前行业通用的做法是做三级隔离导向性部署，每一级只有镜像，每次先扫描。调用按次计算、必须密钥。每一级完成后，才能进入下一级，而上一级自动删除，进行分级训练。

10月19日，字节跳动官方发布声明回应此事，确认确有实习生发生严重违纪行为并已经被辞退，但相关报道也存在部分夸大及失实信息。涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务，但并不影响商业化的正式项目及线上业务，也不涉及字节跳动大模型等其他业务。网传“涉及8000多卡、损失上千万美元”严重夸大。经核实，涉事人一直在商业化技术团队实习，并没有AI Lab实习经历。该实习生已在8月被公司辞退。公司也将其行为同步给行业联盟和所在学校，交由校方处理。字节或损失千万美元！

(责任编辑：卢其龙 CN070)

关闭

字节或损失千万美元 实习生恶意破坏模型训练

相关新闻

今日热点

频道热点

字节或损失千万美元实习生恶意破坏模型训练