字节跳动大模型训练被实习生攻击 损失超千万美元？
10月18日，多个微信群流传一则消息：某头部大厂的大模型训练被实习生入侵，注入了破坏代码，导致其训练成果不可靠，可能需要重新训练。据称遭到入侵的代码影响了8000多张卡，带来的损失可能超过千万美元。
知情人士透露，该头部大厂为字节跳动。事件发生在2023年6月，起因是一名在字节跳动商业化技术团队实习的高校博士生对团队资源分配不满，使用攻击代码破坏团队的模型训练任务。
向字节跳动求证此事时，官方未进行回应。传闻中提到，这名田姓实习生利用HF（huggingface）的漏洞，在公司的共享模型里写入破坏代码，导致模型训练效果不稳定，无法达到预期效果，且AML团队无法查明原因。但该实习生在某微信群里辟谣，称自己发完论文后已从字节跳动离职，此时有人钻漏洞改模型代码，并将责任推到他头上。
据知情人士了解，字节跳动内部调查确认此事确为田姓实习生所为。目前，该实习生已被辞退，字节跳动将此事同步给阳光诚信联盟和企业反舞弊联盟，以及该实习生所在的学校。尽管如此，这名实习生被辞退后仍在四处“辟谣”，坚称是他人所为。
实际上，该实习生攻击的是商业化技术团队的模型训练任务，而非豆包大模型。这影响了该技术团队的一些业务进展，但对公司造成的实际损失并未如传闻中的那么严重。
一位技术安全专家指出，此次事件暴露出字节跳动在技术训练方面存在安全管理问题。公司既没有做好权限隔离，也没有进行共用代码的审计。正常情况下，每次大的代码变动都必须经过审计，确保操作有迹可循。行业通用的做法是采用三级隔离导向性部署，每一级只有镜像，每次调用前需先扫描并使用密钥，完成一级后才能进入下一级，而上一级则自动删除。
哈里斯在关键“摇摆州”以微弱优势领先特朗普 民调显示选情胶着
为何飞船返航外部会被烧得黑不溜秋 高温下的航天技术奇迹
周雨彤 我没有那么糟糕 面对争议真诚回应
“难以置信”！一提中国，美高官又“焦虑”了
台媒称首批“海马斯”火箭炮已运抵台湾
乌媒：乌官员爆谷歌地图最新图像泄露乌军事系统部署情况，谷歌回应
法国要向印太部署航母？解读来了
周雨彤发文 真诚道歉并反思
本届美国大选或成史上最贵 “烧钱”新阶段
专家：中国空天无人轰炸机已然成形 美国忧虑深藏不露
美国大选即将开始，多方猜测伊朗行动，美B-52远程轰炸机飞抵中东
美国空军真被逼急了……
为何飞船返航外部会被烧得黑不溜秋 高温下的航天技术奇迹
以军登陆黎巴嫩抓捕“真主党特工”，真主党回应
孙颖莎迎来24岁，13个世界冠军
台神秘无人潜艇为什么频现身？专家解读
鸿蒙之父王成录回应为何离开华为 为生态建设铺路
美海军再计划让12艘老伯克“延迟退休”
A股提前预热双11 中证A500指数成大爆款
德国总统道歉，狠狠打了谁的脸
郑州：法拉利车主与夜行大学生换车体验 青春的魔力
11月惊奇，世界面临五大变数
台军“志愿役”员额仍在萎缩，主力部队编现比低于八成
嘿呦，台湾附近海域冒出个“神秘玩意”
哈里斯在关键“摇摆州”以微弱优势领先特朗普 民调显示选情胶着
周雨彤 我没有那么糟糕 面对争议真诚回应
涉嫌泄露机密文件，内塔尼亚胡一名助手被捕
香港警长遭抢劫身中数刀现场曝光 外籍凶手被拘捕
伊藤美诚晋级WTT法兰克福站女单16强 意外的轻松胜利
“伊朗计划用更强大的弹头和其他武器报复以色列”
CBA第一阶段排名：北京9胜1负升第1 山西战绩狂飙 上海最失望 外援调整影响显著
王楚钦法兰克福首秀 迎战户上隼辅挑战
印度愤怒了，加拿大欺人太甚
周雨彤道歉 真诚回应网友反馈
鸿蒙系统创始人王成录讲述研发历程 居安思危推动自研
相关新闻
字节跳动回应实习生破坏大模型训练 损失被夸大
2024-10-19 16:36:00字节跳动回应实习生破坏大模型训练字节跳动商业化团队模型训练被“投毒”，内部人士称未影响豆包大模型 实习生不满引发技术袭击
2024年10月19日，据多方报道，字节跳动商业化技术团队在今年6月遭遇了一起内部技术袭击事件。多个微信群流传消息称，遭到入侵的代码注入了8000多张H100的GPU集群，带来的损失可能超过千万美元
2024-10-19 14:11:35字节跳动商业化团队模型训练被“投毒”字节跳动回应传闻 实习生恶意干扰被辞退
2024-10-19 19:51:10字节跳动回应传闻字节跳动实习生投毒自家大模型细节曝光，影响到底有多大？ 内部技术袭击引发权限收紧担忧
2024-10-19 20:52:25字节跳动实习生投毒自家大模型细节曝光字节或损失千万美元 实习生恶意破坏模型训练
2024-10-21 08:23:46字节或损失千万美元字节跳动：豆包大模型每日生成图片3000万张，引领AI创作新时代
5月15日，在火山引擎原动力大会上，字节跳动正式推出了豆包大模型
2024-05-15 11:23:07字节跳动：豆包大模型每日生成图片3000万张
