中华网 china.com

新闻

DeepSeek“蒸馏模型”是否超越原创 引发硅谷热议

关键词:
2025-01-30 15:49:26  第一财经

中国人工智能初创公司DeepSeek在过去一周成为硅谷热议的对象,并触发了本周一美国科技股的大幅下跌。1月29日,OpenAI声称发现证据表明DeepSeek使用其专有模型来训练自己的开源模型,暗示这可能违反了OpenAI的服务条款。但OpenAI没有具体说明这些证据。根据OpenAI的服务条款,用户不能“复制”其任何服务或“使用其输出来开发与OpenAI竞争的模型”。

OpenAI的模型系统是封闭的,但个人用户仍可付费接入其编程接口获取数据。截至发稿时,DeepSeek尚未对此事作出回应。此前,美国政府表示正在组织专家紧急评估DeepSeek的技术及其影响。美国白宫AI和加密货币事务负责人David Sacks提到,未来几个月内,美国领先的人工智能公司将采取措施,试图防止其他公司对“蒸馏技术”的获取。

DeepSeek模型的技术突破引起了美国总统特朗普的关注。特朗普表示,这款中国AI应用程序应该成为美国公司的“激励因素”。他认为如果中国能够开发出更便宜的人工智能技术,美国公司也会效仿,以减少成本并找到相同的解决方案。

数据蒸馏是一种业内常见的技术做法,通过一系列算法和策略将原始复杂的数据进行去噪、降维、提炼等操作,从而得到更为精炼、有用的数据。这种技术旨在将复杂模型的知识提炼到简单模型中。据DeepSeek-V3的技术文档显示,该模型使用数据蒸馏技术生成的高质量数据提升了训练效率。通过已有的高质量模型合成少量高质量数据作为新模型的训练数据,从而达到接近于在原始数据上训练的效果。

一位计算机研究人员解释说,以前的大模型训练相当于题海战术,在大量数据中训练;而蒸馏则相当于让优秀大模型充当新模型的老师,筛选出有效题目,再让新的大模型训练。不过有学者认为,蒸馏技术存在“隐性天花板”,虽然可以提高模型训练效率,但开发的模型无法超越基础模型的能力,尤其在多模态数据方面效果不佳。然而,DeepSeek的模型打破了这种观念,其水平已经能与原始的基础模型相提并论。1月28日凌晨,DeepSeek发布了最新视觉模型Janus-Pro,在多模态理解和文生图指令遵从能力方面显著提升,并在多个基准上超越了DALL-E 3与Stable Diffusion。

关闭

突然宣布:腾讯一产品即将停止运营 服务迁移至腾讯元宝

突然宣布,腾讯一产品即将停止运营2025-02-18 13:32:20

22日起哪吒2港澳地区全面上映 两地首映仪式相继举行

22日起哪吒2港澳地区全面上映2025-02-18 13:31:54

合作导演称饺子上下班照常骑自行车 低调健康生活典范

合作导演称饺子上下班照常骑自行车2025-02-18 13:30:25

外媒:以色列内阁投票确认扎米尔为下任以军总参谋长 即将于3月5日就职

外媒,以色列内阁投票确认扎米尔为下任以军总参谋长2025-02-18 11:44:19

媒体批特朗普又一次“抢劫”台湾 美国的真实意图暴露

媒体批特朗普又一次抢劫台湾2025-02-18 13:15:58

曾被雷军千万年薪挖角!亲属称罗福莉与丈夫研究领域相同

亲属称罗福莉与丈夫研究领域相同2025-02-18 13:11:57

陈晓陈妍希将共同抚养孩子 和平分手引热议

陈晓陈妍希将共同抚养孩子2025-02-18 13:27:22

美国东部8州遭洪灾影响上亿人?肯塔基紧急状态,真有这么严重吗 致命风暴致8人死亡

美国东部8州遭洪灾影响上亿人,肯塔基紧急状态,真有这么严重吗2025-02-18 11:41:18

美方:乌克兰能“上桌”谈判 欧洲被排除引发争议

美方,乌克兰能上桌谈判2025-02-18 11:43:42

特朗普批波音总统专机还没造好 项目拖延引不满

特朗普批波音总统专机还没造好2025-02-18 13:31:20

卡塞米罗:必须继续欣赏C罗或者梅西和内马尔 他们在另一个世界 足球传奇永不落幕

卡塞米罗,必须继续欣赏C罗或者梅西和内马尔他们在另一个世界2025-02-18 13:30:07

河北邢台一局长被曝酒后砸店伤人 官方回应将调查核实

河北邢台一局长被曝酒后砸店伤人2025-02-18 13:18:04

中医劝你春季养好脾胃 调养脾胃祛风除湿

中医劝你春季养好脾胃2025-02-18 13:23:22

18岁男孩非法穿越鳌太线获救 救援行动再启

18岁男孩非法穿越鳌太线获救2025-02-18 13:25:39

工人胳膊卷入打孔机 消防救援 巧用撬棍成功解救

工人胳膊卷入打孔机消防救援2025-02-18 13:18:27

美国翻脸后,欧洲从“夸夸其谈的少年”走向独立成熟要做三件事 应对三大危机

美国翻脸后,欧洲从夸夸其谈的少年走向独立成熟要做三件事2025-02-18 13:29:52

22日起哪吒2港澳地区全面上映 两地首映仪式相继举行

22日起哪吒2港澳地区全面上映2025-02-18 13:31:54

广西首个第四代住宅亮相南宁 户户有私家园林

广西首个第四代住宅亮相南宁2025-02-18 13:25:11

中国男篮与日本男篮比赛前瞻 关键一战牵动人心

中国男篮与日本男篮比赛前瞻2025-02-18 13:21:09

邻居直播大衣哥唱歌涨粉三百多万 大衣哥为躲网暴者爬梯子翻墙见儿子

邻居直播大衣哥唱歌涨粉三百多万2025-02-18 13:20:31

宇树科技创始人王兴兴曾差点没考上高中 从内向少年到科技领军人物

宇树科技创始人王兴兴曾差点没考上高中2025-02-18 13:07:27

美俄谈判今日开始 泽连斯基:不承认 乌克兰缺席引发争议

美俄谈判今日开始泽连斯基,不承认2025-02-18 13:20:24

特朗普批波音:总统专机怎么还没造好 项目拖延引不满

特朗普批波音,总统专机怎么还没造好2025-02-18 13:02:01

0日将允许户籍栏登记可填“台湾” 外交部敦促 恪守一个中国原则

日将允许户籍栏登记可填台湾外交部敦促2025-02-18 11:42:24

沪指半日涨0.29% 四大行再创新高 银行股逆势走强

沪指半日涨0.29%四大行再创新高2025-02-18 13:27:50

杨丞琳晒婚纱照 低调婚礼一周年

杨丞琳晒婚纱照2025-02-18 13:20:48

大衣哥"被网暴4年:有人敲门要50万:不堪其扰诉诸法律

"大衣哥"被网暴4年,有人敲门要50万2025-02-18 13:18:50

马斯克坐实AI游戏工作室计划 让游戏再次伟大

马斯克坐实AI游戏工作室计划2025-02-18 13:19:44

拉夫罗夫抵达沙特 单手揣兜下飞机 谈判桌上的博弈

拉夫罗夫抵达沙特单手揣兜下飞机2025-02-18 13:13:44

突然宣布:腾讯一产品即将停止运营 服务迁移至腾讯元宝

突然宣布,腾讯一产品即将停止运营2025-02-18 13:32:20

大V:欧洲和乌克兰遭受三次沉重打击 西方暴露三大问题

大V,欧洲和乌克兰遭受三次沉重打击2025-02-18 13:13:27

美客机翻覆现场视频曝光 恶劣天气或成事故主因

美客机翻覆现场视频曝光2025-02-18 13:20:05

合作导演称饺子上下班照常骑自行车 低调健康生活典范

合作导演称饺子上下班照常骑自行车2025-02-18 13:30:25

网传小学老师因末位淘汰轻生 真相尚在调查中

网传小学老师因末位淘汰轻生2025-02-18 13:22:50

美为何提议从中国向乌派遣维和人员 美国的奇葩主意

美为何提议从中国向乌派遣维和人员2025-02-18 13:14:02

相关新闻

×