中华网 china.com

新闻

天才创始人对谈AI教父Hinton:多模态是AI的未来,医疗将发挥AI最大的潜力(11)

关键词:
2024-05-21 20:45:29  网易

我们的神经模型并不会这样做,原因是,对依赖于输入数据的权重进行临时更改,则无法同时处理大量不同的情况。目前,我们采用大量不同的字符串,将它们堆叠在一起,然后并行处理它们,因为这样我们可以进行矩阵乘法,效率要高得多。正是这种效率,阻止了我们使用快速权重。但大脑显然将快速权重用于临时记忆。而且,你可以通过这种方式。做各种我们目前不做的事情。

我认为这是你必须学习的最重要的事情之一。我非常希望像Graphcore(一家英国的AI芯片公司)这样的设备,它们采用顺序方式,并只进行在线学习,那么它们就可以使用快速权重。但这还没有奏效。或许当人们使用电导作为权重时,最终它会奏效。

官网截图:https://www.graphcore.ai/

主持人:了解这些模型如何工作,了解大脑如何工作,对你的思维方式有何影响?

Hinton:多年来,人们非常看不起大型随机神经网络,只要给它大量的训练数据,它就会学会做复杂的事情的想法。你和统计学家或语言学家,或者大多数人工智能领域的人交谈,他们会说,那只是一个白日梦。没有某种先天知识,没有很多架构限制,模型就不可能学会真正复杂的事情。以为随便用一个大型神经网络,就能从数据中学习一大堆东西——但这是完全错误的。

随机梯度下降,即使用梯度反复调整权重,也可以学习非常复杂的东西,这些大型模型已经证实了这一点。这是对大脑理解的一个重要观点。大脑并不需要拥有所有的先天结构。即使大脑确实拥有许多先天结构,但对易于学习的事物,又并不需要这些先天结构。

乔姆斯基的观点是,只有当知识本身无比扎实、成熟,才能学习像语言这样复杂的事物。然而现在看来,这种观点显然很荒谬。

关闭

蔚来回应加速踏板断裂 涉事车辆系二手事故车

蔚来回应加速踏板断裂2024-06-26 16:04:18

姆巴佩欧洲杯首球刷爆4大纪录!神剧本:8强战,姆皇有望对决C罗

姆巴佩欧洲杯首球刷爆4大纪录!神剧本:8强战,姆皇有望对决C罗2024-06-26 16:03:44

姆巴佩打入欧洲杯首球,法国队却落入淘汰赛“死亡半区” 巨星救主难阻危局

姆巴佩打入欧洲杯首球,法国队却落入淘汰赛“死亡半区”2024-06-26 16:03:37

美军舰艇,炼就“金刚不坏之身”?军事观察员解读

美军舰艇,炼就“金刚不坏之身”?军事观察员解读2024-06-26 10:05:36

事发日本,以色列游客预定被取消……

事发日本,以色列游客预定被取消……2024-06-26 09:48:26

姆巴佩打入欧洲杯首球,法国队却落入淘汰赛“死亡半区” 巨星救主难阻危局

姆巴佩打入欧洲杯首球,法国队却落入淘汰赛“死亡半区”2024-06-26 16:03:37

走路多了脚底痛?若出现这些症状,可能是“足弓塌陷”在预警

走路多了脚底痛?若出现这4种症状,可能是“足弓塌陷”在预警2024-06-26 15:55:46

匈牙利反对?欧盟提出变通方法,直接绕过

匈牙利反对?欧盟提出变通方法,直接绕过2024-06-25 09:54:03

再复活?台军公开展示“轮型战车”样车

再复活?台军公开展示“轮型战车”样车2024-06-26 09:49:54

于根伟下课进入倒计时?津门虎新帅或敲定大牌洋教头

于根伟下课进入倒计时?津门虎新帅或敲定大牌洋教头2024-06-26 16:02:25

魏大勋舞会穿搭,工作室晒图,网友:很帅气

魏大勋舞会穿搭2024-06-26 15:50:24

马来西亚前总理马哈蒂尔接受专访:美国喜欢“引战”,然后大发战争之财

马来西亚前总理马哈蒂尔接受专访:美国喜欢“引战”,然后大发战争之财2024-06-26 09:59:11

长生不老“神药”NMN禁售风波 多方回应

长生不老“神药”NMN禁售风波2024-06-26 15:54:03

内塔尼亚胡称加沙激战“接近结束”,美媒:战争可能很快进入一个变化时期

内塔尼亚胡称加沙激战“接近结束”,美媒:战争可能很快进入一个变化时期2024-06-25 10:03:42

三只羊被指售假茅台 官方声明严守正品承诺

三只羊被指售假茅台2024-06-26 15:54:31

这个可怜人,最终向美国低了头

这个可怜人,最终向美国低了头2024-06-26 09:31:59

就这?美军又来跟龙王比宝了……

就这?美军又来跟龙王比宝了……2024-06-25 09:44:52

菲外长最新表态!“希望与中国进行对话”

菲外长最新表态!“希望与中国进行对话”2024-06-26 09:40:11

什么信号?台军演习出现新变化

什么信号?台军演习出现新变化2024-06-26 09:41:16

爷爷病床上抚摸奶奶脸颊携手凝望 本来答应好奶奶要回家的

爷爷病床上抚摸奶奶脸颊携手凝望2024-06-26 15:57:56

多地“老破小”挂牌1天“秒售”!部分房源价格回落到5年前

多地“老破小”挂牌1天“秒售”!部分房源价格回落到5年前2024-06-26 16:00:29

警惕!乌克兰战场的“萨拉热窝时刻”正在逼近

警惕!乌克兰战场的“萨拉热窝时刻”正在逼近2024-06-25 09:36:45

特朗普前顾问出招逼俄乌和谈,自信“俄罗斯会因这一承诺被哄骗至谈判桌前”

特朗普前顾问出招逼俄乌和谈,自信“俄罗斯会因这一承诺被哄骗至谈判桌前”2024-06-26 09:53:45

荷兰2-3惨败却大赚,法国1-1没输反而亏惨,姆巴佩脸色难看真急了

荷兰2-3惨败却大赚,法国1-1没输反而亏惨,姆巴佩脸色难看真急了2024-06-26 16:03:28

蔚来回应加速踏板断裂 涉事车辆系二手事故车

蔚来回应加速踏板断裂2024-06-26 16:04:18

父母假装不知成绩配合女儿查分欢呼 网友:父母提供的情绪价值拉满了

父母假装不知成绩配合女儿查分欢呼2024-06-26 16:00:15

长生不老“神药”NMN禁售风波 市场混乱与监管收紧并行

长生不老“神药”NMN禁售风波2024-06-26 15:54:18

俄罗斯警告美国后,这两位防长首次通话

俄罗斯警告美国后,这两位防长首次通话2024-06-26 09:51:40

罗云熙:“润玉”红利吃了6年,新剧因为太瘦翻车 古装美男变尴尬

罗云熙:“润玉”红利吃了6年,新剧因为太瘦翻车2024-06-26 16:00:58

不愧是韩国!直接威胁俄罗斯……

不愧是韩国!直接威胁俄罗斯……2024-06-26 09:38:16

俄罗斯直接指责美国参与克里米亚袭击:后果自负

俄罗斯直接指责美国参与克里米亚袭击:后果自负2024-06-25 09:51:18

武僧一龙两次都打不赢的日本人,碰上中国小将,被打的满脸都是血

武僧一龙两次都打不赢的日本人,碰上中国小将,被打的满脸都是血2024-06-26 15:58:05

造价3亿多美元扛不住4级风 美军码头为何这么脆

造价3亿多美元扛不住4级风 美军码头为何这么脆2024-06-24 10:09:10

姆巴佩欧洲杯首球刷爆4大纪录!神剧本:8强战,姆皇有望对决C罗

姆巴佩欧洲杯首球刷爆4大纪录!神剧本:8强战,姆皇有望对决C罗2024-06-26 16:03:44

为何补时8分钟?魔笛主帅不服,董路猜想

为何补时8分钟?魔笛主帅不服,董路猜想2024-06-26 16:03:18

相关新闻