天才创始人对谈AI教父Hinton：多模态是AI的未来，医疗将发挥AI最大的潜力(9)

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2024-05-21 20:45:29 网易

这并不是说，能完全摆脱符号。而是将符号变成大向量，保留符号的表面结构。这就是这些模型的工作方式。在我看来，这也是人类思维比较合理的模型。

借助共享权重，数字系统的思维迁移十分高效

主持人：您是最早想到使用GPU的人之一，我知道Jensen（黄仁勋）很喜欢你。2009年你就告诉Jensen，这可能是训练神经网络的一个绝佳办法。当初要使用图形处理单元（GPU）训练神经网络，您是怎么想的？

Hinton：记得在2006年，我有位研究生，是十分优秀的计算机视觉专家。一次会议上，他建议我考虑使用图形处理卡（GPU），因为它们在矩阵乘法方面表现出色，我所做的基本上都是矩阵乘法。我考虑了下，然后我们开始研究配备四个GPU的Tesla系统。

我们一开始只是购买了游戏用的GPU，发现它们将运算速度提高了30倍。然后又买了一个配备四个GPU的Tesla系统，并在此基础上进行了一次公开汇报，效果非常好。2009年，我在NIPS会议上发表了演讲，告诉在场的一千名机器学习研究人员：你们都应该去购买NVIDIA的GPU，它们是未来，你们需要GPU进行机器学习。

我还给NVIDIA发了一封邮件，说我已经动员一千名机器学习研究人员去购买你们的卡，你们能不能送我一个？他们并没有回复。但后来把这个故事告诉Jensen时，他免费给了我一个（要显卡，得直接找老板谈）。

主持人：人工智能发展过程中，GPU其实也在发展。在计算领域，我们路在何方？

Hinton：我在谷歌的最后几年里，其实一直在思考模拟计算。这样，我们可以使用 30 瓦的功率（例如大脑），而不是使用一兆瓦的功率。我希望在模拟硬件中，运行这些大型语言模型。虽然从来没实现，但我开始真正重视数字计算。

使用低功耗的模拟计算，每个硬件部分都会有所不同，即需要学习利用特定硬件的属性。这就是人们身上正在经历的。人和人的大脑都是不同的。我们不能将你大脑中的权重，放入我的大脑中。硬件不同，各个神经元的精确属性也不同。我们最后都会死去，我脑中的权重，对其他大脑也毫无用处。

首页上一页...6 7 8910 11 12...全文共 18 页下一页

关闭

天才创始人对谈AI教父Hinton：多模态是AI的未来，医疗将发挥AI最大的潜力(9)

相关新闻

今日热点

频道热点