让我举一个例子。很多人认为,给神经网络添加噪音会让结果变得更糟。如果训练示例,让一半的神经元保持沉默,效果就会更糟。然而实际上,这样做的话会带来更好的泛化效果。你可以用一个简单的例子来证明这一点。这就是计算机模拟的优点。你可以证明,增加噪音会使情况变得更糟,去掉一半的神经元,会使它工作得更糟。短期内确实如此。但你这样训练它,最终它会工作得更好。你可以用一个小型计算机程序来证明这一点,然后你可以认真思考为什么会这样,以及它如何阻止复杂的协同适应。
这是我的研究方法。找到并研究那些看上去不可靠的事情,看看自己能否给出简单demo,说明为什么错误。
主持人:你觉得现在有什么不可靠的点呢?
Hinton:我们不使用快速权重的做法,貌似不是很可靠,我们只有两个时间尺度,这完全是错误的,一点不像大脑的工作方式。从长远来看,肯定要有更多的时间尺度。这只是一个例子。
主持人:我们谈到了推理、时间尺度。假设一群学生来问你,你的领域中最重要的问题是什么?你又会给他们什么最值得研究的问题?
Hinton:对于我来说,现在的问题和我过去 30 年来一直存在的问题是一样的,那就是大脑会进行反向传播吗?我相信大脑会获得梯度。你得不到梯度,你的学习效果就会比得到梯度时差很多。但是大脑是如何获得梯度的?它是以某种方式实现某种近似版本的反向传播,还是某种完全不同的技术?这是一个悬而未决的大问题。我继续做研究的话,这就是我要研究的内容。
主持人:当你现在回顾你的研究生涯时,你会发现你在很多事情上都是对的。但是你在什么地方做错了,以至于你希望自己花更少的时间?
原标题:AI代写论文?多所高校明确:严查!现在,2024届高校毕业生陆续进入论文答辩阶段,多地高校发表声明,明确将引入论文检测工具,严查AI(人工智能)代写论文的行为。
2024-05-17 14:08:12多地高校将严查AI代写论文5月14日,OpenAI在春季发布会上揭晓了其最新的旗舰AI模型——GPT-4o,这一模型以“全知全能”为目标,实现了实时的语音、文本、图像交互功能
2024-05-15 09:10:07OpenAI发布全新生成式AI模型GPT-4o互联网和技术的迅速发展,特别是人工智能的兴起,让我们仿佛潜入了一个知识的广阔海洋。信息变得触手可及,问题似乎瞬间就能找到答案。但这片海洋的深邃也引发了思考:我们的疑问,真的因此减少了吗?
2024-06-07 13:23:08AI仅10秒写完主题是AI的高考作文联播+雄安站候车大厅内,“千年轮”的启动可以追溯至2017年4月1日,那是雄安新区设立的日子。“把智能、绿色、创新打造成为雄安新区的亮丽名片。
2024-04-02 08:27:40AI时政视界|未来之城微软在新园区发布了一款专为AI体验设计的Windows 11 AI PC新品,这款产品内置的NPU芯片每秒运算能力超过40万亿次,能显著提升AI应用性能
2024-05-21 15:48:2611