中华网 china.com

新闻

大佬喊话，AI寒冬已来？扩展策略已达极限(2)

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2024-11-14 10:39:47  新浪新闻

随着复杂性的增长，大模型必须能够在更长的对话中保持上下文，执行更复杂的任务，并响应数据中更微妙的线索。例如，像ChatGPT当前的LLMs可以在单次对话中生成令人印象深刻的连贯且与上下文相关的回应。但在长期交流中的上下文或处理复杂逻辑推理任务时，还存在很多困难。为了克服这一限制，未来的模型将需要实现更好的记忆机制和更复杂的处理能力，以便“思考”更长时间。

随着计算能力的持续增长，走在前列的大模型企业关注的重点逐渐从简单地扩展模型转向更高效和更具上下文智能发展。涉及神经网络、机器学习算法以及人工智能系统处理和保留信息的方式的技术进步的结合。未来有了更智能、思考更长时间的模型，人工智能可以变得更适应性，允许与用户进行更个性化、更准确、更有洞察力的互动。如果技术有进一步落地，人工智能应用也将会实现在从医疗保健到金融到客户服务等多个行业的突破。

Ilya Sutskever强调了人工智能研究中的关键时刻：随着LLMs的预训练阶段达到其极限，未来的进展取决于开发更智能的训练技术和提高模型在更长时间内保持上下文的能力。对于大模型企业来说，正确选择扩展的方向比以往任何时候都更为重要。大模型企业必须重新思考处理模型扩展的方法，少关注简单地增加更多数据和计算资源，更多地关注完善训练过程和开发能够更深入、更连贯地推理的模型。

SSI（Safe Superintelligence）由Ilya Sutskever、Daniel Levy和Daniel Gross三人创立，旨在开发远超人类能力的安全人工智能系统。他们的首要产品将是关于超级智能的安全。尽管没有发布任何产品，SSI在三个多月内筹集了10亿美元现金，公司估值达到50亿美元。Ilya Sutskever是人工智能领域最具影响力的技术专家之一，曾师从被称为“人工智能教父”的Geoffrey Hinton。Daniel Gross曾担任苹果公司AI技术负责人，也曾是前Y Combinator合伙人，而Daniel Levy则是OpenAI的前员工。

关闭

周冬雨：请给年轻创作者时间和机会

周冬雨请给年轻创作者时间和机会2024-12-04 13:58:06

跨省骑行老人被网友驱车找到安全送回

跨省骑行老人被网友驱车找到安全送回2024-12-04 13:57:27

米勒空砍34分 76人险胜黄蜂 马克西关键21分助胜

米勒空砍34分76人险胜黄蜂2024-12-04 13:57:00

尹锡悦深夜宣布“紧急戒严”后，五角大楼发声：2.8万驻韩美军态势未发生变化

尹锡悦深夜宣布“紧急戒严”后，五角大楼发声：2.8万驻韩美军态势未发生变化2024-12-04 10:53:00

米勒空砍34分 76人险胜黄蜂 马克西关键21分助胜

米勒空砍34分76人险胜黄蜂2024-12-04 13:57:00

美最强驱逐舰不惜血本搞“换装”：准备搭载高超音速导弹，对标中俄“快速进步压力”

高超音速，导弹，驱逐舰2024-12-04 10:45:51

特朗普再次玩梗加拿大 建议其成为美国第51州

特朗普再次玩梗加拿大,美国第51州2024-12-04 13:41:45

高三女生遭强奸致死案将开庭 母亲：希望能给孩子一个交代！

高三女生遭强奸致死案将开庭2024-12-04 13:56:00

北方第二城天津快被挤出前十了 宁波紧追不舍

北方第二城天津快被挤出前十了2024-12-04 13:44:47

中方加强相关两用物项对美国出口管制，“中国反制开始放开手脚了”

中方加强相关两用物项对美国出口管制，“中国反制开始放开手脚了”2024-12-04 11:03:20

中式刑侦一集12条人命震住观众 纯正刑侦剧再现荧屏

中式刑侦一集12条人命震住观众2024-12-04 13:40:52

特朗普发AI图玩梗加拿大 关税争议引发幽默互动

特朗普发AI图玩梗加拿大2024-12-04 13:41:00

卡塔尔称未恢复加沙冲突的斡旋工作 但立场没有改变

卡塔尔称未恢复加沙冲突的斡旋工作 但立场没有改变2024-12-04 10:50:07

父亲死亡3子女获赔72万被亲戚花光 亲情与金钱的考验

父亲死亡3子女获赔72万被亲戚花光2024-12-04 13:43:05

停火协议生效不到一周，黎以再动武

停火协议生效不到一周，黎以再动武2024-12-04 10:45:44

韩国暴力冲突一触即发

韩国暴力冲突一触即发2024-12-04 13:56:36

叙利亚是一面照妖镜

叙利亚是一面照妖镜2024-12-04 13:45:41

跨省骑行老人被网友驱车找到安全送回

跨省骑行老人被网友驱车找到安全送回2024-12-04 13:57:27

两女子用餐后顺走桌上杯碗盘 ：自助区的小铲子都没放过

两女子用餐后顺走桌上杯碗盘2024-12-04 13:54:17

权志龙新歌被KBS判为不合格 因广告违规

权志龙新歌被KBS判为不合格2024-12-04 13:42:06

“白宫背后施压，要求土耳其约束其支持的叙反对派武装”

“白宫背后施压，要求土耳其约束其支持的叙反对派武装”2024-12-04 10:41:25

英国首相斯塔默：俄乌冲突可通过谈判结束

英国首相斯塔默：俄乌冲突可通过谈判结束2024-12-04 10:51:55

叙利亚乱局有蹊跷，到底谁是“幕后操盘手”？

叙利亚乱局有蹊跷，到底谁是“幕后操盘手”？2024-12-04 10:42:16

周冬雨：请给年轻创作者时间和机会

周冬雨请给年轻创作者时间和机会2024-12-04 13:58:06

皮尔斯：老詹打出了生涯最糟表现 建议减少出场时间

老詹打出了生涯最糟表现2024-12-04 13:45:04

迪丽热巴有何魅力？她说趁年轻为什么不尽情尝试自己想做的事情

迪丽热巴有何魅力2024-12-04 13:41:20

太阳擒马刺仍无缘NBA杯8强 杜兰特伤退成转折点

太阳擒马刺仍无缘NBA杯8强2024-12-04 13:45:59

北约秘书长污蔑：中国“勒索”我们

北约秘书长污蔑：中国“勒索”我们2024-12-04 10:39:58

菲侵闯中国鲎藤礁现场图片公开 专家：菲方行为只会让中方加大管控力度

菲侵闯中国鲎藤礁现场图片公开 专家：菲方行为只会让中方加大管控力度2024-12-04 11:16:18

菲海警出动两艘日本造巡逻船，再赴鲎藤礁海域挑衅

菲海警出动两艘日本造巡逻船，再赴鲎藤礁海域挑衅2024-12-04 10:22:32

叙利亚叛军逼近中部大城市哈马

叙利亚叛军逼近中部大城市哈马2024-12-04 10:31:07

菲律宾前海军副司令：我们必须承认，中国成功争取到东盟国家的支持

菲律宾前海军副司令：我们必须承认，中国成功争取到东盟国家的支持2024-12-04 10:43:16

乌克兰：拒绝接受成为北约正式成员的替代方案

乌克兰：拒绝接受成为北约正式成员的替代方案2024-12-04 10:40:48

伊朗外长：如果叙利亚政府寻求伊朗军事帮助 伊朗会考虑

伊朗外长：如果叙利亚政府寻求伊朗军事帮助 伊朗会考虑2024-12-04 10:53:37

菲侵闯中国鲎藤礁现场图片公开 专家：菲方不可能占得丝毫便宜

菲侵闯中国鲎藤礁现场图片公开 专家：菲方不可能占得丝毫便宜2024-12-04 10:48:44

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网