OpenAI CEO首次回应马斯克叫停GPT-4：尺寸是衡量模型的错误标准公开信缺失最为关键的技术细节

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2023-04-15 17:23:02 界面新闻

美国当地时间周四，OpenAI的首席执行官山姆·阿尔特曼在麻省理工Imagination in Action活动中通过Zoom接受了采访，首次对马斯克等人联名签署的公开信作出回应。

这位风口浪尖之上的OpenAI首席执行官表示，他对信中的部分主旨“真的同意”。

但他认为这封公开信缺失最为关键的技术细节，例如“到底我们需要在何处按下暂停键”，阿尔特曼透露了一个重要信息，他称公开信的更早期版本声称OpenAI目前正在训练GPT-5，但他们没有，并且在一段时间内不会，“所以从这个意义上说，这有点傻。”阿尔特曼坦言。

他还表示，OpenAI正在开发GPT-4的附加功能，这些功能带来了安全问题，需要加以解决，但公开信中并未提到。一般来说，“随着能力越来越高，安全标准也必须提高，”首席执行官在数分钟的Zoom采访中言辞温和审慎。

“我们在完成对GPT-4的训练和发布之间花了超过6个月的时间......这些时间都花在安全性研究上，”山姆·阿尔特曼认为，他非常高兴GPT-4发布后，人们评价说这是到目前为止最安全的和最强一致性的模型，“而非能力最强的模型”。

尤为关键的是，在这次麻省理工活动中，阿尔特曼强调，尺寸是衡量模型质量的错误标准，他认为业界正在接近大语言模型LLM规模的极限，为规模而规模。他直言，已经有太多的人关注参数数字，也许参数还会有上升趋势，但这让他想起了20世纪90年代的芯片千兆赫兹竞赛，“每个人都试图指向一个大数字。”

他进一步指出了小模型的重要性，他认为未来模型参数应该向更小的方向发展，以多个小模型协作的方式工作，人们应该把精力放在迅速提高模型能力上，而不是在这里为参数计数而自娱自乐。

事实上，不盲目追求大模型参数数量已成为技术界共识。创新奇智联合创始人兼首席技术官张发恩日前告诉记者，虽然GPT3.5的模型参数为1750亿，使用数千张GPU无卡训练数月，但面对一个同样规模参数的大模型，其训练的精度其实在快速下降，“同样规模的模型算力可能只需要原来的几十分之一就能做到，这让我们觉得未来是乐观的，可以不去做‘军备竞赛’。”

12 全文共 2 页下一页

关闭

OpenAI CEO首次回应马斯克叫停GPT-4：尺寸是衡量模型的错误标准 公开信缺失最为关键的技术细节

相关新闻

今日热点

频道热点

OpenAI CEO首次回应马斯克叫停GPT-4：尺寸是衡量模型的错误标准公开信缺失最为关键的技术细节