“当代人工智能系统现在在一般任务上变得与人类具有竞争力,我们必须扪心自问:我们是否应该让机器用宣传和谎言充斥我们的信息渠道?我们是否应该自动化所有工作,包括令人满意的工作?我们是否应该发展最终可能比我们更多、更聪明,淘汰并取代我们的非人类思维?我们应该冒险失去对我们文明的控制吗?”这封信写道,“只有当我们确信它们的影响是积极的并且风险是可控的时候,才应该开发强大的人工智能系统。这种信心必须有充分的理由,并随着系统潜在影响的规模而增加。OpenAI最近关于通用人工智能的声明指出,‘在某些时候,在开始训练未来的系统之前进行独立审查可能很重要,并且对于最先进的工作来说,应该同意限制用于创建新模型的计算量增长。’我们同意。那个某些时候就是现在。”
这封信呼吁,所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这种暂停,政府应介入并实行暂停。人工智能实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级人工智能设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的,并且无可置疑。这并不意味着总体上暂停AI开发,只是紧急从奔向不可预测的大型黑盒模型的危险竞赛中收回脚步。
与此同时,信中指出,AI开发人员必须与政策制定者合作,以显著加快开发强大的AI治理系统。至少应包括:建立专门负责AI的有能力的新监管机构;监督和跟踪高性能人工智能系统和大量计算能力;推出标明来源系统和水印系统,以帮助区分真实与合成,并跟踪模型泄漏;强大的审计和认证生态系统;界定人工智能造成的伤害的责任;为人工智能技术安全研究提供强大的公共资金;以资源充足的机构来应对人工智能将造成的巨大经济和政治破坏(尤其是对民主的破坏)。
马斯克过去两周不太好过。他在特斯拉财报会上大吐苦水、抱怨金融环境影响汽车销售之后,公司股价十几天里暴跌近两成,同期大盘跌幅为2.8%。不过,即便如此,马斯克面对公众依然诚实。
2023-11-02 10:05:03马斯克:Cybertruck量产有很多困难原标题:马斯克到北京第一天吃了啥,下榻北京顶级会所晚宴一共16道菜,宴会细节相当到位金融界5月3日消息特斯拉CEO马斯克时隔三年之后再度访华
2023-05-31 10:37:19马斯克到北京第一天吃了啥央视网消息(新闻联播):国家主席习近平6月28日签署第六号、第七号主席令。
2023-06-28 22:27:25主席令央视网消息(新闻联播):国家主席习近平9月1日签署第九号、第十号、第十一号主席令。
2023-09-01 23:23:33习近平签署国家主席令马斯克继续内涵OpenAI马斯克是一位备受关注的商业领袖和科技创新者,他对OpenAI发表质疑的言论引起了广泛的关注和讨论。
2023-11-24 08:32:46马斯克继续内涵OpenAI