但是,尽管许多文献将人工智能风险等同于超级智能或通用人工智能风险,但不一定非要超级智能才能造成严重问题。“我现在并不担心‘AGI风险’(我们无法控制的超级智能机器的风险),在短期内我担心的是‘MAI风险’——平庸人工智能(MediocreAI)是不可靠的(比如必应和GPT-4)但被广泛部署——无论是就使用它的人数而言,还是就世界对软件的访问而言。一家名为Adept.AI的公司刚刚筹集了3.5亿美元来做到这一点,以允许大型语言模型访问几乎所有内容(旨在通过大型语言模型‘增强你在世界上任何软件工具或API上的能力’,尽管它们有明显的幻觉和不可靠倾向)。”
马库斯认为,许多普通人也许智力高于平均水平,但不一定是天才,在整个历史中也制造过各种各样的问题。在许多方面,起关键作用的不是智力而是权力。一个拥有核代码的白痴就可以摧毁世界,只需要适度的情报和不应该得到的访问权限。现在,AI工具已经引起了犯罪分子的兴趣,越来越多地被允许进入人类世界,它们可能造成更大的破坏。
欧洲刑警组织27日发布一份报告,对采用ChatGPT类工具进行犯罪的可能性进行了讨论,令人警醒。“大型语言模型检测和重现语言模式的能力不仅有助于网络钓鱼和在线欺诈,而且通常还可以用来冒充特定个人或群体的讲话风格。这种能力可能会被大规模滥用,以误导潜在受害者将他们的信任交给犯罪分子。”这份报告写道,“除了上述犯罪活动外,ChatGPT的功能还有助于处理恐怖主义、政治宣传和虚假信息领域的许多潜在滥用案件。因此,该模型通常可用于收集更多可能促进恐怖活动的信息,例如恐怖主义融资或匿名文件共享。”
马库斯认为,再加上人工智能生成的大规模宣传,被大型语言模型增强的恐怖主义可能导致核战争,或者导致比新冠病毒更糟糕的病原体的故意传播等。许多人可能会死亡,文明可能会被彻底破坏。也许人类不会真的“从地球上消失”,但事情确实会变得非常糟糕。
“人工智能教父”杰弗里·辛顿在接受哥伦比亚广播公司采访时表示,人工智能可能发展到对人类构成威胁“并非不可想象”的地步。
上周在哥伦比亚广播公司的采访中,“人工智能教父”辛顿被问及人工智能“消灭人类”的可能性时说,“我认为这并非不可想象。我只想说这些。”
马库斯指出,相比辛顿和马斯克担忧天网和机器人接管世界,应该更多思考眼前的风险,包括恐怖分子在内的犯罪分子可能对大型语言模型做什么,以及如何阻止他们。
马斯克过去两周不太好过。他在特斯拉财报会上大吐苦水、抱怨金融环境影响汽车销售之后,公司股价十几天里暴跌近两成,同期大盘跌幅为2.8%。不过,即便如此,马斯克面对公众依然诚实。
2023-11-02 10:05:03马斯克:Cybertruck量产有很多困难原标题:马斯克到北京第一天吃了啥,下榻北京顶级会所晚宴一共16道菜,宴会细节相当到位金融界5月3日消息特斯拉CEO马斯克时隔三年之后再度访华
2023-05-31 10:37:19马斯克到北京第一天吃了啥央视网消息(新闻联播):国家主席习近平6月28日签署第六号、第七号主席令。
2023-06-28 22:27:25主席令央视网消息(新闻联播):国家主席习近平9月1日签署第九号、第十号、第十一号主席令。
2023-09-01 23:23:33习近平签署国家主席令马斯克继续内涵OpenAI马斯克是一位备受关注的商业领袖和科技创新者,他对OpenAI发表质疑的言论引起了广泛的关注和讨论。
2023-11-24 08:32:46马斯克继续内涵OpenAI