人工智能风险与通用人工智能风险。
但是,尽管许多文献将人工智能风险等同于超级智能或通用人工智能风险,但不一定非要超级智能才能造成严重问题。“我现在并不担心‘AGI风险’(我们无法控制的超级智能机器的风险),在短期内我担心的是‘MAI风险’——平庸人工智能(Mediocre AI)是不可靠的(比如必应和GPT-4)但被广泛部署——无论是就使用它的人数而言,还是就世界对软件的访问而言。一家名为Adept.AI的公司刚刚筹集了3.5亿美元来做到这一点,以允许大型语言模型访问几乎所有内容(旨在通过大型语言模型‘增强你在世界上任何软件工具或API上的能力’,尽管它们有明显的幻觉和不可靠倾向)。”
马库斯认为,许多普通人也许智力高于平均水平,但不一定是天才,在整个历史中也制造过各种各样的问题。
在许多方面,起关键作用的不是智力而是权力。
一个拥有核代码的白痴就可以摧毁世界,只需要适度的情报和不应该得到的访问权限。
现在,AI工具已经引起了犯罪分子的兴趣,越来越多地被允许进入人类世界,它们可能造成更大的破坏。
欧洲刑警组织27日发布一份报告,对采用ChatGPT类工具进行犯罪的可能性进行了讨论,令人警醒。“大型语言模型检测和重现语言模式的能力不仅有助于网络钓鱼和在线欺诈,而且通常还可以用来冒充特定个人或群体的讲话风格。这种能力可能会被大规模滥用,以误导潜在受害者将他们的信任交给犯罪分子。”这份报告写道,“除了上述犯罪活动外,ChatGPT的功能还有助于处理恐怖主义、政治宣传和虚假信息领域的许多潜在滥用案件。因此,该模型通常可用于收集更多可能促进恐怖活动的信息,例如恐怖主义融资或匿名文件共享。”
中新网北京10月8日电(记者李金磊)今年中秋国庆和暑假假期旅游市场的火热展现了旅游复苏的强劲态势,假期旅游出行需求集中爆发导致的一系列问题也引发了进一步优化学生假期的思考。
2023-10-09 09:57:41专家呼吁推行学生“春假”制度白宫专家:美国将在未来几个月与中国就AI系统安全议题展开合作面对人工智能(AI)技术快速发展带来的风险与挑战,业界一直期待中美这两个领先国家能够携手合作。
2024-01-26 11:42:57白宫专家:美国将在未来几个月与中国就AI系统安全议题展开合作华声在线9月27日讯(全媒体记者丁鹏志见习记者曾冠霖)9月27日,张家界天门山景区一名男性游客突然晕倒,意识模糊。
2023-09-28 10:12:30游客晕倒专家现场救治据美国《华尔街日报》网站8月19日报道,美国和中国都在加速研究如何将人工智能技术(AI)融入到自己的军队中,并将此作为争夺这一快速发展技术优势的全球竞赛的一部分。
2023-08-28 15:38:47美媒:美中正研究如何将AI融入军队原标题:全面禁放烟花爆竹不合法!法学专家呼吁将更多选择权交给民众央视网消息(记者/杨绎霏):已至年末,是否解禁烟花燃放再次成为公众讨论的热门话题。
2023-12-31 10:42:24全面禁放烟花爆竹不合法!法学专家呼吁将更多选择权交给民众本文转自【澎湃新闻】;近日,美国国家航空航天局(NASA)旗下团队经过一年的研究,发表了针对不明飞行物(UFO)等异常现象的报告。
2023-09-16 15:30:14NASA宣布用AI研究UFO