中华网 china.com

新闻

上千名科技专家呼吁暂停大型AI研究 包括马斯克等(4)

关键词:
2023-03-29 14:15:58  

人工智能风险与通用人工智能风险。

但是,尽管许多文献将人工智能风险等同于超级智能或通用人工智能风险,但不一定非要超级智能才能造成严重问题。“我现在并不担心‘AGI风险’(我们无法控制的超级智能机器的风险),在短期内我担心的是‘MAI风险’——平庸人工智能(Mediocre AI)是不可靠的(比如必应和GPT-4)但被广泛部署——无论是就使用它的人数而言,还是就世界对软件的访问而言。一家名为Adept.AI的公司刚刚筹集了3.5亿美元来做到这一点,以允许大型语言模型访问几乎所有内容(旨在通过大型语言模型‘增强你在世界上任何软件工具或API上的能力’,尽管它们有明显的幻觉和不可靠倾向)。”

马库斯认为,许多普通人也许智力高于平均水平,但不一定是天才,在整个历史中也制造过各种各样的问题。

在许多方面,起关键作用的不是智力而是权力。

一个拥有核代码的白痴就可以摧毁世界,只需要适度的情报和不应该得到的访问权限。

现在,AI工具已经引起了犯罪分子的兴趣,越来越多地被允许进入人类世界,它们可能造成更大的破坏。

欧洲刑警组织27日发布一份报告,对采用ChatGPT类工具进行犯罪的可能性进行了讨论,令人警醒。“大型语言模型检测和重现语言模式的能力不仅有助于网络钓鱼和在线欺诈,而且通常还可以用来冒充特定个人或群体的讲话风格。这种能力可能会被大规模滥用,以误导潜在受害者将他们的信任交给犯罪分子。”这份报告写道,“除了上述犯罪活动外,ChatGPT的功能还有助于处理恐怖主义、政治宣传和虚假信息领域的许多潜在滥用案件。因此,该模型通常可用于收集更多可能促进恐怖活动的信息,例如恐怖主义融资或匿名文件共享。”

关闭

《我们一起摇太阳》将退出春节档热 2月15日为该片在春节档上映的最后一天

《我们一起摇太阳》将退出春节档热2024-02-14 23:23:01

五台山景区桶装水是从厕所水管接的?景区:平时也喝这个 将改善相关设施

五台山景区桶装水是从厕所水管接的2024-02-14 21:52:25

全国统一的春节噩梦,两个字

全国统一的春节噩梦,两个字2024-02-14 21:49:50

彩礼狂飙!28.8万彩礼男方嫌高 另一家出38.8万 不借钱娶不到妻

28.8万彩礼男方嫌高 另一家出38.8万2024-02-14 16:51:25

“冲突至今最严重!”

“冲突至今最严重!”2024-02-08 10:19:49

俄军事专家:扎卢日内“颂扬”俄军是“烟幕弹”

俄军事专家:扎卢日内“颂扬”俄军是“烟幕弹”2024-02-07 10:56:24

董事长儿子2.1亿办婚礼?假的!官方回应:相关内容严重不实

董事长儿子2.1亿办婚礼?假的2024-02-14 16:36:35

一觉醒来,巴格达告急

一觉醒来,巴格达告急2024-02-08 10:20:27

日记者观摩日美大规模海上军演,中国侦察舰抵近美航母

日记者观摩日美大规模海上军演,中国侦察舰抵近美航母2024-02-07 11:20:19

《我们一起摇太阳》将退出春节档热 2月15日为该片在春节档上映的最后一天

《我们一起摇太阳》将退出春节档热2024-02-14 23:23:01

诬陷中国网攻、给乌克兰F-16,荷兰为啥成了急先锋?

诬陷中国网攻、给乌克兰F-16,荷兰为啥成了急先锋?2024-02-08 10:17:46

乌军转向混合战略,拟对俄境内展开大规模无人机攻击

乌军转向混合战略,拟对俄境内展开大规模无人机攻击2024-02-07 11:03:57

坎贝尔出任美副国务卿,美媒:主张与华竞争而非对抗

坎贝尔出任美副国务卿,美媒:主张与华竞争而非对抗2024-02-08 10:15:41

全国统一的春节噩梦,两个字

全国统一的春节噩梦,两个字2024-02-14 21:49:50

美军方:遭袭基地未能发现来袭无人机,也没有能击落无人机的武器

美军方:遭袭基地未能发现来袭无人机,也没有能击落无人机的武器2024-02-08 10:02:34

内塔尼亚胡反对!布林肯与以军参谋长单独会晤被取消

内塔尼亚胡反对!布林肯与以军参谋长单独会晤被取消2024-02-08 10:03:04

多次“担忧”中国船只研究活动,印度为何力阻中国科考船进印度洋?

多次“担忧”中国船只研究活动,印度为何力阻中国科考船进印度洋?2024-02-08 10:15:11

钟楚曦侯雯元情人节官宣 秀健身房合照甜蜜般配

钟楚曦侯雯元情人节官宣2024-02-14 19:07:12

一只鸡从天而降砸坏红绿灯看懵交警 肇事司鸡当场逃逸!

一只鸡从天而降砸坏红绿灯看懵交警2024-02-14 17:49:36

你收到的情人节玫瑰99%是假的!

你收到的情人节玫瑰99%是假的2024-02-14 20:16:58

韩媒:尚未知韩足协会不会承认内讧 过往这极为罕见

韩媒:尚未知韩足协会不会承认内讧2024-02-14 17:53:03

视觉盛宴!八一飞行表演队亮相沙特国际防务展

视觉盛宴!八一飞行表演队亮相沙特国际防务展2024-02-07 11:02:05

吓人!景区钢索桥侧翻多名游客倒挂空中 文旅局:项目已暂停运营

景区钢索桥侧翻多名游客倒挂空中2024-02-14 16:30:03

力阻中国科考船进印度洋,印度到底在怕啥?

力阻中国科考船进印度洋,印度到底在怕啥?2024-02-08 10:18:27

出岛机票紧张票价过万 海南官方回应:建议避免从三亚直飞

出岛机票紧张票价过万 海南官方回应2024-02-14 20:18:00

130-125!戈登迎三分球里程碑 太阳力擒国王 萨博尼斯空砍三双

戈登迎三分球里程碑 太阳力擒国王2024-02-14 17:07:19

三节打卡!阿德巴约轰三双 热火26分大胜雄鹿

阿德巴约轰三双 热火26分大胜雄鹿2024-02-14 17:06:04

日本又搅弄是非!

日本又搅弄是非!2024-02-08 10:19:12

制造地区紧张气氛?驻日韩美军演练应对“大规模伤亡”

制造地区紧张气氛?驻日韩美军演练应对“大规模伤亡”2024-02-08 10:16:12

改进型苏-57将服役,或成最快超音速战斗机

改进型苏-57将服役,或成最快超音速战斗机2024-02-07 11:19:32

五台山景区桶装水是从厕所水管接的?景区:平时也喝这个 将改善相关设施

五台山景区桶装水是从厕所水管接的2024-02-14 21:52:25

三兄弟聚餐喝酒妻子叫老母亲来教育 网友:现在能被母亲管也是幸福

三兄弟聚餐喝酒妻子叫老母亲来教育2024-02-14 17:47:37

西方对俄罗斯能源制裁到底坑了谁?

西方对俄罗斯能源制裁到底坑了谁?2024-02-08 10:14:36

农村老人沉迷刷APP挣钱:一天看七小时才赚两三块

农村老人沉迷刷APP挣钱2024-02-14 20:26:01

媒体:中东的形势变了

媒体:中东的形势变了2024-02-14 19:08:05

相关新闻