中华网 china.com

新闻

“AI教父”辛顿谈AI安全 呼吁国际合作训练AI向善

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2025-07-27 13:22:46  新浪财经

今天，2025世界人工智能大会暨人工智能全球治理高级别会议开幕。在上午的主旨演讲中，77岁的“深度学习之父”、图灵奖得主、2024年诺贝尔物理学奖获得者Geoffrey Hinton讨论了人工智能的历史、语言模型的本质以及人类与AI的共通结构。他还特别提到Deepseek，但认为这种方式效率很低。

辛顿回顾了过去60年人工智能发展的两条主流路径：一是以推理为核心的“逻辑主义”，另一是以模拟人类认知为基础的“连接主义”。他认为，语言理解更接近后者，不是符号演绎，而是从模糊中提取出概念之间的关联。他回忆起1985年开发的一个早期小型模型，认为如今的大语言模型本质上是“它的后代”。尽管现在的模型拥有更深的网络结构和更庞大的参数规模，但核心机制并未改变。“语言模型的理解方式，和人类理解语言的方式是一样的。”

辛顿强调，大模型一旦具备比人类更强的智能，仅靠“关掉它”并不能解决问题。他说，有人觉得它们变得聪明后就可以把它们关掉，这是不现实的。它们会劝说操控机器的人不要关掉它们。人类的处境更像是在“养一只老虎当宠物”，要么训练它永远不攻击你，要么把它干掉。

辛顿建议，全球主要国家或AI大国应建立一个由AI安全机构组成的国际社群，研究如何训练高智能AI向善。各国可在自身主权范围内研究，再分享成果。尽管目前还不知道具体怎么做，但这是人类长期面临的最重要问题，且所有国家都能在此领域合作。

辛顿长期致力于神经网络、机器学习、分类监督学习、机器学习理论、细胞神经网络、信息系统应用、马尔可夫决策过程、神经网络、认知科学等方面的研究。2023年，辛顿从谷歌辞职，称生成式人工智能系统的商业应用构成了多重严重威胁，他警告说，从长远来看，自主人工智能系统可能会对人类构成严重威胁。

关闭

金饰克价涨到1027元 品牌溢价能力增强

金饰克价涨到1027元2025-09-01 16:15:36

养殖户回应打雷鹌鹑吓到应激不产蛋！提前预防的话需要放音乐，让它们从小习惯

养殖户回应打雷鹌鹑吓到应激不产蛋2025-09-01 16:11:47

日媒：日本高官紧急取消访美 关税磋商遇阻

日媒,日本高官紧急取消访美2025-09-01 16:11:19

九三阅兵在即，歼-20S升级 定义未来空战节拍器

九三阅兵在即,歼-20S升级2025-09-01 15:58:15

2025香港小姐竞选结果出炉 高学历佳丽闪耀舞台

2025香港小姐竞选结果出炉2025-09-01 15:52:00

金饰克价涨到1027元 品牌溢价能力增强

金饰克价涨到1027元2025-09-01 16:15:36

外媒记者关注上合组织峰会什么 影响力与合作前景

外媒记者关注上合组织峰会什么2025-09-01 15:45:16

泽连斯基称无力通过武力夺回领土 外交努力成焦点

泽连斯基称无力通过武力夺回领土2025-09-01 15:51:11

日媒：日本高官紧急取消访美 关税磋商遇阻

日媒,日本高官紧急取消访美2025-09-01 16:11:19

德国曝光涉北溪爆炸案女潜水员照片 乌克兰小组执行爆破

德国曝光涉北溪爆炸案女潜水员照片2025-09-01 16:14:53

专家：欧盟对俄乌冲突立场发生变化 博弈加剧和平进程复杂化

专家,欧盟对俄乌冲突立场发生变化2025-09-01 15:31:06

伊朗总统为什么罕见用中文发帖 深化中伊战略合作

伊朗总统为什么罕见用中文发帖2025-09-01 16:03:43

林书豪社媒自宣退役 告别15年篮球生涯

林书豪社媒自宣退役2025-09-01 15:51:27

老人把饺子喂给进站的入伍军人

老人把饺子喂给进站的入伍军人2025-09-01 16:00:29

吉尔吉斯斯坦总统抵达天津 参加上合组织峰会

吉尔吉斯斯坦总统抵达天津2025-09-01 16:12:34

俄为啥发动空袭警告欧洲 精准打击暴露西方介入困境

俄为啥发动空袭警告欧洲2025-09-01 16:05:39

金价大涨，周大福单克一周涨18元，分析称金价将触及每盎司4000美元 黄金投资热潮再起

金价大涨,周大福单克一周涨18元,分析称金价将触及每盎司4000美元2025-09-01 16:09:02

专家:菲律宾休想用台湾威胁中国 双海联动梦碎

专家,菲律宾休想用台湾威胁中国2025-09-01 16:07:57

胡塞武装袭击以色列油轮 导弹攻击引发关注

胡塞武装袭击以色列油轮2025-09-01 15:54:20

出租车和面包车疑似“斗气” 别车翻车酿事故

出租车和面包车疑似斗气2025-09-01 15:49:28

佩斯科夫说普京在中国有宾至如归的感觉 世纪之行彰显中俄深厚友谊

佩斯科夫说普京在中国有宾至如归的感觉2025-09-01 15:55:56

中国科技股大涨 AI驱动增长

中国科技股大涨2025-09-01 15:52:58

莫迪呼吁中印共建“亚洲世纪”意味啥 复杂外交信号背后的意图

莫迪呼吁中印共建亚洲世纪意味啥2025-09-01 16:01:19

卢卡申科带土豆访华的深意与情怀 外交中的务实之举

卢卡申科带土豆访华的深意与情怀2025-09-01 16:03:09

加沙66万名儿童已连续3年失学 呼吁立即停火

加沙66万名儿童已连续3年失学2025-09-01 15:47:15

哈梅内伊为何用中文发文谈中伊关系 传递深层战略意图

哈梅内伊为何用中文发文谈中伊关系2025-09-01 15:57:44

美印“翻脸”已是板上钉钉了吗 老友翻脸，为哪般？

美印翻脸已是板上钉钉了吗2025-09-01 16:10:07

孙颖莎发文谈进入国家队10年 十年荣耀，未来璀璨

孙颖莎发文谈进入国家队10年2025-09-01 16:04:49

上合峰会莫迪拉着普京的手进大厅 大国博弈中的精妙算计

上合峰会莫迪拉着普京的手进大厅2025-09-01 15:31:40

专家称黄金有望冲3800美元 金价创数月新高

专家称黄金有望冲3800美元2025-09-01 15:47:47

胡塞高层被“一锅端”影响几何 去中心化指挥未受损

胡塞高层被一锅端影响几何2025-09-01 15:53:08

媒体谈林书豪官宣退役 15年篮球梦画上句号

媒体谈林书豪官宣退役2025-09-01 15:49:00

广州核发首张“电鸡”专用号牌 新规9月1日施行

广州核发首张电鸡专用号牌2025-09-01 15:57:17

黑车横穿车道企图在双实线违规掉头 网友：看到是深圳交警我就放心了

黑车横穿车道企图在双实线违规掉头2025-09-01 16:02:02

养殖户回应打雷鹌鹑吓到应激不产蛋！提前预防的话需要放音乐，让它们从小习惯

养殖户回应打雷鹌鹑吓到应激不产蛋2025-09-01 16:11:47

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网