中华网 china.com

新闻

OpenAI公司AI安全策略遭质疑 历史被歪曲

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2025-03-08 08:29:54  IT之家

OpenAI 最近向社区分享了其谨慎、逐步部署 AI 模型的方法，采取分阶段发布的策略，并以 GPT-2 的谨慎发布为例。然而，这一示例引发了前 OpenAI 政策研究员 Miles Brundage 的批评，他指责公司歪曲了 AI 安全的历史。

OpenAI 发布的文件阐明了其对 AI 安全和模型部署的态度。文件中强调，公司在处理现有系统时始终保持谨慎，并提到 GPT-2 是其谨慎发布策略的一部分。公司相信只有通过从现有工具中学习，才能确保未来系统的安全。文件部分内容大意如下：在一个不连续的世界中，安全的教训来自于对当今系统的极度谨慎，尤其是相对于它们表现出来的力量，这正是他们对 GPT-2 的方法。现在将第一个 AGI 视为逐步增加有用性的系统中的一部分，在连续的世界中，确保下一个系统安全且有益的方式是从当前系统中学习。

Miles Brundage 坚称，GPT-2 的发布同样采取了逐步推进的方式，OpenAI 在每个阶段都分享了相关信息，安全专家也认可公司在处理模型时的谨慎态度。他认为，GPT-2 的逐步发布与公司当前的逐步部署策略一致，并坚信过去的谨慎并非过度，而是必要且负责任的。Brundage 表达了不满和担忧，认为“AGI 分步实现而非一蹴而就”这一说法重写了 GPT-2 的历史。他还指出，公司声称 AGI 将通过逐步发展而非突发突破的说法令人担忧。他表示，OpenAI 发布该文件的目的可能是为安全问题设立标准，或将这些问题视为过度反应，可能带来巨大风险，尤其是在 AI 系统正在日益进步的当下。

这不是 OpenAI 第一次因过度追求进步和利润而忽视长期安全问题受到批评。像 Brundage 这样的专家担心，如果不对 AI 安全保持谨慎，未来可能面临的风险将十分严重。

(责任编辑：于浩淙 zx0176)
关闭

缅甸地震救援困难 余震与高温加大挑战！

缅甸地震救援困难2025-04-01 10:36:33

消防回应广东一工厂突发火灾：全力控制处置中，无人员伤亡

消防回应广东一工厂突发火灾2025-04-01 10:35:17

涉家门口装摄像头 新规施行 规范安装保护隐私

涉家门口装摄像头新规施行2025-04-01 10:34:55

辽宁舰山东舰福建舰呼叫81192返航 国已强，请返航！

辽宁舰山东舰福建舰呼叫81192返航2025-04-01 10:24:55

呼叫81192 念念不忘，必有回响！

呼叫811922025-04-01 10:29:23

四川雅安发生4.6级地震？谣言 网络谣言被举报

四川雅安发生4,6级地震,谣言2025-04-01 10:28:46

特朗普成“大空头”：美国“对等关税”来袭，纳指30个交易日已跌3000点 全球股市受挫

特朗普成大空头,美国对等关税来袭,纳指30个交易日已跌3000点2025-04-01 10:22:50

小米回应SU7高速上碰撞爆燃 成立工作组调查事故原因

小米回应SU7高速上碰撞爆燃2025-04-01 10:25:58

俄战机投3吨级炸弹轰炸乌军 无掩护的士兵基本无法存活

俄战机投3吨级炸弹轰炸乌军2025-04-01 10:33:40

教育部发声！2027和2035年将实现这两个目标 推进语言文字信息化发展

教育部发声,2027和2035年将实现这两个目标2025-04-01 10:25:28

台媒称7艘解放军舰艇在台海周边活动 持续战备警巡

台媒称7艘解放军舰艇在台海周边活动2025-04-01 10:32:29

消防回应广东一工厂突发火灾：全力控制处置中，无人员伤亡

消防回应广东一工厂突发火灾2025-04-01 10:35:17

缅甸地震的危害究竟有多大 次生灾害更令人担忧

缅甸地震的危害究竟有多大2025-04-01 10:32:51

毛不易参加聚餐一味炫饭不说话

毛不易聚餐 一味炫饭不说话2025-04-01 10:28:20

美方不许中方阻止港口交易影响几何 地缘政治博弈升级

美方不许中方阻止港口交易影响几何2025-04-01 10:27:45

杜特尔特以身殉“家”，他能翻盘吗？事关我南海利益

杜特尔特家族能否迎来翻盘2025-04-01 10:27:22

曼城官宣哈兰德伤情 预计赛季末复出

曼城官宣哈兰德伤情2025-04-01 10:33:05

7艘解放军舰艇在台海周边活动 持续战备警巡

7艘解放军舰艇在台海周边活动2025-04-01 10:29:39

特朗普对普京非常愤怒有何意味 可能征收二级关税

特朗普对普京非常愤怒有何意味2025-04-01 10:25:14

名场面+1！甲亢哥本周将到重庆打卡

甲亢哥本周将到重庆打卡2025-04-01 10:22:52

有观点称中方正在对外资展开魅力攻势 外交部回应

有观点称中方正在对外资展开魅力攻势 外交部回应2025-04-01 10:32:07

短发凡真的好飒，有霸总那味儿了

短发张艺凡好飒2025-04-01 10:34:31

明晚油价大涨！今日油价！抓紧时间加油

明晚油价大涨,今日油价2025-04-01 10:33:24

美前副国务卿：从没遇到过这样的总统 特朗普的“交易主义”引发全球担忧

美前副国务卿,从没遇到过这样的总统2025-04-01 10:28:53

中国海油重大发现：南海东部惊现亿吨级油田，助力能源安全

中国海油重大发现,南海东部惊现亿吨级油田2025-04-01 10:23:21

评论员谈“摄像头”新规施行 平衡安全与隐私权

评论员谈摄像头新规施行2025-04-01 10:30:47

缅甸地震救援困难 余震与高温加大挑战！

缅甸地震救援困难2025-04-01 10:36:33

胖东来与盒马奔赴不同的战场 各自征战新领域

胖东来与盒马奔赴不同的战场2025-04-01 10:27:14

台军事专家北京旅行归来后感叹万千：大陆最美的风景是人

台军事专家北京旅行归来后感叹万千：大陆最美的风景是人2025-04-01 10:30:17

小米SU7高速上碰撞爆燃疑烧死3人细节披露，小米汽车回应！

小米SU7高速上碰撞爆燃疑烧死3人2025-04-01 10:25:12

被赞有氧气感的美 卢昱晓陈星旭樱花树下踮脚吻画面好甜

卢昱晓陈星旭踮脚吻2025-04-01 10:32:45

涉家门口装摄像头 新规施行 规范安装保护隐私

涉家门口装摄像头新规施行2025-04-01 10:34:55

全球股市大跳水 黄金大涨再创新高 特朗普关税令引发市场动荡

全球股市大跳水黄金大涨再创新高2025-04-01 10:30:37

特朗普对俄发出制裁威胁有何影响 全球市场震动不安

特朗普对俄发出制裁威胁有何影响2025-04-01 10:25:31

泰国曼谷防灾减灾指挥中心解除曼谷市地震灾区公告 情况趋于平稳

泰国曼谷防灾减灾指挥中心解除曼谷市地震灾区公告2025-04-01 10:23:20

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网