专家：探索人工智能45°平衡律 —— 兼顾安全与性能发展

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2024-07-04 16:02:55 文汇

专家：探索人工智能45°平衡律

7月4日，2024世界人工智能大会与人工智能全球治理高级别会议在上海拉开帷幕。会上，上海人工智能实验室的主任及首席科学家周伯文教授发表了重要演讲，他同时也是清华大学惠妍讲席教授及衔远科技的创始人。周教授在演讲中提出了一个新颖的技术理念——探索人工智能45°平衡律（Towards AI-45°Law），旨在强调AI安全的重要性，同时确保技术性能的持续发展。专家：探索人工智能45°平衡律！

周伯文指出，尽管基于大模型的生成式AI正迅速进步，但其能力和应用的拓展也引发了对潜在风险的关注。这些风险涵盖了数据隐私泄露、恶意使用导致的虚假信息传播、算法偏见，乃至对就业市场和社会系统的长远影响。在科幻影视作品中，AI失控的情景更是屡见不鲜，加剧了公众的忧虑。

他强调，防范AI风险需社会各界通力合作，科研界尤应承担起责任。去年，众多国际AI专家与公众人物联名签署《Statement of AI Risk》，表达了对AI潜在威胁的警惕，并提议将其防控上升至全球优先级。

周教授分析称，当前AI发展失衡，性能提升显著，而安全措施却相对滞后且分散，形成“跛脚”状态。他将此形容为Crippled AI，背后的原因在于安全领域相较于AI能力的发展，在研究体系、人才、资金和算力投入上均有显著差距。

因此，他提倡追求Trustworthy AGI（可信的通用人工智能），主张在保障安全的前提下促进性能提升，即AI-45°平衡律。这一理念鼓励在AI发展中采取技术驱动、全面优化、多方协作及灵活管理的策略，确保安全与性能的长期均衡发展。

上海人工智能实验室正在探索一条以因果关系为核心的技术路径——“因果之梯”，旨在分阶段实现可信AGI的泛对齐、可干预和能反思，每一阶段都对应着不同的安全技术与性能提升策略，旨在逐步迈向安全与高效并重的AI未来。

周教授展望，通过深入探索AI的内在机理和因果逻辑，AI技术有望如可控核聚变般，为人类社会带来正面且深远的影响。他呼吁全球合作，加强AI安全技术共享、人才培养与国际合作，共同塑造一个开放且安全的AI生态环境。

(责任编辑：卢其龙 CN070)

关闭

专家：探索人工智能45°平衡律 —— 兼顾安全与性能发展

相关新闻

今日热点

频道热点