如何构建安全可信的人工智能？这场“对话”备受世界关注

2022年底，以ChatGPT为代表的人工智能大模型面世，昨天（26日），在山东曲阜召开的世界互联网大会数字文明尼山对话上，与会专家和代表一致认为应加强人工智能发展的潜在风险研判和防范，相关领域立法提速，确保人工智能安全可信可控。

呼吁人工智能立法提速积极贡献中国方案

昨天（26日）上午，世界互联网大会数字文明“尼山对话”主论坛的第一个重要议题就是“构建安全可信的人工智能”。与会专家认为，人工智能在近些年得到了快速发展和普及应用，它的巨大潜力被迅速挖掘释放的同时，对它的潜在风险也应保持高度警惕。

中国科技大学公共事务学院网络空间安全学院教授左晓栋：人工智能的风险和传统的风险相比，它有一些独特的特点，比如说人工智能它是高度的自主智能的，它是要极大依赖数据的，而且这里面还有算法黑箱的问题，还有算法不可解释的问题，都使得人工智能的风险很难预测，而且大量的是未知事物。

与会代表认为，相关科研机构和科技企业在人工智能系统设计之初就要充分考虑安全、可控的风险，只有在这个前提下，人工智能的创新发展才能可持续。

此外，与会代表表示，我国应加快建立人工智能领域相关法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力。

人工智能产业发展势头强劲产业布局提速

据中国信息通信研究院测算，2022年中国人工智能核心产业规模达5080亿元人民币，我国人工智能产业生态正在逐步形成，产业布局也在提速。在昨天（26日）召开的世界互联网大会数字文明“尼山对话”上，与会代表认为，面对人工智能技术发展的突飞猛进，我们既要警惕它存在潜在的风险隐患，也要抓住它所带来的巨大机遇。

这里是位于浙江杭州桐庐县的一座矿山，虽然这段时间正是梅雨季，矿山的工程进度却没有受到任何影响，而这正是得益于传统机械装上了人工智能的“大脑”。工作人员在数公里开外的项目中心，只需要动动键盘和鼠标，就可以远程操控现场的无人挖掘机进行施工作业。

网易伏羲工程机器人业务负责人杨新伟：人工智能挖掘机基本上是所有的场景都可以适用，无论是露天的，还是说隧道里面就是各种危险的场景，它越是危险的场景它越实用。一个人可以同时开3台、5台甚至10台、20台的挖机。基于人工智能大模型所有的工程机械都可以使用，泛化性非常强。

人工智能技术的应用不仅大大提高了传统行业的生产效率，更是让传统制造业变得更有市场竞争力。在杭州的这家丝绸生产企业，原来生产一条丝巾需要经过设计、打样、打印、固色等5至7个流程，而现在通过人工智能现场定制设计，数智化印花一体机开启即时生产，半个小时就可以拿到一条丝巾成品。

万事利丝绸数码印花有限公司技术研发部总监朱海云：传统的丝绸印染企业最大的痛点就是库存压力，现在我们通过人工智能AI的设计，再加上我们的一体机快返的工艺特点，它能够达到一个先销后产的经营模式，能够解决我们库存压力的痛点。