中华网

设为书签Ctrl+D将本页面保存为书签,全面了解最新资讯,方便快捷。
军事APP
当前位置:新闻 > 国际新闻 >

如何把控人工智能

如何把控人工智能
2018-05-15 07:11:23 新华网

近年来,随着人工智能技术的快速发展,公众的担忧有所上升。最响亮的声音之一来自于已故的斯蒂芬·霍金教授,他认为人工智能可能会毁灭人类。那么,该如何看待人工智能的威胁?应该采取行动控制人工智能吗?是否要像对待核能和其他潜在危险的技术一样,制定法律甚至是国际条约来控制人工智能的发展?

回答这些问题之前,首先需要明确的是,人工智能的成就目前仍很有限。现在的人工智能系统能够执行20年前计算机不可能完成的任务。比如,现在全世界每天都有数以百万计的人在使用文本自动翻译工具;无人驾驶汽车即将问世,未来10年将出现在马路上;计算机现在比人更善于识别人脸等。尽管这些成就令人印象深刻,但人们还是不知道应该如何使机器具有意识和自我感知。因此,在可预见的未来,人工智能接管世界仍将是科幻小说的情节。当然这并不意味着我们可以高枕无忧。

人工智能系统越来越多地被用于做出决策,这对人们产生了直接影响。例如,银行发现人工智能系统善于预测潜在客户是否会成为优质客户——是否会按时还债等。他们可以通过使用大量的客户记录,来“培训”一个人工智能系统。一段时间后,这一系统将能够分析潜在客户的详细信息,从而预测其是否优质。对于银行来说,可以迅速而低廉地决定是否需要一个特定的客户。但对于客户自身而言,应该会感到担忧:如果银行的人工智能系统在某种程度上存在偏见怎么办?

这就是算法偏见。当前人工智能浪潮的一个特点是,系统无法像人那样,解释或合理化其所做的决定。所以,银行可能会使用人工智能系统来决定不与你做生意,但却不能给你解释原因。这公平吗?银行这样运作合乎道德吗?谁来对这个决定负责?

这些问题不容忽视。一种解决办法是,建议对人工智能技术的使用进行监管。我认为通过一般法律来管理人工智能的使用是不现实的,这似乎有点像试图通过立法来管理数学的使用。一个似乎正在被接受的办法是,如果软件做出了影响你的决定,那么你应该有权知道这个决定是如何做出的,使用了哪些和你有关的数据,标准是什么。我认为这比较合理。使人工智能可解释化和透明化,是当今这一领域面临的最大挑战之一。

在某些情况下,人工智能决策可能直接事关生死,比如在战场上使用人工智能系统。尽管目前还没有证据表明这种“致命性自主武器”已经被使用,但确实已经具备了可能性。过去5年来,人工智能领域的科学家们积极行动,希望政府认识到这一问题的严重性并做出应对。最近英国政府在一份报告中明确表示,永远不给人工智能系统伤害人的权力。

人工智能只是一种技术,就像任何技术一样,可以用来造福人类,也可能带来危害。条件反射式的立法,对于把控人工智能不太可能奏效。我们需要以负责和道德的方式使用人工智能,正如最近全球关于自主武器的讨论取得进展一样,国际社会需要应对解决人工智能带来的挑战。

(作者为英国牛津大学计算机系主任迈克尔·伍尔德里奇)

关键词:

相关报道:

    关闭
     

    男子闯进幼儿园喷氢氧化钠液体致54名师生受伤

    19-11-12 09:34:22男子闯进幼儿园 喷氢氧化钠液体

    江苏启东一初中男生在宿舍楼坠楼 警方介入调查

    19-11-12 10:50:03江苏 初中男生坠楼 宿舍楼

    非常罕见,三位正国级领导人同时国外出访!

    19-11-12 10:35:58三位正国级领导人同时国外出访

    别惦记兵哥哥啦!116名“东风快递小哥”脱单

    19-11-12 10:34:12116名东风快递小哥脱单

    暴徒恐吓警察子女袭击校车 香港妈妈:救救孩子

    19-11-12 10:26:02香港 恐怖袭击 暴徒

    接受墨西哥政治庇护 玻利维亚前总统:我还会回来

    19-11-12 10:16:11接受墨西哥政治庇护 玻利维亚前总统

    约旦收回租借给以色列25年土地,内塔尼亚胡挨批

    19-11-12 09:56:28约旦收回租借给以色列25年土地

    专家学者:大陆主导两岸关系走向

    19-11-12 09:14:33大陆主导两岸关系走向

    台媒强行尬黑“双十一”暴露智商,台网友都看笑了

    19-11-12 07:46:25台媒强行尬黑“双十一”

    余烬未散的“伊斯兰国” 东南亚女佣或成招募新目标

    19-11-12 07:43:43“伊斯兰国”东南亚女佣

    香港警方介绍开枪事件:暴徒欲抢枪 警方被迫开枪

    19-11-12 07:39:36香港警方介绍开枪事件

    日本游客香港街头遭袭 日网友:这不是暴行是什么

    19-11-12 07:35:46日本游客香港街头遭袭

    中国拒收“洋垃圾”后 日本面对这个问题十分“头疼”

    19-11-12 07:34:01中国拒收“洋垃圾” 中国拒收“洋垃圾”

    韩国瑜率先亮出“副手牌”,组“国政配”对决蔡英文

    19-11-12 07:31:27韩国瑜率先亮出“副手牌”

    相关新闻