当前位置:新闻 > 国际新闻 > 正文

如何把控人工智能

2018-05-15 07:11:23    新华网  参与评论()人

近年来,随着人工智能技术的快速发展,公众的担忧有所上升。最响亮的声音之一来自于已故的斯蒂芬·霍金教授,他认为人工智能可能会毁灭人类。那么,该如何看待人工智能的威胁?应该采取行动控制人工智能吗?是否要像对待核能和其他潜在危险的技术一样,制定法律甚至是国际条约来控制人工智能的发展?

回答这些问题之前,首先需要明确的是,人工智能的成就目前仍很有限。现在的人工智能系统能够执行20年前计算机不可能完成的任务。比如,现在全世界每天都有数以百万计的人在使用文本自动翻译工具;无人驾驶汽车即将问世,未来10年将出现在马路上;计算机现在比人更善于识别人脸等。尽管这些成就令人印象深刻,但人们还是不知道应该如何使机器具有意识和自我感知。因此,在可预见的未来,人工智能接管世界仍将是科幻小说的情节。当然这并不意味着我们可以高枕无忧。

人工智能系统越来越多地被用于做出决策,这对人们产生了直接影响。例如,银行发现人工智能系统善于预测潜在客户是否会成为优质客户——是否会按时还债等。他们可以通过使用大量的客户记录,来“培训”一个人工智能系统。一段时间后,这一系统将能够分析潜在客户的详细信息,从而预测其是否优质。对于银行来说,可以迅速而低廉地决定是否需要一个特定的客户。但对于客户自身而言,应该会感到担忧:如果银行的人工智能系统在某种程度上存在偏见怎么办?

这就是算法偏见。当前人工智能浪潮的一个特点是,系统无法像人那样,解释或合理化其所做的决定。所以,银行可能会使用人工智能系统来决定不与你做生意,但却不能给你解释原因。这公平吗?银行这样运作合乎道德吗?谁来对这个决定负责?

这些问题不容忽视。一种解决办法是,建议对人工智能技术的使用进行监管。我认为通过一般法律来管理人工智能的使用是不现实的,这似乎有点像试图通过立法来管理数学的使用。一个似乎正在被接受的办法是,如果软件做出了影响你的决定,那么你应该有权知道这个决定是如何做出的,使用了哪些和你有关的数据,标准是什么。我认为这比较合理。使人工智能可解释化和透明化,是当今这一领域面临的最大挑战之一。

相关报道:

    火力超坦克排!装甲列车混装重炮及导弹

    18-09-04 14:55:11装甲列车,坦克

    73年前的今天 我们胜利了!

    18-09-03 10:42:43中国人民抗日战争胜利纪念日

    林志颖震后发文报平安 刚出电梯就遇上地震太惊险

    19-04-18 16:10:29林志颖震后发文报平安

    罗晋发博称自己地震时一口气冲下27楼 真的太可怕了

    19-04-18 16:09:19罗晋发博称自己地震时一口气冲下27楼

    柯震东晒与粉丝聊天记录悔意十足 没有戏拍的他原来在干这个

    19-04-18 16:07:27柯震东晒与粉丝聊天记录悔意十足

    杀手扮成快递员送货 纸箱里藏弓弩射中女子胸部

    19-04-18 14:33:16杀手扮成快递员送货

    广西人,食物链顶端的王者

    19-04-18 14:31:11广西人,食物链顶端的王者

    郑秀文被曝情绪崩溃 众好友发声安慰帮渡难关

    19-04-18 14:27:45郑秀文被曝情绪崩溃

    Anglebaby模仿巩俐!腿的肤色吓到网友

    19-04-18 14:13:14Anglebaby模仿巩俐

    郑秀文闺蜜发800字长文痛骂许志安 网友称赞真是大快人心

    19-04-18 14:12:28郑秀文闺蜜发800字长文痛骂许志安

    看一个女人的身材就知道她的气质和修养

    19-04-18 14:04:15看一个女人的身材就知道她的气质和修养

    相关新闻