当前位置:新闻 > 探索频道 > 正文

我们需要打造有意识的人工智能吗?

2018-08-13 09:11:09  新浪科技    参与评论()人

此外,意识必须能发挥一定重要功能才行,否则早就在进化过程中被淘汰了。这些功能也可以套用到人工智能身上。而在这方面,科幻作品同样造成了误导。无论是在小说还是电视节目中,意识对人工智能而言都像是一种诅咒。它们会刻意做出无法预测的行为,而这些行为往往对人类不利。但在现实世界中,这种反乌托邦式的情景其实不大可能出现。无论人工智能会造成何种风险,都不取决于它们是否具备独立意识。恰恰相反,有意识的机器还能帮助我们应对人工智能技术带来的冲击。有专家表示,相比毫无想法的自动化技术,他宁愿与这些有意识的机器共事。

AlphaGo与人类围棋冠军李世乭一决高下时,很多专家都在思索AlphaGo为何会按这种方式下围棋。他们想要解释并理解AlphaGo的动机和逻辑依据。这种情况对现代人工智能而言十分普遍,因为它们的决策并非由人类提前设定好,而是通过学习算法和用于训练它们的数据集自发产生。由于无法参透这些人工智能,很多人担心它们的决策可能有失公平、过于武断。现在已经有了算法歧视的例子。如去年的一项调查发现,佛罗里达法官和假释官使用的一套算法存在种族歧视的情况,导致黑人罪犯被标注的累犯概率会高于实际情况,而白人罪犯则低于实际情况。

从明年开始,欧盟法律将给予欧盟居民“要求解释权”。人们将有权要求相关人士解释某个人工智能系统为何会做出某种决策。但这项新要求从技术上来说颇具挑战性。考虑到目前神经网络的复杂程度,我们还很难参透人工智能做出决策的过程,更别提将这个过程翻译成人类能理解的语言了。

如果我们弄不清楚人工智能为何会这么做,能否直接问问它们呢?我们可以为人工智能配备后设认知能力(metacognition),让它们回顾自身行为,报告自己的内部精神状态。这种能力是意识的主要功能之一。神经科学家在测试人或动物是否有意识时,寻找的便是这种能力。例如,自信作为后设认知的基本形式之一,意识体验越清晰明了、自信水平便越高。如果大脑是在不知不觉中处理信息,我们便会对这些信息感觉不太确定;而如果我们清楚地意识到了某个刺激的存在,便会感觉自信许多,比如“我刚才肯定看见了红色。”

关键词:
关闭
 

中国科研人员公布了一个颠覆性的发现

20-02-23 07:47:38武汉,肺炎,疫情

武汉:护士长孙纯的战“疫”日常(组图)

20-02-23 06:58:55护士长,雷神山医院

动真格的3天!武汉“硬核”大排查交卷

20-02-23 01:19:31武汉大排查交卷

著名演员杜雨露因肺癌病逝 享年79岁

20-02-23 00:34:49杜雨露病逝

飞沫、气溶胶、粪口传播?新冠病毒防护干货来了

20-02-23 00:31:49新冠病毒,流氓病毒,疫情防控

湖北洪湖致广大市民朋友的一封信

20-02-23 00:11:04湖北洪湖疫情

日本累计报告763例新冠肺炎病例 钻石公主号634例

20-02-23 00:09:09日本疫情,钻石公主号

黑龙江日报连线钟南山李兰娟两院士

20-02-23 00:05:12钟南山,李兰娟

相关新闻