阅读下文,回答问题人工智能赢了,人类该恐惧吗?
刘慈欣
“AlphaGo”和李世石的围棋大战最终以4:1落幕。“赢了!正如我们登上了月球。”当“AlphaGo”在首场“人机围棋大战”中击败韩国著名棋手李世石九段后,“AlphaGo”创始人哈萨比斯第一时间在“推特”上如此写道。伴随人机大战而起的,除了有关人类尊严的话题,就是对人工智能快速发展的恐惧。这种恐惧并非完全没道理,但可能方向错了。
像科幻小说或电影描述的那样,人工智能将“崛起”并最终统治人类,这是许多关心这一问题的人共有的恐惧。计算机刚出现不久,计算速度就远比人快,现在人工智能在围棋比赛中战胜人类,也只是量变而非质变,因为原本计算、检索等就是其擅长领域。而在其他领域,人工智能进展十分缓慢。很多事人类做起来易如反掌,计算机却基本上做不了,最明显的是理解自然语言,目前计算机只能做到把语言抽出来和数据库相匹配进行对应式理解,对于复杂语言的理解,计算机也无能为力。此外,人类的直觉、想象力等能力,对目前的计算机来说非常困难。目前,包括“AlphaGo”在内的弱人工智能,要想在智力上全面超越人类还遥不可及。
强人工智能如真能出现,人类依然可以应对。人工智能不可能强大到没有弱点。人类也不可能预测不到某种级别的强人工智能即将出现,所以必然会在其出现之前采取一系列措施,譬如不让它与外部世界有硬件上的连接或是断绝所有能量供应,让其没办法生存等。再退一万步,即便强人工智能最后自我生存下来,避免被人类消灭,人类也可能找到与之共存的方法,并不是一定会被其奴役,比如人机结合就是一个共存的途径。
人类要想抵达强人工智能阶段,至少还面临三道技术障碍,最终它们能不能被克服,目前仍不得而知。第一,我们对自身意识的产生、智力以及脑科学研究还处于初级阶段。大脑神经元数量就像银河系的星星一样有上千亿个,每一个神经元结构都极其复杂。第二,目前计算机的性能提升速度很快,但使用的结构与我们的大脑结构完全不同。而对新结构的计算机研究进展却很缓慢。第三,更为传统的障碍是现阶段计算机总体计算容量还没达到人脑的容量。
其实,我们更应担忧的是人工智能将抢走人类的工作,而这种进程已经开始。目前,电子商务中的选货、付款等网络销售系统操作过程都需依赖人工智能。在可见的未来,更多的服务性行业、机械性的工作都将由人工智能替代,它可能让我们的社会结构产生很大改变。
因此,现在也到了需要考虑人类与人工智能关系的时刻。现在看来,人工智能和人类兼具伙伴、朋友和竞争对手的关系。核能最初作为恐怖武器曾可能毁灭世界,但最后还是人类的理性战胜了疯狂,现在核能基本被关到笼子中,成为了人类伙伴。人工智能也是这样,发展人工智能肯定面临风险,但任何技术发展都面临风险,人类不会因此而不去发展。人工智能是人类文明发展的希望,但发展过程中如果有危险,那我们必须共同去面对,并努力消除它。
(选自2016年3月《环球时报》,有删改)
【链接一】人类水平的人工智能被称为强人工智能。我们目前能看到的人工智能被称为弱人工智能,主流科研集中在此。如果人工智能研究者最终设法跨越实现了强人工智能,那结果应该不是一台仅能匹敌人类智力水平的计算机。强人工智能最终会被用来引导自己的智力发展,它会专注于提高自己的设计,重新改写自身软件,使用进化技术来创建、测试和优化改进其设计,这将带来迭代过程,每次修改后系统都将变得更聪明能干。随着循环不断加快,最终的结果将产生智能爆炸,很可能最终产生一台比任何人类都聪明十万甚至上百万倍的机器。(节选自2016年3月《三联生活周刊》)
【链接二】人工智能领域有一个悖论,叫作莫拉维克悖论。对人工智能而言,高层次的推理几乎不需要计算,但低层次的感觉运动技能则需要大量的计算。这就导致一些对于人类来说非常困难的任务,例如精密点焊机等,对于机器人来说非常简单;而很多对于人类来说非常简单的任务,例如清理餐桌等,对于机器人来说却非常困难。这应了图灵奖得主、计算机科学家唐纳德•克努特的话:“目前,人工智能在所有需要‘思考’的领域中成功了,但是却在人和动物‘不思考’的领域中失败了,‘不思考’比‘思考’在某种程度上更难。”(摘自网络,有删改)
【链接三】1997年,IBM公司制造的著名的“深蓝”计算机在一场国际象棋比赛中击败了世界国际象棋冠军盖瑞•卡斯帕罗夫。“深蓝”的运算速度是人脑的几百万倍,它就像一台计算器,会算算术但毫不理解什么是数学。前不久,谷歌公司开发的一款围棋程序“AlphaGo”以4∶1战胜了韩国棋手李世石。“AlphaGo”的表现则完全让人看不出是电脑在下棋,“AlphaGo”的成功秘诀就是模仿人类通过神经网络进行“深度学习”。“深度学习”是指多层的人工神经网络和训练它的方法。通俗讲就是指计算机通过深度神经网络,模拟人脑的机制来学习、判断、决策。(摘自网络,有删改)