刘慈欣点评人机大战：没必要对人工智能恐慌

　　众所周知，人工智能的发展，是科幻文学的一大素材。科幻作家对人机大战以及最终的结局有怎样的思考和看法呢？在AlphaGO最终4：1战胜李世石后，华西都市报记者采访了“科幻大神”、《三体》作者刘慈欣。刘慈欣认为，人工智能的“奇点”远未到来。AlphaGO的胜利，跟之前人工智能的表现，并没有发生质变。我们人类也没有必要对人工智能恐慌。

　　1

　　关于机器人的情感

　　——“如果输掉的那一局是‘故意的’，那也是Google软件的工程师的‘故意’，不是机器人的‘故意’。”

　　华西都市报：刘老师您好！您一定也关注了最近AlphaGo与李世石的围棋对战。有人认为，AlphaGo输掉的那一局，有可能是“故意的”。因为如果横扫人类棋手的话，可能会惹恼人类，甚至引发人类对机器人的警惕和防备心。如果是这样，那说明人工智能已经有了“意识”和“自我意识”。从科幻作家的角度，您怎么看这种猜想？奇点真的到来了吗？

　　刘慈欣：如果输掉的那一局是“故意的”，那也是Google软件的工程师的“故意”，不是机器人的“故意”。 据我的了解，从人工智能目前发展的水平来看，这种猜想的可能性，是不存在的。因为，人工智能目前的发展，还非常初级，远没有达到可以有“意识”、“自我意识”和“情感”的水平。我认为，人工智能的“奇点”并没有到来。当下的人工智能，以4:1战胜人类，只是量变。目前有那种“人工智能的奇点到来”想法的人，要么是对人工智能目前的发展状况不了解，要么是故意危言耸听，甚至有商业炒作的嫌疑。

　　华西都市报：机器人“自我意识”和“情感”，在未来还是有出现的可能性吧？科幻小说中出现了很多这种状况。

　　刘慈欣：在科幻小说中，机器人有情感，有意识，早已经不是新鲜事了。100多年前就有人写。理论上说，现实生活中出现这个可能性，也并非为零。但是，现实中真要达到这种程度，还很遥远。

　　2

　　关于机器人的伦理

　　——“人类未来就一定会被机器人彻底取代的想法，目前是站不住脚的。”

　　华西都市报：这次人机大战，还让一些人对“机器的伦理”进行思考：机器是人制造的，初衷是为人所用，用于解放人类，为人类的福利服务。但现在机器人取代人工，却造成人类失业，从而造成人类自身秩序混乱。该如何看待这种想法？

　　刘慈欣：人类大部分工作被机器代替的进程，的确已经开始了。其实，机器本来就是人类制造出来，用于延伸我们身体、智力的替代设备。这肯定给人类社会带来冲击，甚至深刻改变人类社会的组织机构。但具体会带来怎样的改变，变成什么样，目前还很难准确预测。

　　华西都市报：有人开始担心，如果人工智能疯狂发展到失控，机器人会全面、彻底代替人类。

　　刘慈欣：我觉得，机器人彻底代替人类，这种状况的到来，即使有可能出现，也会是离当下很遥远很遥远的将来。因为，机器人全面、彻底取代人类，还面临很多技术障碍。这个技术障碍，有可能会在遥远的将来被克服，也可能永远不可克服。所以，那种“人类未来就一定会被机器人彻底取代”的想法，目前是站不住脚的。

　　3

　　关于机器人的未来

　　——“人类现在就开始恐慌，根本没有任何必要。”

　　华西都市报：也就是说，对人工智能的发展，人类现在还没必要有恐慌心理？

　　刘慈欣：对人工智能的发展，人类现在就开始恐慌，根本没有任何必要。可能我们目前唯一需要担心的是一个现实问题：机器人大面积代替人类的工作，造成失业现象，对社会带来冲击。我想，这个冲击，人类还是有足够的智慧，采取适当的措施，应对和解决这个冲击。人类还是有很多可干的事情。比如去多做一些有创造力的事情。

　　华西都市报：那么，当下人类还是应该抱着开放的心态去发展人工智能，哪怕未来会给人类带来很多风险。是吗？

　　刘慈欣：肯定不能保守。事实上，不只是人工智能，任何技术

　　的发展，都会面临风险。比如核能。不能因为有风险，就停止发展技术。

　　华西都市报记者张杰