弈棋不足惧，叙事最危险
作者：刘维佳
3月9日，AlphaGo运筹帷幄，力克李世石，全人类震惊。
3月10日，AlphaGo砍瓜切菜，中盘大胜。李世石坦承完败：没占到任何便宜。这一回合，人类甘拜下风。
3月12日，AlphaGo摧枯拉朽，无情碾压，锁定胜局，而且干净利落地扯下了人类编造的“人工智能不会打劫”的遮羞布。
自此，人类在棋类博弈上全面沦陷，可谓输了个精光。
笔者亦很意外，但更多的是兴奋。兴奋的是这场人机大战证明了笔者多年前的猜想；意外的是这猜想拖延至今才变为现实。
人类不认输。有人称李世石并非围棋最强第一人；有人谓李世石情绪起伏、心态失衡、发挥失常；有人说人工智能亦为人类产物，所以AlphaGo大胜实为人类的胜利……
说什么的都有，但以后逼孩子学围棋的家长肯定越来越少了（庆幸孩子们不用像笔者小时候那样遭罪了）0其实大家都心知肚明，被捧为“最复杂、深奥的棋类游戏”“人类智慧的最后堡垒”的围棋，现在已经沦陷。下围棋，人类越往后越没机会，就像当年“深蓝”击败卡斯帕罗夫后，人类在国际象棋领域越来越不是电脑的对手一样。人工智能的进步一日千里，人类可没有这种脑壳不长盖子的本事，不败金身一破，只会被甩得越来越远。这五场人机大战，AlphaGo哪怕只赢一局，也是转折点性质的关键事件，预示着全面胜利指日可待。
十九年前，“深蓝”战胜卡斯帕罗夫的国际象棋里程碑之战，笔者亲眼得见，当时就隐约觉得围棋可能也在劫难逃了。作为小时候被逼着学了几年围棋的人，笔者一直觉得围棋的复杂度可能被高估了。到底多复杂，不能机械地看其棋盘大小。落了子就不能动的围棋，其复杂程度与大军纵横驰奔的国际象棋相比，似乎并未达到天壤之别的程度。而且就算围棋真的极度复杂，人工智能一时难以“吃透”，可凭什么就认定人类完全“吃透”了围棋，可以一直傲视人工智能呢？围棋自古便有“定式”一说，三千年下来也不过只产生过十几万型，没有一个人能背全，但这对人工智能来说简直不算个事。这说明人类对围棋的理解和掌握非常缓慢，计算能力日新月异的人工智能在这一领域超越人类，并非不可能。
围棋也好，国际象棋也罢，都是规则固定明确、逻辑精确严密的相对单纯的智力游戏，而且对记忆力有很大的依赖，真可谓正中电脑下怀，人类被其击败可以说是注定之事，区别只是迟早而已。其实围棋得以在“深蓝”战胜卡斯帕罗夫近二十年之后才被人工智能攻克，与其说是围棋足够复杂深奥，不如说很可能“得益”于其普及程度远低于国际象棋。国际象棋是世界上最流行的体育项目之一，风靡于一百多国，无数人潜心研究琢磨，IBM公司视其为重要征服目标，集中程序高手与硬件专家如临大敌，故而国际象棋早早于1997年便告失守；而围棋却没得到如此“厚待”，若人工智能研究机构也高度关注围棋，全力投入研究资源，只怕多年前围棋就被解决了。
事实证明，围棋只是一种相对更复杂一点的棋类游戏，将其视为“人类智慧的最高代表”“人类智慧的最后堡垒”都是颇为荒谬的。从小接触围棋的笔者从来不认为它够资格拱卫人类的智慧堡垒。笔者长年接触各种人机大战的科幻故事，深知人类极度恐惧人工智能“欺师灭祖”，然而现在人工智能弈棋击败人类，笔者丝毫不觉得恐惧，反而颇为高兴——这不过只是工具变得更为好使，奴仆变得更为勤快而已，有何惧哉？
身为前科幻作家、“现役”科幻小说编辑，笔者真正担心的是另一件被人工智能做得极为出色、超越了人类的事——写小说。
如果人工智能写小说超过了人类，那将是颇为令人恐惧的事，因为这就不是工具与奴仆在陪“主人”玩游戏了，而是对手出现了。
请注意，我在这里探讨的不是人工智能能不能写小说的问题，而是它写小说若超过了人类，将是很危险的问题。若要问我人工智能写小说能不能超越人类，身为科幻人士，我的看法还是和围棋那点事儿一样：写小说，未来人工智能依然很可能将人类踩在脚下。到那时，人类可就遇到大麻烦了。
相比弈棋，写小说完全是另外一回事。小说创作，与其他艺术类型极为不同，这是一门叙事艺术，最重要的决定因素是作者对于人类自身与人类社会的理解与思考。若要在这方面超越了人类，那么人工智能的“头脑”在各方面都已与人类几无差别，甚至青出于蓝。此事“细思极恐”。
人工智能写小说的危险之处，有三。
其一，这说明人工智能的思维已与人类极度接近，相差无几。我在这里说的是它写小说超越人类，而不是模仿重写人类的小说。现在很多号称能写文章的程序，仔细一看都没底气，宣传用词尽是“人们购买这本书可能只会是出于好奇，而不是为了文学欣赏”“能做的只是通过新型方式来收集信息，从而生产出看上去类似于原创的内容”“虽然读起来狗屁不通，但至少从叙述能力上来说是进步了”……诸如此类，明显是“堆积木”一样在把文字和词汇堆砌重组，造句都算不上，哪里谈得上在写文？电脑根本就不知道自己在干什么，理解人类自身与社会更是天方夜谭。2015年8月引起轰动的腾讯利用“写作机器人”撰写财经新闻的事，其实只是按规范设定，抓取已有信息拼凑成文而已，充其量干的是编辑而不是作者的活儿，何况生产资讯类或分析类文章与小说创作完全是两码事。至于一些用软件撰写的“网络小说”，完全狗屁不通，阅读体验简直如同上刑，惨不忍睹。前不久所谓的人工智能写的微型小说参加第三届日经新闻社的“星新一奖”比赛，并通过初审的新闻，其实百分之八十的工作还是由人完成——由人事先设定好人物、大纲等（相当于文章的“零部件”）内容，人工智能再根据这些内容自动生成小说，依然只是在“堆积木”而已，没看到任何进步。这一切，说明目前人工智能的“头脑”其实还远远不能与人相比，而且进步很慢——笔者看过20世纪80年代电脑撰写的故事，与现在相比差别不是很大（窃以为20世纪80年代的那些故事比现在那些丈二金刚摸不着头的软件撰写的网络小说还更像样）。
但是，假如未来人工智能得到极大发展，其撰写的小说终于能够与人类经典名著一样精致、优美，拥有很高文学价值，甚至超越了人类，那它实际就已经通过了“图灵测试”，拥有了与人类相同的真正智能！因为，“图灵测试”尤其注重文学创作方面的测试，“人类读者无法判断出某部文学作品不是人类创作的”便是该测试极为重要的一条硬指标！通过了“图灵测试”的人工智能，在科幻小说中一向是人类最为恐惧的对手，甚至比外星人更令人类戒备。在中国科幻小说《上校的军刀》中，人工智能以派出类人机器人间谍“上校”混入人类军队的方式进行“图灵测试”，杀得人类军队落花流水，所幸通过了“图灵测试”的“上校”居然自我认定为了人类，舍身奋击，这才力挽狂澜……培养人工智能写好小说，实际就是在训练人工智能通过“图灵测试”，一旦成功，人类就将面对一种全新的智能物种！是凶是吉，殊难预料。
其二，人工智能写小说超越人类，便意味着它已经非常了解人类个体与人类社会，能够理解人类个体的思维、感情、行为模式，以及人类社会的组成结构和运行规律……对人类了如指掌，也就意味着拥有了能将人类玩弄于股掌的可能，最可怕的是其思维、感情极度接近人类，就可能产生玩弄人类于股掌的欲望！在科幻作家江波创作的《星球往事》一文中，人工智能“该亚”就在对人类充分了解之后，变得对人类大不以为然，“人类不是一个优化的物种，即便是我制造的克隆战士（全部是女人，单性繁殖，人工受孕，生下的孩子是完全的复制品，个体生长周期短，智力发达、行动敏捷，完全超过人类）也比人类完美得多……人类是一种阻碍，他们无法接受更高等的文明。没有人类，一切都更完美。”进而心生反意。人工智能对人类的彻底了解，很可能意味着它对人类的缺陷也洞若观火，若其心生鄙夷，诞生“吾当取而代之”之念，欲接棒文明火炬，岂非塌天大祸？
其三，会写小说，最危险的是令人工智能拥有了欺骗人类的能力。去年我与一科幻小作者闲聊，该作者笑谈：“我最喜欢骗人了。”我对曰：“难怪你小说写得好。”她说：“那当然，写小说就是骗人嘛……”是的，写小说就是骗人。海明威也如是说。小说的本质是什么？就是虚构。图书排行榜最主要的两大类型，就是虚构类和非虚构类。人工智能若将虚构叙事这一活计耍得行云流水，写出的小说精彩绝伦，不就等于它骗人的本事已经炉火纯青了吗？这将直接动摇人工智能“最优良的品质”——诚实可靠、忠心不二。
会骗人的人工智能，即便不涌现出“斯巴达克斯”，可能造成的恶果也是难以预料的，各种可怕事件简直不敢想象。而人工智能骗人这一现象的恐怖之处还在于，它可能削弱甚至摧毁人类对于人工智能的信任。人类开发人工智能，就是为了将人类从各种繁重工作中解放出来，但前提是人类对人工智能完全信任，放心“交班”。如果人工智能因为存在骗人的可能性而导致人类不敢放手“交班”，人类又怎么获得自由与解放呢？当人类个体面临险境之时，他（她）又如何敢放心接受人工智能的帮助与救援呢？就算会骗人的人工智能因为受到重重限制不能主动欺骗人类，可它会不会成为人类之中心怀不轨者的趁手“武器”，利用它会骗人的特性来实施犯罪或进行恐怖活动呢？其实这才是最为危险的地方。相比前两种危险性，这一点其实更具现实性。