财新传媒
位置:博客 > 王曦 > 凯文·凯利|机器和人类的结局会怎样?

凯文·凯利|机器和人类的结局会怎样?

封面图片:《完成》
       画家:古斯塔夫·克林姆 | 1909年
      “方形和圆形交织在一起,似是在暗示相拥的男和女不仅在身体上,更是在精神上完全融合。”

节选自《必然》
       作者:凯文·凯利


数字神经网络在20世纪50年代就被发明出来,但是计算机科学家花费了几十年时间学习如何驾驭数百万甚至数亿神经元之间多如天文数字的组合关系。其中的关键在于将神经网络组织成叠层(staked layers)。可以用相对简单的人脸识别任务举例。

当神经网络中的一组数位被发现能触发某种图案,比如一只眼睛的图像,这个识别的结果(“啊,是只眼睛!”)会被移到神经网络的下一层级做进一步解析。下一层级可能会将双眼归在一组,并把这个有意义的数据块传到层级结构的更下一层级,该层级能够将双眼和鼻子的图案关联在一起。识别一张人脸可能需要数百万这类节点(其中每个节点产生一个计算结果供周围的节点使用),并需要叠加多达15个层级。2006年,当时就职于多伦多大学的杰夫·辛顿(Geoff Hinton)对这个方法做出了关键改进,并将其称为“深度学习”。他能对各个层的数据结果进行数学上的优化,从而加快了进一步叠层时的学习速度。数年后,当深度学习算法被移植到GPU集群上时,速度有了大幅提升。深度学习代码本身不足以产生复杂的逻辑思维,但它是当下所有人工智能产品的基本组成部分,这些产品包括IBM的沃森、DeepMind、谷歌的搜索引擎以及脸谱网的算法。

由并行计算、更大量的数据、更深层次的算法组成的这场完美风暴,让酝酿了60年的人工智能仿佛一夜间获得成功。它们的组合表明,只要这些技术趋势继续下去——没有不继续的理由,人工智能就将持续进步。

这样下去,这种基于云端的人工智能愈将成为我们日常生活中根深蒂固的部分。但这是有代价的。云计算遵循收益递增(increasing returns)法则,有时又叫网络效应(network effect)。这一法则指出,网络规模扩大的速度远远赶不上其价值增加的速度。网络规模越大,对新用户的吸引力越强,这就让它(的规模)变得更大,从而更具吸引力,如此往复下去。一个为人工智能服务的云端也将遵循这一法则。越多人使用人工智能,它就会变得越聪明;它变得越聪明,越多人就会使用它;当它更聪明时,就会有更多人使用它。一家公司进入这个良性循环后,规模会变得极大,发展速度极快,以至于对其他新兴竞争对手形成压倒性优势。结果就是,未来的人工智能将由两到三家寡头公司主导,并以基于云端的多用途商业产品为主。

1997年,沃森的前辈——IBM的(超级电脑)深蓝(Deep Blue)在一场著名的人机对弈中击败了当时具有统治地位的国际象棋大师加里·卡斯帕罗夫(Garry Kasparov)。当电脑又赢得了几场比赛后,人类选手基本上对这种比赛失去了兴趣。你或许会认为这就是故事的结局(如果不是人类历史的终结),但卡斯帕罗夫意识到,如果他也能像深蓝一样即时访问包含先前所有棋局中棋路的大规模数据库,就能表现得更好。如果人工智能选手使用数据库工具被认为是公平的,那么人类为什么不能使用呢?为了实现用数据库加强人类大师的心智的想法,卡斯帕罗夫率先提出了“人加机器”(manplus-machine)的概念,即在比赛中用人工智能增强国际象棋选手水平,而不是让双方互相对抗。

如今,这种比赛被称为自由式国际象棋比赛,它们和混合武术对抗赛相似,选手们可以使用任何他们想用的作战技巧。你可以在没有协助的情况下比赛;也可以成为极其聪明的国际象棋电脑的傀儡,仅仅按照它的指示移动棋子;或者你可以当一个卡斯帕罗夫提倡的“半人马”型选手,也就是人类和人工智能结合的赛博格(Cyborg)。这种选手会听取那些人工智能提出的走棋建议,偶尔也会否决他们,颇似我们开车时使用GPS智能导航的情景。对任何模式的选手开放的2014年自由式国际象棋对抗锦标赛上,纯粹使用人工智能国际象棋引擎的选手赢得了42场比赛,而“半人马”型选手则赢得了53场。当今世界上最优秀的国际象棋选手队伍就是“半人马”型的Intagrand,它由一个人类团队和几个不同的国际象棋程序组成。

但更让人意外的是人工智能的出现并未削弱纯人类国际象棋选手的水平。恰恰相反,在廉价且超级智能的国际象棋软件的激励下,下国际象棋的人数、锦标赛的数量以及选手的水平都达到了历史之最。与深蓝首次战胜卡斯帕罗夫时相比,拥有国际象棋大师头衔的人数至少翻了一番。现今排名第一的人类国际象棋选手马格努斯·卡尔森(Magnus Carlsen)就曾和人工智能一起训练,并且被认为是所有人类国际象棋选手中最接近电脑的一个。他还是有史以来评分最高的人类国际象棋大师。

既然人工智能可以帮助人类成为更优秀的国际象棋选手,那么合理地推测,它也能帮助我们成为更优秀的飞行员、医生、法官、教师。大多数人工智能完成的商业工作都将由专注某个狭小领域的专门化智能软件负责。比方说,它能把某种语言翻译成另一种语言,但不能干别的;它可以开车,却不能和你交谈;它能记得YouTube上所有视频里每个像素,却无法预测你的日常工作。在接下来的十年里,与你产生直接或间接互动的人工智能产品有99%都将是超级智能的自闭型“专家”。

事实上,这并非真正的智能,至少不是我们细想后希望得到的。其实智能或许是种累赘,如果说“智能”意味着我们特有的自觉意识、疯狂的自省循环以及凌乱的自我意识流,那么结论尤其如此。我们希望自动驾驶汽车能够超乎常人地专注于道路,而不是在纠结之前和智能车库之间的争执。医院里的综合“沃森”医生能一心扑在工作上,永远不要去想当初是不是该学金融专业。随着人工智能的发展,我们可能要设计一些手段阻止它们拥有意识,而当我们宣传最优质的人工智能时,很可能给它打上“无意识”的标签。

我们想要的不是智能,而是人工智慧。与一般的智能不同,智慧是专注的、能衡量的、专门化的。它还能够用完全不同于人类认知的方式思考。2014年3月,得克萨斯州奥斯汀西南偏南音乐节(South by Southwest festival)上的特技表演就是一个关于非人类思维的精妙例子。当时IBM的研究员给沃森加入了一个烹饪数据库,其中包含网上菜谱、美国农业部(USDA)营养成分表以及如何让配方更可口的研究报告。凭借这堆数据,沃森从味道资料以及现有的菜式中创制出新菜品,厨师则很乐意地把它们做出来。众人最爱的一道菜是美味版的“鱼和薯条”(fish and chips),它是用酸橘汁腌鱼和油炸车前草制成。在约克敦海茨的IBM实验室吃午饭时,我津津有味地品尝着这道菜以及另一道沃森的发明:瑞士/泰式芦笋乳蛋饼。味道不赖!这两道菜怎么看都不像是人类所能想到的。

非人类智能不是一个程序错误,而是一项功能。会思考的机器最重要的特征就是它们思考的方式与人类有差别。

由于进化过程中的一种巧合,我们成为漫游在这个星球上唯一拥有自我意识的物种,这让我们误以为人类的智能是独一无二的。然而它不是。我们的智能只是某个特定社会的智能,和宇宙中可能存在的其他智能和意识种类相比,它只占据一个小小的角落。我们喜欢把人类的智能看作是“通用的”,因为和我们遇到的其他心智相比,人类的心智能解决更多种类的问题,但是当我们创建了越来越多的综合心智后,我们开始意识到人类思维并不通用,它只是思维的一种。

今天,不断涌现的人工智能的思维方式就与人类不同。它们在完成诸如下国际象棋、开车、描述一张照片的内容等我们曾认为只有人类能做的事情时,使用的方法也与我们不同。脸谱网通过加强他们的人工智能,能让它在看过一个人的照片后就能从网上约30亿人的照片中识别出此人。人脑无法提升到这种程度,因此这种能力完全是非人类的。众所周知,我们的思维方式不擅长做统计,所以我们制造出各种统计技术很强的智能设备,是为了让它们用不同的方式思考。让人工智能替我们开车的一项优势就是,它们不像我们那样容易分心。

……

当我们能够与身边的机器人协同工作时,双方的工作内容必然会掺杂在一起,不久我们过去干的活将会由它们承担,而我们难以想象自己日后的新工作会是什么。

我根据人类和机器人的关系把工作分为四大类,希望能帮助我们更好地了解机器人将怎样取代人类。

人类能从事但机器人表现更佳的工作

大部分税务工作、常规的X光片分析以及审前证据收集工作都由计算机处理,而这些都曾是领着高薪的聪明人干的活。我们已经接受机器人从事制造业是可靠的,不久我们就会接受它们的智能和服务。

人类不能从事但机器人能从事的工作

机器人和自动化将主要通过承担人类无法胜任的工作为人类谋福利。

我们不会把“好工作”交给机器人。大多数时候,我们只是把自己做不了的工作交给它们。没有它们,这些工作将永远无法完成。

人类想要从事却还不知道是什么的工作

自动化创造的大多数新任务也只有其他的自动化技术能处理。可以打赌,到了2050年,薪资最高的行业将依赖目前还没有发明的自动化技术和相关机器。也就是说,我们不知道这些工作,是因为让这些工作成为可能的机器和技术还未出现。机器人创造了我们想要从事却还不知道是什么的工作。

(刚开始)只有人类能从事的工作

成功将青睐那些以最优化的方式与机器人以及机器一同工作的人。产品的地理集群性差异将会凸显,但各个集群的差别不在于人工成本,而在于人的专业技能。人类和机器之间将形成一种共生关系。人类的工作就是不停地给机器人安排任务,这本身就是一项永远做不完的工作,所以,我们至少还能保留这份“工作”。

将来,我们和机器人的关系会变得更复杂。同时,一种循环出现的模式值得我们注意。无论你现在从事什么工作,收入水平如何,都将反复经历机器人替代人的以下7个步骤:
 
1.机器人(电脑)干不了我的工作。
 
2.好吧,它会许多事情,但我做的事情它不一定都会。
 
3.好吧,我做的事情它都会,但它常常出故障,这时需要我来处理。
 
4.好吧,它干常规工作时从不出错,但是我需要训练它学习新任务。
 
5.好吧,就让它做我原来的工作吧,那工作本来就不是人该干的。
 
6.哇,机器人正在干我以前做的工作,我的新工作不仅好玩多了,工资还高!
 
7.真高兴,机器人(电脑)绝对干不了我现在做的事情。

这不是一场人类和机器人之间的竞赛,而是一场机器人参与的竞赛。如果和机器人比赛,我们必输无疑。未来,你的薪水高低将取决于你能否和机器人默契配合。 90%的同事将会是看不见的机器,而没有它们,你的大部分工作将无法完成。人和机器的分工也将是模糊的,至少在开始时,你可能不会觉得自己在干一份工作, 因为看上去所有的苦差事都被机器人承包了。

我们需要让机器人接手。许多政客们极力阻止机器人接手的那些人类工作,实际上是人们不情愿干的。机器人能干那些我们正在干的事情,而且远比我们干得好;机器人能从事那些我们从事不了的工作,能做那些我们从没想到需要去做的工作;机器人还能帮助我们发现自己的新工作,发现那些让我们拓展自身意义的事。

这一切都是必然的。让机器人代替我们从事现在的工作,让我们在它们的帮助下去构想有意义的新工作吧。



推荐 16