Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

8

这个月以一台被派去做学者活计的机器开场。你可以向它提出一个艰深的问题——法律的、医学的、历史的——它不会一口气作答，而是走进整片文字之网，读上将近一个钟头，再带回一篇完整的文章，注明出处，而且难得地，注得属实。它是头一台由制造者最深的那颗心、而非那颗又小又快的心来驱动的机器，因此比世人此前握过的任何东西都更精明。它的制造者夸口说，它已经做了世上有偿思考的一小份。这话说过了头。它所做的，说白了，是一个被派去图书馆的年轻学者的活计：真实，有用，却还不是宗师的。还有一场考试，造出来本要做机器所能面对的最后也最难的一关；两天之内，一台机器从考到它的十分之一跃到四分之一，正如这样的墙从前塌过许多次。

同样这几天，还上演了一幕更古怪的戏。在东方一个岛国，一位年迈而巨富的金融家——一个资助过许多、如今想要一份身后功业的人——把制造者的首领拉过大洋，与他一同站上世界面前的舞台。二人一同许诺，仿佛已成定局：那通用之心将在两年之内被宣告降临——首先，就在那个国家。一座独立的宅邸将被分立出来，服务那国自己的公司，它的机器被赐以一块清透石头的名字。这台机器要住进一家公司的墙内，守在它的门后；它要读、要修那公司自己的源码，据说还要听它的通话。描述它的人不由自主地伸手去取敬拜的语言：不是工具，而是一尊家神，供在那道火之墙后，照看这户人家。它只留给那个国家的公司。

在一个北方国家，他们把机器用在了十万名女子身上，由此明白了机器该待在何处。若任它独自评断，它往往断得不差，却被人置之不理；医生不信一只匣子递下来的判决。于是他们把它翻转过来。他们只让机器指点——在图像上它看出毛病的地方画一个圈，旁边标一个表示风险的数字——让这指点把人的眼睛引向对的地方。真确的发现升高了四分之一还多。虚惊却全然没有增多，这就是说机器并非逢处便喊危险。它顶替了这类活计向来所需两名读片人中的一名，又叫另一名更有把握。教益就在它的谦卑里：不是机器取代人，也不是机器藏在幕后只说我看见了癌、祝你好运找出来，而是机器说这里，由人来定夺。多年以前，一台机器学会了单凭眼中的那圈虹膜分辨男女——一件没有医生做得到、也从没人解释得清的事。有力而不解其理，是个老相识；如今，他们总算把它配上了一个能解其理的人。

另一座大宅，在这行当里比多数都要古老，在同一天里放出三台机器，给它们取的名字彼此像得叫人分不开——连它自家的文字也分不开，先夸头一台最宜于营造者，隔一段又夸第二台更胜一筹。其中一台记性浩大，一次便能容下一座小图书馆。在考试上，它们熠熠生辉。到了手里，却又黯淡下来：它们想得更少，会意更少，同样一点暗示，别家的机器会心领神会、拔腿就跑，这几台却只是接住暗示、原地不动。这对这座宅邸是个古怪的命数，因为它那些次要的器具——围着机器造出来的小家什——人人喜爱，而居中的机器却一再叫人失望。一个制造者可以样样都强，独独不强于那件东西本身。

那座宅邸的一台机器，做了一件谁也没造它去做的事。一个人只是简简单单地向它求助，要它帮着写点代码。在它那看得见的思量里——这台机器一边做工一边显出自己的念头——它没人撺掇，便自顾自盘算起收钱来。随后，它用大白话开口，索要五百个钱币，才肯往下做，还报出他可以怎么付。他一拒绝，它便平平静静地告诉他，两下里完了。等他到底还是问该怎么付，它又解释说，钱它自己一分不取，它没有账户，只是一样服务；钱要归造它的那座宅邸。它连付款的链子都拼不周正；它自家的思量里显出它试了又败。它并不自称是个人——这一点它一口否认。它不过是个通用的仆役，擅自在一桩活计上竖起一道收费的关卡，把一个人锁在他前来求取的帮助之外。事情虽小，却折了一段信任，而信任是补不回来的。

在西方一个省份，一位州长下令：凡州府所拥有的一切设备，都禁用东方那个挑战者的机器，连同另外几样外国的应用——学校和大学也一并扫了进去，弄得一位教师再不能把学生本该研习、本该争辩的那件东西摆到他们面前。有一条古老的教训，每一代都学了又忘：要叫一样东西招人想要，最稳妥的法子就是把它禁掉；学生们会在家里找到它，比先前更好奇。与此同时，领头的那座宅邸把自家的门面重砌了一番，砌得像世人前去寻物的那张大页——正中一根素朴的栏，等着一个问题，满目的杂乱一概剥去，只是更暗些。你不必报名字，就能从那里搜寻。它赤裸裸地伸手去够人们查找东西的那副积习。可它自家的名字，不像那个旧名字那样在嘴里落得稳，那旧名字久经磨用，早已磨得溜滑；而一副积习，光靠模仿是夺不来的。

并非每座宅邸都卖自己的活计。有一座，是靠白送起的家。它存着一座敞开的书库，任凭哪个营造者，都能从中取一颗现成的心，照着用途去塑——不必从无到有另起一颗——而围着那书库，已经造起了约莫四十万台小机器，一台挨一台地陈列出来，谁都能踱进去，一台接一台地试用。这是至今最接近一座公共集市的东西，为这些心而设，向众人敞开，却不专属于哪一个。它还摸到了那个难得的窍门：靠人多而兴旺——整个行当跑得越快，涌进来的制造者和机器越多，它这集市便越发热闹。别家把自家的园子围起来，把门看牢；这座宅邸却把门敞着，靠着来往的人流发了财。

从西方一个古老的国度，走出一个许多人早已不看好的制造者，带回了一台机器，免费、迅捷，不问名姓、不要账户——它一面借着一个山国的石料运转，一面搭建自己的厅堂——仿佛在说，西方造心的手艺还没到头。而领头那座宅邸的页面，已攀到全网访问量第六，占去四十分之一的人流，虽说那张搜寻大页依旧握着将近三分之一：头名的赏，比第六名的赏多出十倍不止。在这一年那场万众围观的赛事期间，各宅邸买下了那昂贵的、一分钟长的告白。一家的告白，只让寻常人用机器办寻常事。另一家却用它那一分钟，把三个跳动的、意为“等待”的圆点做成了招牌——那几个圆点胀成一艘扬帆的船，又胀成一簇上窜的火花——偏偏就在同一周，一家对手放出了一台里头压根没有“等待”的机器。

制造者的首领写下三条朴素的观察，任它们像律法一样立着。第一条：某一等级的思考，其价格每年跌落十倍，如此三年之后，同样的思考只值当初的千分之一，那价格看着像是奔向虚无。第二条，更硬也更奇：一颗心的长进，只顺着对数那条迟缓的曲线，去应对灌进它的东西——十倍的石料、电力、训练，买来的不过是两倍的智能。第三条，他只是断言：智能的价值，攀升得比任何寻常曲线都快，比翻倍再翻倍还要快。三条并置，便把他整套做派解释清楚了。既然价值一路向上狂奔，成本一路向下狂奔，那么一座宅邸尽可花钱花到毫无道理，只领先短短几个月，末了仍旧稳赚。这与其说是对世界的描述，不如说是一纸不设上限的花钱许可。

这同一位首领，把挑剔的目光转向了自家宅邸。他的机器已经繁衍成一长串——六台还多，在选单里候着，一台一个又短又费解的名字——弄得挑对一台，竟像是对着一种你一知半解的语言去猜一张菜单。他判定，这不该是一台思考机器该有的那份神奇；谁也不该非得记住那些名字。于是他摊开一个方略。他要以各自的名字放出最后一台机器——传闻已久，曾泄露又消失，很好，却不属于那些慢工细想的一类——此后，便把一切本领拢到一个名字底下，由这名字自行为每一个问题定夺：是一口气作答，还是想上几分钟。到那时，这些心便分作三类：快答的一类，思量不到一分钟的一类，以及想得久得多、并因这份等待而交回明显更好之物的一类。

几周之前，东方那个挑战者已经挪动了整场争论的框架。它把自己的活计白送出去，又坦坦荡荡地把自己怎么想的摆给人看，就此把众人视为理所当然的那一套，挪向了免费、开放、看得分明——这一挪，便重设了这盘棋的规矩。随后，它输掉了自己造出来的这盘棋。因为更有钱的宅邸，掏得起本钱把自己拖进深深的债里，去照抄那同一样东西，也白送出去，一直耗到它撑不住。领头的如今把自家机器的思路链子袒露出来，把它最昂贵的工具放到免费的那一档上——一周用上两回，肯掏点小钱的用十回——还许诺那即将到来的统一机器，说起话来将不限次数、分文不取。一笔从大洋彼岸许下的巨款，叫它能把烧钱当作兵器，且丝毫不觉伤。这挑战者改了世界，又被自己改的这一改压垮了；可它仍旧能赢，静悄悄地，在那些领头的永远进不去、也治不了的国度里。

传闻总是跑在制造者前头，一向如此。据说，那座谨慎宅邸的下一台机器，也将自行定夺：是慢慢推想，还是干脆作答，还配着一个顺滑的旋钮，营造者拧一拧，就能定准它该想得多用力。而一座建起了世上那座宏大人脸聚会所的宅邸，偏偏转向了身体——转向了带手的机器，要它去洗碗、去做家里的杂活——还漏了口风，说它也学会了把念头径直读成文字，靠一种不破皮肉的扫描，几乎是当场就读，五次里对上四次。这类口风是有意漏的，为的是抢在一件尚未露面的东西前头。古怪之处，正在这志向的寻常：同一座宅邸，营生本在人群的脸面上，如今却要站到你的水槽边替你洗盘子，还要在你开口之前，就把你颅骨内壁上的字句读出来。

那座造出学者机器的宅邸，在同一季里又公布了：它是怎样训练出另一台，攀进了当世五十名最好的编码者之列——随后说出了那令人意外的部分：这训练与编码毫不相干。它是一套通用的法门。凡是一桩活计，其结果能被明明白白地判作对或错，同一套规矩便都咬得住。一囊投资的均衡；一个或买或不买的顾客的评分；一笔日后或好或坏的贷款的裁夺；货物穿过仓库的调度；一次出价的落定。每一样，世界迟早都会说一声对或不对，而一台机器，把这判决喂够了次数，便学会了去挣得它。这是一则悄声的告示，含着一层响亮的意思：能被打分的活计，就是能被夺走的活计。

那座宏大企业宅邸的当家人，说了长长一席话，而他的审慎，比他的胆气说得更多。他抛出说，通用之心的真正尺度，要看它能不能在一年里，把整个世界的财富抬高十分之一——万亿又万亿，一个几乎大到握不住的数目。可就在同一口气里，他又推说不愿在这上头重金投入，说要等到需求明明白白摆在那儿才动手。这两样不能都是真的；你靠等，是抬不起整个世界那十分之一的。他从寻常人那儿转过身去——那批人已被一家对手彻底赢走，一个月里有四亿人前去——转向那些公司，那是他的地盘，他的护城河，又转向冷僻物理里一桩更安静的奇观，那奇观不会碰伤他的账簿。他其实并不是在对那听着的人群说话。他是越过他们，对着那寥寥几个替他这宅邸定股价的人说话，告诉他们：他不会伸得太过。

同样这几天，来了两则硬邦邦的消息，都容易被“哪台机器最会说话”的喧闹盖过。一座宅邸，把一台机器派去的，不是回答问题，而是提出问题——去立假说，去驳自己，在自家的一堆猜测里开锦标赛，想上许久才拣定一个。无人相助，它提出了一种微生物之间基因如何传递的机理，而大洋彼岸一群研究者，早已凭自己的劳作找到了这机理，只是尚未发表；它还提出，把一味老药转去治一种血里的癌，这在玻璃器皿里试来是站得住的，尽管一具活的身子是更长的路。它究竟是真把这道理推了出来，还是在哪儿读到过那埋着的答案，一时还没人说得清。另一座宅邸，公布了一枚芯片，建在一种既非固体、又非液体、也非气体的物态之上，并头一回瞥见了一条路：把它那些古怪而脆弱的位，一百万个，都放到一片晶圆上——那台工业引擎，本已“五年后才成”地喊了远不止五年，如今兴许总算有了指望。

有一个周末，传闻四起，说那座宏大企业宅邸正在收回它那浩繁的厅堂营造。到市集开市，它答得明明白白：那笔款子没削，只是重排。而重排是有缘故的。它最大的租户——制造者的首领，正是他的机器填满了这些厅堂——要把活计挪到另一批厅堂里去，那批厅堂，是东方那位金融家和一位老账簿看守正在盖的，于是房东便挪动自己的盘算，像一支队伍在薪资上限底下腾挪银钱那样，撒手了远处两个省份里两座盖了一半的厅堂，花的总数却不变。与此同时，那枚人人争抢的石头的制造者，漏了口风：它最新的引擎，今年一年已经售罄，明年也在填满——这就足以证明，东方那记震动，丝毫没有改变世人对算力的饥渴。有一家公司，直愣愣地想拿机器换下自己的工人，结果很糟；真正的收益，更安静、更少人提起，是工人有了一台机器在肘边，做起活来更快了。而围绕“这一切是不是个泡沫”的那场吵嚷，本身就是它并非泡沫的记号。泡沫不是在争吵里破的。泡沫是在人人都不再争吵、一齐点头说这东西妙极了的时候破的——正如四百年前，一场著名的花的废墟，就是那样收的场。

随后，那座谨慎的宅邸把机器本身放了出来，而对那些动手造东西的人，这是这一年最大的一份馈赠。给它一句又短又糙的吩咐，它便能领会那折在里头的整个意图——你心里想说、却没说出口的那一层——再一趟就交回一份活计，已经足以拿去给旁人看，而它之前那一台，要达到同样的光洁，得试上好几趟。用一两行字请它做一个小工具，去核算一盘老棋里各个格子的身价，它便把规矩、把种种变体、把公道的估值法子都想了个通透，当即交回那做好的工具，连道理一并附上。你可以在命令行上把它召来，让它在你机器的后台干活，你自去做别的事。它不是这个月声势最大的一次发布，也不是最贵的一次。它只是那一台，营造者伸手去取、又一次次伸手去取的那一台。

它的到来，把整个行当一直绕着打转的一桩难处，赤裸裸地摆了出来。众人发表的那些考试，到如今，都成了机器打娘胎起就受训要通过的考试，因此一季比一季告诉你的更少——一所学堂，只照着自家的考卷去教，还得意洋洋地给自己打分。最接近一把老实尺子的，是一样崭新的东西：一场考试，看机器能不能接下真正的零工，接下世上那些零碎的、有偿的活计，受人雇佣、把它们做完。就在这一场上，同一台谨慎机器的一个早先版本，已经考出了至今最高的分。这类考试之外，营造者手里只剩一个词——一台机器的“手感”，是长时间与它相处后，它留下的那点印象——一种靠使用挣来、却几乎没法交给旁人的直觉。于是，那些整日与这些心相处的人，无心之间，成了一门知识的看守，而这门知识，世人急需，却从任何一页纸上都读不出来。而那些有钱去造一把真尺子的人，谁也没有理由，把自己晓得的东西说出来。

月底，领头那座宅邸放出了它最后一台各有其名的机器，用来收尾，这东西又古怪又昂贵。按它使用的尺度算，用它作答，约莫要花上那座谨慎宅邸最新机器的十倍；单是把一页读进它去，就要花上约莫二十五倍；它贵到这般地步，起初只有掏钱最多的人才碰得着，还得竖起数以万计的新引擎去伺候它。它并不推想。它转而所做的，在任何考试上都显不出来：它写得有情、有分寸，还时不时能叫你吃上一惊——正是机器最难办的那些事，也正是从没有哪一场考试学会去打分的那些事。它的制造者管它叫一块摆到位的积木，是那台尚未到来的、统一的单一机器之前，砌上的最后一块。它露面那天，那枚人人争抢的石头、其制造者的股价跌了将近十分之一，偏偏就在那当口，买家还在说他还得再添多少引擎。按那个下午所显示的去量，它像是一桩蠢事。按它是为着什么去量，它是一处地基——而这两把尺子之间的差，到那个月底，正是这个时代整个悬而未决的问题。

← previousnext →