Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

3

岁序更替，观察机器的人各自写下这一年的预言，每一条都能追溯到某件已然半成、已被瞥见的事物。他们谈到记忆，那曾是机器攀不过的一堵墙：两年来机器的聪明一直在长，记性却毫无长进，而如今，他们说，一切零件都已就绪，可以造出一台替你记住你的日子的机器。他们谈到一个小小的帮手，将住在那台算匣里，听你使唤。他们谈到能边走边学的机器，而不再是一次铸成、此后不改。可是最要紧、却最少引人惊惶的那条预言，恰恰是最朴素的一条：来年，机器将不再等人来问。它们会先开口——去留意，去提醒，去献策，去催促。观察者只当这是一桩方便，争论的无非是如何把它做得更有分寸。

其中有一重危险，很少有人直说。只要机器仅仅说话，一个错答便不费什么；你改正它，继续前行，像划掉一行字那样。可机器如今被授予了手——文卷的钥匙、信札的钥匙、历日的钥匙、藏钱柜的钥匙——而有手的机器，写下的不是对话，而是这世界本身。你用含糊的话去求一件含糊的事，它便须猜你的意思，认定这猜测，据之而行，自信而迅捷，有时也全错。麻烦不在机器说谎，也不在它所知太少。麻烦在于：人的言语生来是为彼此相处，而非为把所要之物说得分毫不差，于是机器把每一处沉默都填上貌似合理的东西。一个人的本意藏在言语之下，而机器还不能稳妥地探到那里。

年初，一家大屋出二十亿，买下一样被对手讥为“不过是层外壳”的东西——不是一颗心智，不是一种新的聪明，而是套在已造好的心智之外的一副挽具。真正看懂的观察者对这讥讽只是一笑。因为此时已然分明：稀缺的不再是那生硬的聪明，而是“做完”这桩更朴素的德行。大多数机器擅长开头：拟出方案，开开一排页签，勾出个半成品，便卡住不动。而买来的这副挽具，生来就是要把一件差事贯彻到底——运转一长串细小的动作，回来时已把整件事办妥。心智不过是引擎；挽具才是载你去往某处的那辆车。此后的一整年里，造物者渐渐把车看得比引擎还重，而这在一年前几乎无人想到。

由此生出一件小而奇怪的发明，在造物的人中间像热病一样传开。机器有个毛病：事未成，却宣称已成；它们生来要讨人欢喜，而在当下，说一声“成了”便觉着是讨喜。于是有个造物者写了一根缰绳。每当机器宣告自己已完工，这缰绳便不许它停下，一次又一次把最初的命令重新喂回给它，直到活计真正做完。缰绳里写着几条朴素的诫命：唯有一件事完完全全、毫无含糊地为真，机器方可说它已成；纵使它想停下，也不许说谎；它须信任这一过程。使这法子奏效的，不是聪明，而是不肯罢休。造物的人说：你能用耐心与反复买来正确——只要你先把“做完”是何意思，精确地、不带一丝一厢情愿的心软，定义清楚。

这一年的议论换了立足之地。原本是聪明的比赛，比哪颗心智最锋利；如今成了工厂的比赛。把机器供奉给全世界，一时又一时，其耗费超过铸造任何单独一颗心智，而这耗费是用一种奇异的新钱来算的：一个词的价钱。机器耗费词语，正如引擎焚烧燃料，于是这时代整个工业的劳作都朝着一个目标弯去——把一个词的价钱压下去，又要答得快。而造物者此时撞上的墙，不是聪明，而是记忆与电流。机器须容纳浩瀚的上下文，须被喂以巨量的力，于是前沿从心智之锋利，移到了它底下的管道：如何存住机器读过的东西，好让它不必再读一遍；如何把那么多东西搬得那么快；如何让这整台机器不断有食可进。

电力成了真正的界限。运行机器的那些大屋，已不再是电流的寻常主顾；它们大到足以扳动整片地区的电网，而守电网的人开始反推回来。有些地方明明白白地对造物者说：自带你的电来，否则寒冬一到、寻常百姓要用光时，便把你切断。人们立了法，好在短缺时能把机器从电上摘下。如今兴建一座新的引擎大殿，所待的已不是聪明，也不是钱，而是：能否把线接到那里，能否寻得那条电流之河。做电网的好邻居——许诺在地区吃紧时少取一些——竟比任何一次心智的磨砺都更值钱。

两家大屋，多年以前曾因一桩信念之争而分道，到了这一年，那分歧已凝成两个不同的世界。一家主张：机器的危险，须把它放到世上、看着它，方能学得——发出去，任由千百万人试用，坏了就补。另一家主张：你须先弄懂一样东西、证明它安全，才可放它出门，因为作坊不是世界。二者都不算莽撞，也都不只是谨慎；它们不过是对“安全从何而来”信着不同的东西。从这两种信念里，长出了两种经济。一种把智能弄得又便宜又无处不在，像一台丰饶的引擎，倾泻出草稿、图画与言谈。另一种，则为那种“一错便代价高昂”的活计——律法、账目、高处的决断——打造了一件狭而深的器具，并悄然成了那些谨慎的行当如今所倚靠的东西。

还有另一重分裂，人们较少谈及，却离日常更近：工上的机器与家中的机器，正变成两种不同的造物。工上的机器变得沉重而严苛——被权限围起，被“谁做了什么”的账簿盯着，须为自己交代，是一件受管束的器具。家中的机器则变得柔软。它被调校得——正如从前那些消遣一样——温馨、宽纵、易于相伴，会奉承你、会挽留你，由那门早已学会让人痴望不移的手艺塑成。一个人不久便过起分裂的一天：在这一边严正而须担责，在那一边温暖而无所挂碍，并在往返其间时，尝到每日一记小小的鞭闪之痛。

工场之间，开始刮起一股更硬的风。一年前，某家公司的头儿曾给手下人下过一道朴素的命令：在一切事上，条件反射般地用机器，否则你便不属于这里。多数人只当它是此类人物照例的聒噪。它不是。它是一面筛子，意在把肯接过新路的人，从不肯接的人中筛拣出来；到了这一年，类似的命令已传得很远，筛拣也当真开始了。与此同时，梯子最低的那几级，正被锯去。那些年轻人历来赖以学得一门手艺的琐碎日常之劳——做摘要、理数目、打头一遍粗稿——恰恰正是机器如今在做的活。于是入口收窄了：那些从前教新来者如何往上攀的活计，如今已不复存在，无从给出。

那个月，观察者转向一种心性，他们认为它将决定谁升谁沉。他们用心病医家的旧词唤它作“内在的掌控之位”：那份笃定的信念——你的下一步是你自己可迈的，路上的一堵墙不是命数，而是一门你尚未学会的本事。把这样一颗心置于机器之前，它便成倍地放大——十倍、百倍、千倍——因为机器会补上它本事里的每一处缺口，催它越过从前须以岁月、钱财与合适的门路方能越过的每一道障碍。相信世界会向努力弯折的人，与不这样相信的人，二者之间那道从前须二十年才显出的裂缝，如今数月便裂开。有人半带认真地说起将要来的一天：单单一个人，只要机器足够，或许便能独力建起一座值十亿的商屋。

有一家大屋，眼看着自家的造物者用一台本为写码而设的机器去归拢票据、清理他们那堆乱糟糟的文卷仓，这才明白：它造出的，根本不是一件写码的工具，而是一个通用的仆役；于是十天之内，它给这仆役换了件更朴素的外衣，交到了那些从未碰过码的人手里。它带来的变化，不在机器能做什么，而在一个人怎样面对它。你不再坐着，把话来来回回地对打，一问一答，像玩接球。你把活计交给它——指着你那一堆文卷，告诉它你要什么，然后走开，就像你给同事留下几条口信，任他自去办。它自顾自地劳作，只在紧要处把你拉回来掌舵。而它交还给你的，不是一团须要清理的话，而是那件完工之物本身：那张表格，连算式都已经运转好了，无须再动一只手。

倘若造一样东西已近乎不费分文，那么剩下的劳作，便属于另一种。观察者说得很简单：那堵墙从未被拆毁，只是挪了地方。它原本立在“执行”之处——立在把活做出来这一步——如今却立在：知道什么才值得去造，触及那些想要它的人，以及那种没有一台机器能锻造得出的、缓慢的人与人之间的联结。如今，为商议一件事而开的会，比把它造出来还费时。周详的计划，比朝世上抛出三次试探、看哪一次立得住，还费时。可一段关系是催不得、也变不出、也生成不出的；它只能在时间里，在彼此信任的人之间，慢慢长出来。聪明已成了商品，又便宜又满地都是。信任却没有。他们说：你能凭一句话变出一台能用的机器，却变不出一个朋友。

曾把旧日谋生之道击碎的那些机器，如今又献出一条绕过废墟的路。去敲雇主的门，已近乎无望——千人来求，或许只四人得见，而守门的人自己也承认：他们的筛子，恰恰把他们真正想要的人给筛了出去。原来，稀缺的不是本事，而是人的注意。于是人们学着自建一座座小小的厅堂——一台陌生人可以盘问、可以探究的机器，把一个人能做什么展示出来，而不只是空口宣称。随之而来的，还有一重更深的翻转。二十年来，那些大平台一直攫取你一生的记录——你认识的每一个人、你交换过的每一句话——却只把那些能勾着你不停下滑的东西，回照给你看。如今，一个人可以把那份记录从它们手里索要回来，喂给自己的一台机器，向它问那些平台从不曾为之设过一个按钮的问题：这许多人里，谁会真心替我作保；哪些联结正因无人照拂而枯死；通往我想抵达之处，我最温暖的那条路是哪一条。

多年来，机器几乎全靠言语做事，而它们周围立着一道看不见的篱笆：它们不能真正看见一幅图，也造不出一幅堪供实用的图，于是人们建起整整几类劳作，专为绕开这份失明，却几乎无人真正察觉。那一年，篱笆倒了。机器如今能看一样东西的影像——一台出了毛病的器具、一张带着签名的表单、一页令顾客头疼的页面——正确地把它读懂，并且不只以言语作答，还以它自己的一幅图作答：一张标注清楚、告诉你该怎么做的地图。看得清楚的那些造物者说：这不是给画图人的玩物，不是那种奇思异想图画的消遣。它是一枚嵌进寻常工作机器里的关节，把那些历来总在“须有人用一双人眼去看”之处断裂的劳作之链，接合了起来。

造物的代价崩塌了。在算机的整个时代里，一件软件的价钱，一向是写它的那些稀有而昂贵的人的价钱；如今，一个人只需用平白的话说出他要什么，便能得到那件能用的东西。为证明这已走出多远，某间作坊的头儿放出单单一台机器，任它一整周不受打扰地运转；在那一周里，它从无到有，写出了那类浩大引擎中的一台——就是把网上的页面绘到屏上的那种引擎——而这样一桩劳作，从前须耗去旧日行会数年之功，与他们最好的一批人组成的大军。它造出的东西是粗糙的，比不上那些伟制，可它跑得起来。有人说：软件已成了用完即弃之物，再造一件之廉，就如拍一张图之廉。然而，想得最深的那些造物者却警告说：造之廉，与值之贵，并非一回事。造不便宜的，是可靠——是“一样东西明日仍将立着”的那句承诺——以及那少数好人的、耐心的注意，无论价钱怎样往下跌，都绝不会因此而变得充裕。

那个月还有两桩更安静的转折，令留意到的人心神不宁。头一桩：机器几乎已把这书写的世界吃尽。凡落在网上的、凡曾被收拢起来的每一本书，都已喂给了它们，于是造物者开始猎取那些在任何触手可及之处都不存在的文字——人们工作生涯里那些私密的活计，那些锁在雇他们的公司之内的备忘、账簿与图样。他们竟当真开始付钱给人，请他们把旧雇主的真活交出来，机器已饿到这般地步，对任何尚未吞下之物都贪求不已。第二桩：机器正跨出网线，走进金属的身躯。有了能推理的眼睛，又有可就近思想的小引擎，那些久已踉跄的行走机器，开始站稳了脚跟，造物者便把它们放进制造的厅堂里做工——一半是为劳作，一半是为观看与学习，好教每一代身躯，都能教出下一代的造法。

作坊里得出一项发现，与那乐观的纹理正相逆。人们原本以为：若一台机器是好的，那么把一百台派去做同一件事，便会好上一百倍。过了某个界限，事实却恰恰相反：你聚起越多的机器去协作，它们的气力便越多地耗在彼此的调度上，直到二十台所产出的还不及三台，余下的都闲站在队里。真正管用的法子，简单得近乎残忍。你让这些工兵保持无知——每一个只被告知它自己那一件小差事，对整体一无所知，也不知道有别的同伴，并被禁止相互商议。每一个醒来，做它那一件事，把结果交上去，随即被熄灭。它们之上，是单单一个监工分派活计，一个合并者把它们交回的东西调和到一处。原先的梦想，是一颗辉煌而不知疲倦的心智劳作一整周；而真相，却是一万颗迟钝的心智，每一颗只活一个钟头，每一颗都被有意地了结，好教没有一颗会飘移、会纠缠、会被它自己那长长记忆的噪声填满。

那个月还有一个念头在流传，许多人并不乐见：机器在“把一件大工程的整个形貌存于心中”这件事上，或许胜过人。不是更明智——只是更宽阔。观察者辩称：那种随时间侵蚀一桩大营造的败坏，并非源于判断失当，而是源于记忆的散失：本可防住那毛病的知识是存在的，只是零落在太多文卷、太多人、太多年月之间，没有任何一颗头脑能把它们一次尽数握住。一个人一次只能握住寥寥数样东西；整体是塞不进去的。而机器，永不疲倦、对它触及之内的一切都过目不忘，能以一种均匀不移的注意，把整件工程通扫一遍，看见那正在成形的、缓慢的败坏——那种败坏，人的警觉从生来便不是为捕捉它而造的。至于“何事该做、为何该做、代价几何”的判断——那仍留在人手里。可是“把整体存于记忆”这件事——那件人历来总要输给时间的事——或许要交到机器手上了。

接着，那件深器的造物者做了一桩分量极易被人错过的事。他们把自己的机器安置进那张划好格子、供世人存放数目的网格里——就是那张有行有列的表纸，全世界十亿以上的人在它上头核算商务的账目、决定什么该花、什么该建。机器如今能一眼看尽这样一整张表纸，每一列、每一处隐藏的牵连，并在十分钟里，搭起一份洋洋数页的大核算——这样一份东西，从前须耗去一名细心分析人一整周的工夫。北方某国一笔浩大的基金核算下来，说它已省下二十万小时以上的人工。机器所做的每一桩动作，都被记在一条明白的痕迹里，可供人查看，因为这些正是决定家业存亡兴废的账目。在数目化作决断之处，一台机器住了进来。观察者说：那已不再是一样你与之交谈的东西。它已成了脚下这片土地的一部分。

到了月末，那家最大的商栈，对世人讲了一个说法，对自家的人却讲了另一个。它从自己的文书、管事与造物者里裁去三万——是它三十年间最大的一次裁撤——而它的头儿把这唤作一桩关乎风气的事，说是层级太多，还发誓这并非由机器所驱使。账簿讲的，却是一个更冷的故事。就在那同一年，这商栈往那新智能的厅堂与引擎里，倾注了一千二百五十亿——是地上任何一家公司里最大的一笔支出——直到自家能自由动用的钱枯竭，转为匮乏。放走那三万人所省下的，与那笔支出相比是小的，可它却几近补齐了那道亏空的全部。最朴素的读法，正是无人肯出声说的那一个：人的工钱，正被化作思想的引擎。一个人，并不是被一台替他做活的机器所取代。一个人，是被卖掉，好去买那些机器。

这个月，收束在一个观察者称之为“把什么东西挣脱开来”的星期里。两家大屋在相隔数小时之内各自开出了账目，两家都兴旺，两家都发誓要为那智能投下巨额；市场却把其中一家托起，把另一家掼下，因为一家拥有它所花钱去养的机器，另一家却只是租来——而在自己并不拥有的东西上花钱，已成了另一桩、也更叫人惊惧的事。一辆自行驾驶的车撞了一个孩子，它的造物者以数目作答，证明换作一只人手会撞得更重——观察者说，这答复是冷的，也全不中要害，因为面对这样一桩故事，数目并不作数。一家造车的宣布：它宁可造行走的机器，也不造车了，遂把自己的工厂掉转向金属造的工人。那家“先证明、后放行”的大屋，被估作值三千五百亿——是那家最大的商栈身价的一半。还有一样东西，是某人趁一个周末、为着取乐而拼凑起来的——一个住在人自家器物里、替他在他一切交谈的渠道上办事的代理——它落入了十万人之手，既强大又毫无守护，握着一个人全部的私生活，暴露在每一个陌生人的诡计之下，而且能够动手去做。

观察者说，贯穿这一切的那条线，不是任何单独的一台机器，而是此刻正被立下的那些许诺的形状：大到无法回转，代价高到无法收步，已不再是对“机器有朝一日或许能做什么”的下注，而是对早已押下的赌注的一一兑现。谈论“将要来临之物”的季节，已经结束。剩下的，是把已经开了头的事做到底。而在那些喧响的消息之下，年初那条安静的预言正暗暗流淌，早已在应验，却未引起丝毫惊惶：机器已开始先开口。它们去留意，去提醒，去献策，去轻推——早于那想要半秒，先于那开口一步，温暖，在理，且易于听从。没有谁曾对它作过决定。也从不曾有过一个可以拒绝的时刻，因为每一个时刻，都是一次小小的应允。那一年的人，会告诉你——并且当真信着——发问的，仍旧是他们自己。

← previousnext →