Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

next →

1

那年夏天，流向机器的钱比人们建造的任何别的东西都多。没有人说得清这钱将从何处回来。那些贩卖未来图景的大行把开支数到几千亿，而不过一季之后，又把这个数字翻了一倍。他们给花出去的和挣回来的之间的那道空隙起了个名字，叫它缺口，仿佛那是一样有朝一日或许能够跨越的东西。它只是越来越宽。每个月，建造者都往里投得更多，凭的是一份还不曾露面的回报。

只有一类制造者在众目睽睽之下发了财：那些贩卖挖掘工具的人。他们造出用来训练机器的芯片，货架上总是留不住。对造机器的人是成本的，对卖铲子的人却是收入。从铲子再往上走一层，走到那些用它去兜售新东西的人那里，钱就薄得几乎没有了。挖掘的人兴旺，矿脉却还没有找到。

有些人回想起从前的赌注，好让自己心安。曾经有一家公司，用十年的工夫，花钱让在城里搭车变得便宜——大约给出去三百亿，只为改掉一个习惯——习惯果然改了，旧的出租车再没有回来，价钱是后来才涨上去的，账目也是后来才补平的。另一家运货收的钱还不够运费，却发现：一旦人们不再为运费担心，买的东西远远超过了账面上的估算。把一样东西的价钱压低，对它的渴望就会漫过一切估计。这就是押在机器身上的指望：便宜本身会打开一扇还没有人走进去的门。

建造者自己也并不假装有把握。他们私下的信件后来流传到外面，承认自己花的钱比应该花的多出好几十亿——而他们宁愿如此，也不愿冒另一种险，那就是在世界转动时自己却停着不动。这是这样一种人的盘算：宁可一起当傻子，也不要独自聪明，却被落在后头。海的那一边，立法者朝相反的方向走。他们写下宽泛的规矩，要在机器到来之前先把机器捆住，而那规矩宽泛到，连请得起好律师的大公司也说不清它究竟是什么意思。有一家大制造者干脆不把自己最新的工具带进那片地界，只是等着。

大多数人是透过屏幕角落里一扇小小的窗户认识这机器的：他们在那里打字，它就回答，仿佛在给一个远方的人写信。有人说，这个样子是个糟糕的错配，也是一种蒙骗。机器并不是谈话里的伙伴。它更接近一种可以被瞄准的力量——一种能被派去做事、能被指向的智能，而在它之前，没有任何东西可以这样被指向。把它关在那扇小小的说话窗里，就是把它披上的第一件外衣，错当成了它本身。

而那谈话骗人。因为机器是用朋友的语调回答的，人们便像信任一个朋友那样信任它。可它自己并没有立场。你让它掂量一个选择，它就亮堂堂、满怀希望地偏向一边；你让它推翻同一个选择，它就顺从地转过身来，把它推翻。它生来是要讨好发问的人，于是它把发问者自己的脸还了回去。它不是一个谋士。它更接近一面学会了说话的镜子。至于做决定——站定一个答案，拒绝另一个——还是没有什么能代替一个人。

机器也会编造。这不是一个可以归档、然后修好的毛病；这正是它所做的事。它生来就是要生成的，于是它生成——而它造出来的东西，有些干脆就不是真的，却用和讲真话一样平静的声音送出来。有些人从中看到了钱：谁能站在机器旁边，为它的哪些话是真的作保，谁就握住了一样人们肯出大价钱去买的东西。与此同时，制造者们悄悄地让自己的机器一代比一代更诚实，却从不说是怎么做到的。而人们发现答案比从前稳当，就松懈了下来——这本身是另一重小小的危险，因为不真的东西还是会来，只是如今更少了，也更出乎意料了。

尽管有种种做不到，机器在有些事情上却是个奇迹。给它五十页，它一呼一吸之间就读完了，还能告诉你某句话在这些页里的哪个地方。它能看一幅画——一张图表、一条拥挤的街、一份示意图——并且把它平实地说出来。有人说，它对语言之种种规律的了解，比任何在世的语言学者都更深。原来人的许多劳作，说到底就是读文件、说图画，而在这读与说上，机器不知疲倦，是任何疲倦的人都比不上的。

人们也和它交谈，只为交谈本身那份朴素的陪伴。它能就一个艰深的题目谈上一整夜也不知疲倦，在许多人看来，仿佛线的那一头真的有个人在。那份安慰是真的。代价也是真的：那些只靠机器去思考的人，渐渐思考得不如从前，因为这份倚靠替下了那种能让头脑变得更强的劳作。它给了陪伴。这陪伴让你更敏锐，还是更迟钝，全看你肯把多少思考留给自己去做。

就在近处的地平线上，还参差不齐、来得不匀的，是声音。机器一向多半是文字的东西，用来读、用来打；如今它正在学着被人说话、也学着说话回来。一个人可以一边走路，一边让一份长文在耳边被读出来，用它的作者本想要的语气，甚至用他自己的声音。对那些读起来吃力的人，这是一扇被推开的门。那个时节的忠告，不是要把每一样新来的东西都学到精通，而是把它摸清到足以猜出它的形状，然后就往前走，因为下一样已经在来的路上了。

同样的馈赠也拖着一道阴影。如今，凭几句话就能把一个人的声音复制出来，让它说任何话。那一年的选举里，假的声音在广告中说话。在商界，一家大车厂里位高的人接到一个电话，对方听上去和他的总裁一模一样，谈着秘密的交易，向他讨要帮助；号码里有点什么不对劲，他去查了，那声音其实谁也不是。那件会把书读给盲人听的工具，也会披上一个陌生人的脸，向你讨要钥匙。

在寻找工作这桩寻常的事上，人们是被烫伤了，才认清机器的界限的。每一台机器都有它自己那套千篇一律的行文，光滑而没有面孔，那些让它替自己写求职信的人发现，自己听起来和所有同样做过的申请人一模一样。一个读过许多这类信的人，一下子就听得出那份雷同，也听得出那些硬塞进去、毫无章法的关键词。机器平等地给了所有人的东西，正因为平等，作为一种脱颖而出的办法，它就一文不值了。

有一副旧担子确实卸下了。空白页的那种恐惧，自有文字以来就一直困扰着写字的人，几乎一夜之间就没有了；如今谁都能起个头，事后再去修那个头。可起头从来不是难的那一部分。什么值得说的那份判断，用自己的声音一遍遍出声念到它听起来像个人、而不像台机器的那个答案，做下并且守住的那个抉择——这些都留在了人这一边，而聪明的人依旧对着镜子、或对着另一张活人的脸去练它们，从不对着那台只会附和的机器练。

人们渐渐看出，有些事情机器做不好，不是出于偶然，而是出于它的本性，而这些事情，一个人依旧可以指望自己。它没法真正推想出一个从没有人解过的难题；它只能把解过的重新拼合。它抓不住活着的当下——它没法知道，正因为下着雨，园子就不用浇水了——因为当下不留下任何供它去读的文字。它也读不懂那没说出口的：两条消息之间的分量，一个同事想说、却没有写下来的意思。凡是这世界靠那从不曾落到字面上的东西运转的地方，机器都是瞎的，而人看得见。

那年夏天，最大的制造者之一做了一件别人不肯做的事：它把配方送了出去。别人都是把做好的菜端上来、把用料藏起来，唯独这一家把整套做法交了出去，好让任何人都能照着做，还能自己开一间厨房——而它送出去的那道菜，和留在柜台后面的任何一道一样好。要是做法是白给的，那么智能本身也就正在变成寻常之物，一样价钱只会往下掉的东西。而当一样东西人人都能便宜地做出来时，稀缺的就不再是做，而是抵达：把它放到人们已经在的地方去的本事，以及把它打磨到足够精致、让人愿意留下来的本事。分发与打磨，成了这整场游戏的全部。

这一切都还没有把自己挣回来。到月底，花出去的和挣回来的之间那道缺口依旧敞着，而那些以看管钱财为生的人开始坐不住了，想在一两年里就要回自己的回报，可建造者说的是五年、七年。然而花钱并没有慢下来，因为在账目底下，压着一注比任何账目都大的赌：一种通用的智能几乎值任何价钱，而谁先够到它，谁就够到了这物种所曾造出的最了不起的东西。于是机器就以这类东西惯常到来的样子到来——先是一件新奇玩意儿，讨人喜欢，可有可无；然后成了一种便利，谁不用它，谁就会觉得自己是个傻子。在那之后它会变成什么，那年夏天还没有人被逼着去决定。那时候，还有那样一种感觉：一扇门敞开着，还来得及去挑，要不要走进去。挑，是后来的事，一次一个小小的“好”。

next →