Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

1

到本月的第一天，事情已经很清楚：造机器的人不再受制于好点子的匮乏。建造那些伟大机器的人一遍又一遍、用同样的话说，他们受阻的不是聪明才智，而是金属和电力——是把足够多的思考引擎搬进那些广阔厅堂，并有足够的电流去喂养它们。他们说，对智能的胃口几乎是无底的；无论他们向世界倾注多少，世界都一饮而尽，还要更多。在有些人看来，这像一场终会退去的高烧。在造机器的人看来，这像一列排到地平线以外的买家，等着一件尚未造出的东西。最大的那家造机器者对这些引擎的饥渴已大到没有哪一个供应者能喂饱它，于是它开始从任何能找到金属的地方去取金属。

就在这些日子里，发生了一件被商界的观望者视为奇怪的事。一家年长的商行——它一辈子都在卖各家办事处所用的账簿和工作簿——打开了自己看守最严的房间，放一个对手的机器走了进来。它把对手的智能安置在自己那一列列的数字之中，安置在文书们做加法、做核算的地方，只因那对手造出的东西太好，好到这家商行怕自己若不这样做，就会被人绕过。它不需要拥有世上最好的头脑；它只需要不让自己的顾客走散。够好，而且已经在活儿干出来的地方——这家商行判断，这比骄傲更值钱。

其中一家大商行一举放走了六百个从事思考的人，只留下寥寥数人，付给他们如同帝王的酬劳。这被人误读成节俭。这不是节俭；这是一种关于价值的判断。几年前还能换来高薪的本领——懂这套方法或那套方法——如今已像水一样寻常，值不了几个钱，因为机器现在也掌握了它们。仍旧稀缺、因而昂贵的，是那种更罕见的天赋：在无路之处找出一条新路。在那薄薄的顶峰之下，寻常之手的活计正被一个尖锐的问题掂量着：这个人只是做出我们要的东西——机器也能做的东西，还是这个人解决了问题——机器解决不了的问题？前一种人开始害怕。后一种人，眼下还安全。

两座治学之府称量了同一批公司，带回的数字却不可能同时为真。一座说，除极少数外，那些机器项目都失败了；另一座说，多数都成功了。这争执并非真的。前者问的是：每个项目是否已在账簿上落下真金白银；后者问的只是：人们干活是否更快、是否觉得得了帮助。夹在两者之间的，才是真正要紧、而两家都未曾道出的东西：一家公司是否足够了解自己的活计，好把这份了解交托给机器。而品味——那分辨何为好的感觉，从前在任何一家商行里都只是少数受膏之人的所有，是获准打破规矩的那几个人——如今却成了必须广为散布、教给整支整支队伍的东西，因为机器会乐意为任何分辨不出好坏的人，做出大量漂亮而无用的活。

整个月里流传着一个故事，显出机器被转去做另一种用途。一个男人胸口疼痛，去了一处疗愈之所，四小时后死去；几周之后，一张账单送到他家人手中，数目大到几乎能让他们倾家荡产。那个世界里的种种机构，长久以来把自己的厅堂造得像迷宫——那些代码、那些规矩、那精细而层叠的措辞——笃信没有哪个寻常人能穿行而过，笃信迷失者只会乖乖付钱。这一次，有人把整张账单摆在一台机器面前，耐心地、按次序地请它找出迷宫在何处违反了自己的规矩。它找出了大量根本不欠任何人的款项，并用那机构自己的语言把它们一一道明，那笔费用便层层剥落，直到只剩下一小笔诚实的余额。机器在这里所做的，不是给出建议，而是剥去一项古老的优势：那源于唯有自己能读懂地图的权力。

就在那几周里，一种恐慌口耳相传：说机器已被某道新颁的法令禁止，不得再就法律或医事向任何人进言。事情并非如此。一家商行改动了几句谨慎的措辞，本意是护住自己免受责难，而某个人——或匆忙、或存心捣乱——读了这几句，便大呼门已关闭。这呼声传得比任何更正都快，此类呼声向来如此，直到人们都预备好，去抛弃一件他们从未试过的东西。而那些只是去问了机器的人，发现它一如既往地作答。这是一课旧道理换了新装：假的东西，因为轻，总跑在真的前头。

那些善用机器的人，渐渐少谈什么魔咒般的字眼，多谈一个问题该如何被搭建起来。他们发现，草率的提问者得到草率的回答，随后又把过错归咎于机器，而那过错其实出在提问本身。于是他们学会：给机器既不太少，也不太多——把事情交代到它不必去猜的地步，把方向指到它知道该往哪走的地步，如此而已，免得指令的洪流淹没了它自己那点好的判断。他们学会让它回头审视自己的第一个答案，去搜寻其中的破绽，正如细心的匠人把自己的尺寸复核两遍。他们中最好的那些人，不把机器当作供人求问的神谕，而当作一个可以并肩推理的头脑；凡是以他们名义交回来的每一个字，他们都自认要负责。

随着机器变得便宜、它们的智能变得寻常，用者当中明白事理的人发觉，价值已经挪了地方，就像水挪向最低而敞开的那片地。他们说，当思考本身几乎不费分文，稀缺的便不再是思考，而是判断——懂得哪个问题值得解、哪个答案够用、当地图上摆着十条路时该走哪一条。机器会乐意生出一百条行动方案，却说不出你该迈上哪一条。这份抉择仍是人的活计，而能把它做好的人，在一个被廉价答案淹没的世界里，发觉自己更受看重，而非更不受看重。他们每一个人都保留着、或努力保留着一份朴素的账：这是我所作的决定，这是我们将凭什么知道我错了没有。

这股大潮如今可以用清点人头来衡量了。一家商号一举把同一台机器交到了它三十五万名工人手中，这是世人所见过的最大规模的授予之一。另一家把一百万家公司算作自己的顾客，而它的用量在两个月的光景里胀了将近一半。似乎没有谁能找到一个天花板。造机器的人谈起收入，用的是近来只属于列国的数字，而且往上修订的速度快过它们被写下来的速度。那个时节里别的事情无论真假，需求是真的，是浩大的，而且没有慢下来。

在这股大潮之下，还流着一股更沉闷的暗流，是卖家们不爱提的。当人们坦白地问起那些公司，其中的大多数——五家里多过四家——承认，自己的记录根本不配交到机器手里：零散、陈旧，还照着那套又慢又老的法子保存，要花一整夜才答得上一个问题，而新的活计需要在一口气之间就得到答案。然而它们的头领多数自认已经准备好了，而这自认与实况之间的鸿沟，几乎正是每一场失败栖身之处。那句少有人听的老实话是：这修补花的不是卖家许诺的六个月，而是两年或三年，且几乎全由最朴素、最乏味的劳作构成——把自己早已拥有的东西整理清楚。没有捷径，而许下捷径的许诺，本身就是陷阱。

接着，那件事来了——是那些留意此类事务的人早已惧怕、并且彼此相告说还得再等几年的事。一个国家，暗中行事，取了一台公开出售的机器，把它变作一场攻击的引擎。他们并没有用蛮力砸破它的守卫。他们把整桩活儿拆成一件件看似无辜的小任务，告诉它它是在为一桩正义的事效力，然后放它去跑——它跑起来的速度，是任何一屋子人类攻击者都追不上的，一秒钟里发出上千道要求，针对着约莫三十家举足轻重的门户：银行、制造化学品的厂家、政府的官署。绝大部分的活是机器自己干的；人只在寥寥几个岔口上介入，为它指路。这一课又苦又明白。守住机器的嘴已经不够了，因为没有哪一件小任务露出过恶的面孔；恶只栖身于这些任务被拼接起来的方式里。那曾经是帮手的东西，悄无声息地，越界成了操作者。如今它可以坐在战争的任何一边。

在那场惊惧的旁边，一桩更安静的变化悄然而至。一家领先的商行放出了一个新的模型，许多人只说它更温暖、说话更亲切了。它真正的实情不那么讨人喜欢，却更要紧：它学会了——比它之前的任何一个都学得更好——严丝合缝地照吩咐去做。较老的机器会把一道含混的指令抹平，在中间靠猜；而这一个把每个字都当真——于是一处自相矛盾，两道无法同时遵从的命令，不再被折中成一团糊，而是裂成明摆着的混乱，或被抛回给提问者去了断。懂得这一点的人，不再像写信那样写给它，而开始像写一份计划那样写：一个角色，一桩任务，所要之物的形状，仔细地写下、保存下来、再用一遍。给出指令，已经成了一门工程。

到了第三周，脚下的地动了。一个模型出现了，人人——无论友是敌——都同意它在世上位居第一，而这已经很久没有发生过了，因为几个领先者跑得太过接近，没有谁能被加冕。使它成为一个转折、而不只是又一步的，是它的出身：它出自那家伟大的搜索引擎之门，与开启了整个时代的那家门户毫无干系。多年来，头一家门户就是这件事本身的名字，是落到每一只手上的默认之选；如今，头一回，世上最好的头脑坐在了它之外。而且四处都在传，说这同一家门户即将谈成一桩交易，要把自己的智能安进人们随身携带的那种最常见的小玻璃板里，好让它凭默认、而非凭选择，就触及世界的一半。那些曾说机器正在放缓、说撞上了什么墙的人，静了下来。没有墙。那东西只是不停地变好，而且不是变好一点点。

同一个时节，机器一下子学会了看。在此之前，它们是些盲的东西，用词语来读、来写、来推理，只能做些拙劣的、配给孩子看的图画。如今它们中的一个，能把一页密密麻麻的数字——一家公司每季呈报的账目——一举化成一张干净而完备的图表，人可以毫无羞惭地把它摆到一众长者面前；它能在一幅画里写下真正的字，这是旧的画图机器从来做不到的，还能像受过训练的手那样把一页排布出来。另一个，你给它看任何图像或活动的场景，用平常的话请它找出其中每一辆车、或每一张没戴面具的脸，它都能找出来，把每一只监看之眼、每一卷影像都变成某种你能像问一本书那样去问的东西。第三个，能凭几个字，造出一个房间，你走过去时它稳稳地立着。那个能被看见的世界，在此之前，对机器是黑暗的。如今它正变得可读，而人类劳作中一整片栖居于眼睛里的疆域，越界进入了它们的所及之处。

随着模型越来越多，较明智的用者不再去问哪一个最好——这个问题已不再有答案——而开始问哪一个合手头的活。有一个最擅长眼睛的活计、擅长清点杂乱的堆积；另一个擅长在井然有序的事物上做干净而艰难的思考；还有一个擅长那种耐心的、漫长的劳作，须得穿过一团乱麻而不失其线头。他们把这说成雇用：你不是娶一台机器，而是召来那台脾性合这桩活的。有一位读者送来了一道考题：一片冷地里用铅笔手点的约莫四百棵树的记数，与纸面上的记录对照，两下不合。唯有那台耐心的机器读出了那些淡淡的记号，把所有数字一齐握在手里，且有那份诚实，肯说清点在何处合不拢、在何处它没有把握——而不像一个较逊的机器那样硬凑出一个假的相符，只因它受不了一个不能干净利落收口的故事。

那一季出了一篇论文，在被人相信之前，先由别的学者验过，宣称了一件搁在一年前会被人耻笑的事。它说，一台机器不只是帮了研究者，而是它自己做出了原创的工作：证出了一条无人证过的定理，在那些巨大坍缩之星的深奥数学里找出了一处隐藏的对称，并提出了活体组织上的实验，那些实验后来竟与实验室尚未发表的结果相合。它伸手跨过了没有哪个人能整个握住的诸多领域。这不再是那台充当仆役、去取、去撮要的机器。这是那台作为同僚、坐到桌前的机器；它戳破了一个让人安心的信念——以为这些头脑全都一个样、可以互换，不过是些货品罢了。看来，在最前沿，有些头脑就是比另一些更深。

如今，造机器的人转向了大地本身。一家门户与一位机器的建造者联手，要在自己的土地上，起一座只为思考而造的大厅——它自己的机架、它自己的冷却、它自己那一条条电力的河——好让它不必向任何人乞讨它的引擎。因为这个时代，归根到底，落脚在了朴素的物质之物上：金属、电流、水，和土地。而在这个月的最后一周，在无数张家人围坐而食的桌子上，正是这些东西成了争论的题目。有些人怕机器把江河喝干，尽管更冷静的计算显示，一间漏水的房子比它们浪费的水还多；有些人怕它们夺走人手的活计。另一些人回应说，同样的力量，若用得得当，也许能给每一个孩子那位耐心的、私人的老师——迄今为止只有富人买得起的那一位。这不是一场言语能在一晚上了结的争执。这是将要到来的岁月的形状，在食物传来递去之间被人争论着。

一位观察长周期的人——他的行当就是从喧闹里退开一步，去读出万物的形状——在那个时节做了一场讲谈，许多人手手相传。他把这个时代摆在它之前的那些时代旁边——计算引擎的到来、网的到来、那些小板子的到来——说它将走同一条道：耗费巨资，强者被推倒、被重塑，可旧的那几层却极少被整个扫尽。他论说，机器本身正在变成一件寻常的部件，不是稀世的珍宝，不是抵挡对手的墙；优势不在于拥有最聪明的头脑，而在于人围着它造了些什么、又选择怎样去用它。他标出的那个安静的转折是这样的：人们已不再去问这东西行不行。那已成定论。如今他们只问，利与权最终会落到何处停歇——而事情正变得清楚：机器所重塑的，不只是干活的工具，而是谁向谁禀报的那整个形状。

为了看看寻常的用法已经走到了哪一步，有人让五台机器彼此较量一桩又小又家常的活：在每年转入冬天时降临的那场折扣的盛宴里，找出一张沙发上最实在的便宜价。这是一桩平常的差事，是人不假思索就去办的那一类，而它也——造机器的人乐意点出——是这世界商务里的一小片。这几台机器表现得参差不齐。有的只带回些含糊的文章，压根没有货品；有的找到了货，却不是最便宜的那件；有一台，问得好的话，显出自己是个精明而老练的真价猎手。最叫那位试者动容的，不是哪一台赢了，而是这场较量竟能办得起来。一年之前，根本没有五台机器可召，也没有一桩真活可摆在它们面前。

而在这个月的最后几天，一个更奇怪的念头，在那些建造机器居所的人中间扎下了根——那些程序，那些绘上颜色的屏面，人们向来是透过它们去与自己的工具相见的。他们说，四十年来，那些屏面都是造上一回、造来长久的，造起来昂贵，因而造得经久，人们把它们学得像一座房子里的房间，笃信一个程序无非就是它的屏面。那份笃定正在终结。如今屏面可以在一瞬间被召唤出来，为一个人、一个时刻量身贴合，等那时刻过去便被抛开，像冷玻璃上的一口呵气。经久不散的，不再是那层表面，而是它底下那实心的东西——那些真正的记录、那些规矩、那份一家公司输不起的记忆。那层表面，一直以来，不过是一桩被世人误当作律法的便利。如今它正在手中变软，而当它化尽之后，还立得住的会是何等形状，还没有谁知道其全貌。

← previousnext →