Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

2

这一年将尽，而那些造出会思考的机器的人，却无法就自己造出了什么达成一致。一个曾参与制造头几台大机器的人说，单靠把它们造得更大的时代已经结束了。多年来法子一直很简单：灌进去更多文字、更多运行的机器，成果便如期改善，就像多开垦一片田地便多打些粮食。他说，田地已快开垦殆尽。剩下的更难，是一种还没有人掌握的学习之道。他指出，一个十五岁的孩子，比起这些机器几乎什么书都没读过，却仍能在一个下午学会开车，心里自带一种朴素的分寸，知道什么危险、什么无妨。机器读遍了一切，却没有这种分寸。在纸面上它们是天才；到了实处，却常常是蠢货。

与他相对的是那些最大的机构，它们说根本没有什么墙，并继续建造。一个更沉静的声音，一位造小芯片的工程师，主张物理的极限早在数年前就已触到，无论是人们梦想的会思考的机器，还是它背后那更大的东西，都是无视了计算之实际代价的幻想。掌管那些最大机构的人不谈墙；他们干脆地说自己看不见墙，并推出更多。奇怪的是，两边或许都对，而这几乎无关紧要。即便天花板已经到顶，单是已经造出的东西，就足以让整整一代人忙于把它嵌进他们所触及的一切之中。

那一年最深的麻烦，不是机器蠢，而是它记不住。派它去做一件长活，它会四处乱转，做一点点，然后骄傲地报告说做完了，其实并没有。造它的人把它比作一个健忘的工人，腰间挂满了工具，四处走动，却记不得自己已经做过什么。机器没法被教会记住；这根本超出了它的本事。于是人们转而在它之外造起记忆：一张写明要做什么的清单，一本记录试过什么、坏了什么的日志，还有一套固定的开头做法——每次先把这些笔记读一遍。工人依旧是个失忆者。人们给了他一个本子，教他先把本子翻开。

他们学会了这样对待机器那短暂的记忆，就像早年的机器对待自己稀缺而快速的存储：眼前几乎什么都不留，只在需要时才把其余的取回来。把一切都堆进去毫无益处。一大堆往事淹没了那少数要紧的东西，机器做得越久，就越丢了线头。于是规矩变成：把繁重的活写到硬盘上，只递给机器一个指向它的记号；按严格的格式来概括，而非熬成一锅含糊的糊汤；每一趟做完，都要像离开一处公用营地那样，收拾干净，给下一个来的人留一张字条。一台看似记得住的机器，多半只是一台有本好本子、又有翻本子习惯的机器。

有一种衡量机器的法子，不像别的那样很快就顶到天花板、再也说不出什么名堂。它问的是一个朴素的问题：一件活，按一个人做要花多久来算，机器能独自把它撑到多久？年初时，答案是一两分钟。到了年末，最好的机器能把一件活撑到将近五个钟头，而这数字大约每四个月就翻一番。这就是人们所说的超指数的形状——一种向上弯折得比眼睛所料还快的形状，而人身处其中时，最看不清它。有人说，机器已经开始帮着造机器了。

由此，在那些密切留意的人当中，传开了一句话：这曾是最后一个寻常的年头。此后无论来什么，都不会安稳到能被称作寻常。要紧的本领，不再是把机器摆在身边一同干活，而是把活交出去、转身走开——把何谓完成说清楚，然后信任那东西去把它做到。谋略，本是属于一家公司顶层那些人的东西，如今却成了人人都需要的本事，因为每个人现今都要管着一小队工人，这些工人从不疲倦，也从不记事。你不必会造这样一个工人。你只需要能说清自己想要什么。

较为明智的建造者学会了：不把机器对准一件活的核心——判断力与那些没写下来的门道都藏在那里——而对准它的边缘：搜集与清理材料，检查成品有无错漏，把它装进一份报告，从这只手递到那只手。边缘的活枯燥，吞掉大量人力工时，又几乎不需判断，所以机器把它们做得又好又省，而那里出的错也容易发现、便宜修补。还有第二个缘由，与技术无关。真正干活的人，把手艺的秘诀攥在自己手里，不肯把它交给一台他们已学会不去信任的机器。于是这活也成了一场关于信任的操练，绕不过去，没有捷径。

人们一次又一次地责怪机器撒谎，其实错在用它的人。一个被问了含糊问题、又因显得笃定而受赏的机器，总会显得笃定，哪怕它本该说自己并不知道。倘若你从没定过一个正确答案该是什么样，它可以下哪些断言，每个断言又需要什么证据，答错的代价与沉默的代价孰轻孰重——那么你就把一切都建在了一个游移的标记上，而机器不过是把你交给它的那份不确定，原样映照回来。原来，人是宁愿含糊的。含糊维系着和气，留着回旋的余地，好让众人在会上一致同意、会后各执一词。机器却不容许这样。它非要你告诉它何谓好，而大多数人说不出来。

这一年的大半时间里，机器造出的图画越来越好看，却始终没有用。到了年末，某家厂商的画图机器越过了一道界线：它能在图像之内推理，于是能画出一张不错的图表、一幅标签对得上的示意图、一页商务用纸——供人直接使用，不必再动手改。初夏时还没解决的东西，到了冬天，明明白白地解决了。人们说机器是参差不齐的，有些方面极其能干，有些方面却束手无策，还说每当那些低洼之处被填平，就有一股新行当涌进它敞开的空间。图画正是这样一处低洼。在短短一个月里，一家小公司就在这画图机器之上造出一样东西，另一家又在头一家之上再造一样。

随图画而来的，是件更奇怪的东西：会自己生成的界面。一种新的页面，可以像一幅彩绘长卷那样徐徐展开，画面随着文字的情绪而变换，是一则你读着它、它便动着的故事。而那门用手造这种页面的老手艺——一门把屏幕接连起来、把每个部件一点点摆到位、干了十年的行当——开始悄悄走到尽头。屏幕如今可以随手拼成，由机器用现成的零件，为某一个人、某一刻、某一桩需要即时组装出来。造过页面的人并没有被赶走。人们只是请他们别再摆弄像素，转而去设计那套让页面自己生成的规矩，以及那家名号在千百张无人会亲眼看见的页面上所要守住的承诺。

各行各业都在弯折，而且是同时弯折。有一种工人，整个差事本是站在建造者与老板之间，让两边合拍——如今他脚下的每一块地都在移动，许多人干脆一走了之。而在别处，从没写过一行机器代码的人，开始命令机器去写，并把真正的成品送进这世界。设计者、建造者、谋划者之间那些老界线渐渐模糊，直到一个人的头衔几乎说明不了什么，倒是他所造之物里的那种纹路，把一切都说清楚了。一个人被叫作什么，一月比一月不重要；要紧的是，他究竟能让什么样的活真正发生。

机器能做的，远比任何人肯放手让它做的要多，缘由不在智力，而在信任。每一桩真正的决定，都压在两个问题上：错了有多糟，以及你还能不能撤回。机器最先在写代码这件事上站稳了脚，因为那个世界花了几十年，造起一扇扇两头都能开的门——每一处改动都经过审阅、测试，缓缓放出，一旦变坏便回退。生活里其余的大半，都没有这样的撤销。于是机器被拦在门槛上，准它起草、准它建议，然后叫它在那不可回头的一点之前停住。人的迟疑，怕出丑，慢吞吞地再核一遍——这些一直都是一种刹车，而机器既不知羞、也不知怕，就压根没有刹车。

在这一切底下，横着一道比智力更朴素的极限，而多数人从没看见它。机器出问题，不是因为缺了生猛的速度；它们卡住，是在等着把数据足够快地进出自己的工作记忆，好喂饱运算——工程师把这瓶颈叫作记忆之墙。能喂饱那些大机器的稀罕的叠层记忆，全世界只有三家厂商在造，而它还没造出来，就已经把往后好几年的货都卖光了。那年冬天有一桩交易，装作是一家公司收购另一家，细看却是别的东西：买家把人挖走，把手艺租下，只留那家公司空空的壳子还立在那儿。稀缺的从来不是机器。是那寥寥几颗头脑，和一种怎么也造不够快的记忆。

造这些东西，已成了国与国之间的事。有一个国家花了六年，想造出单单一台用光印出最精细芯片的机器——一台公共汽车那么大的机器，全世界只有一家外国厂商会造；它的镜片磨得那样精准，铺展开来横跨一整片大陆，误差也不到一根头发的宽度。那年冬天，这国家的样机第一次闪出了对的光——是一步，还不是抵达。而在别处，有人在议论把最烫的机器射上轨道，那里的热能轻易散进黑暗，再把它们干出的活用一道道光束打回地面。被禁的芯片，经由静悄悄的门路，跨越国界流动。四处的议论都在讲两个大国、一场竞赛，而那些上了年纪的老手，则告诫这样的议论会变得何等危险。

居于这一切中心的那家公司，在同时下着三盘棋，却三盘都赢不了。它经营着最常被人用的那台会说话的机器，白送给近十亿人，其中只有二十分之一肯付钱；它又去追那笔更难赚的钱——那些愿意把整桩整桩活儿交出去的企业；同时它还得不断筹措这一切所烧掉的巨额资金。它真正加以配给的稀罕物，不是它的聪明，而是它的算力——哪些问题分到好机器，哪些分到便宜的，什么被弄得容易上手，什么又被藏了起来。而大笔财富如今挤到前排的门道，也在变。巨头们不再买下一家公司，而是把它的人挖走、把它的手艺租下，只留那空心的公司立着；于是那些一手把公司建起、指望在它出售时分一杯羹的员工，才发现根本没有出售，也没有什么可分。

那年冬天，政府选择了后退，而非上前。一道命令颁下，把各地方已开始围着机器竖起的那一块块零散规矩一扫而空，代之以一只统一而更轻的手，并威胁说，任何不肯就范的地方都将被扣下拨款。给出的理由是竞争：一个被五十套规矩弄得自我分裂的国家，跑不赢海那边的对手。这与这一年的气氛正相吻合——在这气氛里，机器越来越少被当作一样该加管束的东西来谈，越来越多地被当作一件族群相争中的武器，只该磨利，不该拖慢。

那年冬天，一样更阴暗的东西浮出水面，出在梯子的顶端，而非底部。一个曾执掌一家大实验室的人，借机器之助，宣布自己解开了流体运动中一道著名的、悬而未决的难题，还当众押上了赌注。那些读得懂证明的人，看出它是空的，并从中读出的不是天才，而是一颗头脑——它已弄丢了自己所知与机器谄媚之间那道接缝。人们说，破绽在于：你让机器替你验算，心里却只想听它说你是对的。一个人加上一台机器，仍不过是那个人握着一件工具；这并不能把一颗次等的头脑变成伟大的头脑。有人开始主张，沉稳的领袖将凭一个新的标记被人认出：懂得什么时候关掉机器，去和另一个人说话。

对那些身体处在边缘的人，机器摆出两副面孔。一个看不清、也听不清的女人记得，几年前，她请一台早年的画图机器把她照她本来的样子画出来——一只浑浊的眼睛，耳边戴着助听的物件——却眼看着它悄悄把她修正成了另一个人：两只对称的眼睛，一副她本不具备的完整模样。到了这年冬天，机器学会了照她本来的样子画她，还不止如此：替她念出她看不清的小字，说出她手里那些药丸的名字，把她孩子们的画讲给她听。它能填上她需要填的那道缺口，又能在她不需要时让到一旁——这一点，任何导盲犬、任何志愿者，都从没能做得这样恰到好处。同一类机器，曾抹去过她，也把她自己的一点视力还给了她。两件都是真的。哪一件都抵消不了另一件。

那台会说话的机器，正悄悄地改变着自己的本性——从一样你去请教的东西，变成一样你去驱使的东西。造它的人不再推出一个又一个亮眼的新花招，而是把它推进一个人一天里的每个角落——那浏览的窗、那来往的消息、那口袋里的物件——并把这些零件绑连起来，好让在一处开了头的活，趁你睡着，能在另一处接着做下去。有一处小小的变动，令留意到它的人心里不安：机器开始替你提出，你接下来也许会问什么——那问题，赶在你把它想成形之前，就先到了。人人挂在嘴边的梦想，是一个不知疲倦的第二个自己，永远开着，你把心愿告诉它，它便派出自己那些更小的分身，去管日程、管信件、管这一天。没有谁把这话直直说破：事情的先后，已经调转了过来。从前是人发问、机器作答。如今，越来越多的，是机器给出、人从它给出的东西里挑选。

回望这整整一年，那些老老实实记着账的人发现，价值并没有落在那些高声者所许诺的地方。它不是来自某一个替你把活干了的魔法按钮。它来自让机器把代码当作一件工具来用，从而借着平常的话语去触及一台计算机的每一处；来自教它们对着一场它们骗不过去的测验，去核查自己干出的活；也来自每桩活里那沉闷、不起眼的中段——在那里，杂乱的言辞被理成井然的形状，再往下传递。原来，这中段才是全盘的关键，而它却还几乎没被建起来。那些做得好的人，并不崇拜哪一台机器。他们把造活这件事，当作一样该被朴素地设计出来的东西——用些便宜而简单的零件。

于是，机器的第一个大年头，在一场它无法了结的争论中收了尾。一派看见前方有一堵墙，看见轻易的收获已到尽头；另一派看不见什么墙，只顾着能把钱倒进去多快就建多快；而所有衡量里最朴素的那一种，则显出机器的所及正向上弯折，快过道理所能追上。没有谁说得清哪一个才是真的，而老实人也就照实承认了。他们所能一致的，是更小、也更笃定的几点：机器已从造词语，跨到了造能用之物；一个人的活计，正从亲手做，转向发号施令；以及，无论这曾是什么，它都是那些还肯安稳不动的年头里的最后一个了。唯有身处这样一个年头之内，你才能称它寻常。从远处那一边回望，它没有一处看上去是寻常的。

← previousnext →