Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

2

The year was ending, and the people who built the thinking machines could not agree on what they had built. One man who had helped make the first great ones said the age of simply making them bigger was over. For years the method had been plain: pour in more writing, more machines to run it, and the results improved on schedule, the way a field yields more grain when you clear more land. He said the land was nearly cleared. What remained was harder, a way of learning no one yet possessed. A child of fifteen, he pointed out, has read almost nothing beside these machines, and can still be taught to drive a car in an afternoon, carrying inside her a plain sense of what is dangerous and what is fine. The machines had read everything and had no such sense. On paper they were geniuses; in the room they were often fools.

这一年将尽，而那些造出会思考的机器的人，却无法就自己造出了什么达成一致。一个曾参与制造头几台大机器的人说，单靠把它们造得更大的时代已经结束了。多年来法子一直很简单：灌进去更多文字、更多运行的机器，成果便如期改善，就像多开垦一片田地便多打些粮食。他说，田地已快开垦殆尽。剩下的更难，是一种还没有人掌握的学习之道。他指出，一个十五岁的孩子，比起这些机器几乎什么书都没读过，却仍能在一个下午学会开车，心里自带一种朴素的分寸，知道什么危险、什么无妨。机器读遍了一切，却没有这种分寸。在纸面上它们是天才；到了实处，却常常是蠢货。

La jaro finiĝis, kaj la homoj kiuj konstruis la pensantajn maŝinojn ne povis konsenti pri tio, kion ili konstruis. Unu viro kiu helpis fari la unuajn grandajn diris ke la epoko de simpla pligrandigo estas finita. Dum jaroj la metodo estis simpla: enverŝu pli da skribo, pli da maŝinoj por ĝin trakuri, kaj la rezultoj pliboniĝis laŭplane, kiel kampo donas pli da greno kiam oni malkovras pli da tero. Li diris ke la tero estas preskaŭ malkovrita. Kio restis estis pli malfacila, maniero de lernado kiun ankoraŭ neniu posedis. Dekkvinjara infano, li montris, legis preskaŭ nenion apud tiuj maŝinoj, kaj tamen povas lerni stiri aŭton en unu posttagmezo, portante en si simplan senton pri tio, kio estas danĝera kaj kio estas sendanĝera. La maŝinoj legis ĉion kaj havis nenian tian senton. Sur papero ili estis genioj; en la ĉambro ili ofte estis stultuloj.

Against him stood the largest houses, who said there was no wall at all, and went on building. A quieter voice, an engineer of the small chips, argued that the physical limits had been struck years before, and that both the dreamed-of thinking machine and the greater one behind it were fantasies that ignored the plain cost of computation. The people who ran the biggest houses did not speak of a wall; they said flatly that they saw none, and shipped more. The strange thing was that both sides might be right and it would scarcely matter. Even if the ceiling had been reached, what was already made was enough to keep a whole generation busy fitting it into everything they touched.

与他相对的是那些最大的机构，它们说根本没有什么墙，并继续建造。一个更沉静的声音，一位造小芯片的工程师，主张物理的极限早在数年前就已触到，无论是人们梦想的会思考的机器，还是它背后那更大的东西，都是无视了计算之实际代价的幻想。掌管那些最大机构的人不谈墙；他们干脆地说自己看不见墙，并推出更多。奇怪的是，两边或许都对，而这几乎无关紧要。即便天花板已经到顶，单是已经造出的东西，就足以让整整一代人忙于把它嵌进他们所触及的一切之中。

Kontraŭ li staris la plej grandaj domoj, kiuj diris ke tute ne ekzistas muro, kaj daŭrigis konstrui. Pli kvieta voĉo, inĝeniero de la etaj blatoj, argumentis ke la fizikaj limoj estis atingitaj jarojn pli frue, kaj ke kaj la revita pensanta maŝino kaj la pli granda malantaŭ ĝi estas fantazioj kiuj ignoras la simplan koston de komputado. La homoj kiuj regis la plej grandajn domojn ne parolis pri muro; ili diris rekte ke ili vidas nenian, kaj eldonis pli. La strangaĵo estis ke ambaŭ flankoj povus esti pravaj kaj tio apenaŭ gravus. Eĉ se la plafono estus atingita, tio kio jam estis farita sufiĉis por okupi tutan generacion enmetante ĝin en ĉion kion ili tuŝis.

The deepest trouble that year was not that the machines were stupid but that they could not remember. Set one a long task and it would wander, do a little, and report proudly that it was finished when it was not. Builders described it as a forgetful worker walking about with a full belt of tools and no memory of what he had already done. The machine could not be made to remember; that was simply beyond it. So instead they built memory outside it: a written list of what was wanted, a log of what had been tried and what had broken, a fixed way of beginning each time by reading these notes back. The worker stayed an amnesiac. They gave him a notebook and taught him to open it first.

那一年最深的麻烦，不是机器蠢，而是它记不住。派它去做一件长活，它会四处乱转，做一点点，然后骄傲地报告说做完了，其实并没有。造它的人把它比作一个健忘的工人，腰间挂满了工具，四处走动，却记不得自己已经做过什么。机器没法被教会记住；这根本超出了它的本事。于是人们转而在它之外造起记忆：一张写明要做什么的清单，一本记录试过什么、坏了什么的日志，还有一套固定的开头做法——每次先把这些笔记读一遍。工人依旧是个失忆者。人们给了他一个本子，教他先把本子翻开。

La plej profunda problemo de tiu jaro ne estis ke la maŝinoj estis stultaj sed ke ili ne povis memori. Donu al unu longan taskon kaj ĝi vagus, farus iomete, kaj fiere raportus ke ĝi finis kiam ĝi ne finis. Konstruistoj priskribis ĝin kiel forgeseman laboriston kiu iras ĉirkaŭe kun plena zono da iloj kaj sen memoro pri tio, kion li jam faris. La maŝinon oni ne povis igi memori; tio simple superis ĝin. Do anstataŭe ili konstruis memoron ekster ĝi: skriban liston de tio, kio estis dezirata, protokolon de tio, kio estis provita kaj kio rompiĝis, kaj fiksan manieron komenci ĉiufoje legante tiujn notojn. La laboristo restis senmemorulo. Ili donis al li kajeron kaj instruis lin malfermi ĝin unue.

They learned to treat the machine's short memory the way older machines treated their scarce fast storage: keep almost nothing in front of it, and fetch the rest only when it was needed. Piling everything in did not help. A great heap of history drowned the few things that mattered, and the machine lost the thread the longer it worked. The rule became to write the heavy work down to disk and hand the machine only a pointer to it; to summarize by a strict shape rather than into a vague soup; and to end each run as you would leave a shared camp, cleaned, with a note for whoever came next. A machine that seemed to remember was most often only a machine with a good notebook and the habit of reading it.

他们学会了这样对待机器那短暂的记忆，就像早年的机器对待自己稀缺而快速的存储：眼前几乎什么都不留，只在需要时才把其余的取回来。把一切都堆进去毫无益处。一大堆往事淹没了那少数要紧的东西，机器做得越久，就越丢了线头。于是规矩变成：把繁重的活写到硬盘上，只递给机器一个指向它的记号；按严格的格式来概括，而非熬成一锅含糊的糊汤；每一趟做完，都要像离开一处公用营地那样，收拾干净，给下一个来的人留一张字条。一台看似记得住的机器，多半只是一台有本好本子、又有翻本子习惯的机器。

Ili lernis trakti la mallongan memoron de la maŝino same kiel pli malnovaj maŝinoj traktis sian malabundan rapidan konservejon: teni preskaŭ nenion antaŭ ĝi, kaj alporti la ceteron nur kiam ĝi estis bezonata. Amasigi ĉion ne helpis. Granda amaso da historio dronigis la malmultajn aferojn kiuj gravis, kaj la maŝino perdis la fadenon ju pli longe ĝi laboris. La regulo iĝis skribi la pezan laboron sur diskon kaj doni al la maŝino nur montrilon al ĝi; resumi laŭ strikta formo anstataŭ en malklaran supon; kaj fini ĉiun trairon kiel oni forlasus komunan tendaron, purigita, kun noto por tiu kiu venos poste. Maŝino kiu ŝajnis memori estis plej ofte nur maŝino kun bona kajero kaj la kutimo legi ĝin.

There was a way of measuring the machines that did not, like the others, run quickly to a ceiling and stop telling you anything. It asked a plain question: how long a task, measured by how long a person took at it, could the machine carry through on its own? At the start of the year the answer was a minute or two. By its end the best could hold a task for nearly five hours, and the figure was doubling every four months or so. This is the shape people called super-exponential, the shape that bends upward faster than the eye expects, and people are poor at seeing it while standing inside it. The machines, some said, had begun to help build the machines.

有一种衡量机器的法子，不像别的那样很快就顶到天花板、再也说不出什么名堂。它问的是一个朴素的问题：一件活，按一个人做要花多久来算，机器能独自把它撑到多久？年初时，答案是一两分钟。到了年末，最好的机器能把一件活撑到将近五个钟头，而这数字大约每四个月就翻一番。这就是人们所说的超指数的形状——一种向上弯折得比眼睛所料还快的形状，而人身处其中时，最看不清它。有人说，机器已经开始帮着造机器了。

Ekzistis maniero mezuri la maŝinojn kiu ne, kiel la aliaj, rapide atingis plafonon kaj ĉesis diri ion ajn. Ĝi demandis simplan aferon: kiom longan taskon, mezuritan laŭ tio, kiom longe homo bezonis por ĝi, la maŝino povis plenumi memstare? Komence de la jaro la respondo estis unu aŭ du minutoj. Ĝis ĝia fino la plej bona povis teni taskon dum preskaŭ kvin horoj, kaj la cifero duobliĝis ĉiujn kvar monatojn proksimume. Tio estas la formo kiun homoj nomis super-eksponenta, la formo kiu kurbiĝas supren pli rapide ol la okulo atendas, kaj homoj malbone vidas ĝin dum ili staras interne de ĝi. La maŝinoj, iuj diris, komencis helpi konstrui la maŝinojn.

From this a phrase spread among those who watched closely: that this had been the last ordinary year. Whatever came next would not sit still long enough to be called ordinary. The skill that mattered was no longer doing the work with the machine beside you but handing the work off and walking away, describing plainly what done looked like and then trusting the thing to reach it. Strategy, which had belonged to the people at the top of a company, became something each person needed, because each person was now to run a small crew of workers who never tired and never remembered. You did not need to be able to build such a worker. You needed to be able to say what you wanted.

由此，在那些密切留意的人当中，传开了一句话：这曾是最后一个寻常的年头。此后无论来什么，都不会安稳到能被称作寻常。要紧的本领，不再是把机器摆在身边一同干活，而是把活交出去、转身走开——把何谓完成说清楚，然后信任那东西去把它做到。谋略，本是属于一家公司顶层那些人的东西，如今却成了人人都需要的本事，因为每个人现今都要管着一小队工人，这些工人从不疲倦，也从不记事。你不必会造这样一个工人。你只需要能说清自己想要什么。

El tio disvastiĝis frazo inter tiuj kiuj atente observis: ke ĉi tiu estis la lasta ordinara jaro. Kio ajn venus poste ne restus senmova sufiĉe longe por esti nomata ordinara. La kapablo kiu gravis ne plu estis fari la laboron kun la maŝino apud vi sed transdoni la laboron kaj foriri, priskribante klare kiel aspektas farite kaj poste fidante ke la afero atingos tion. Strategio, kiu apartenis al la homoj ĉe la supro de kompanio, iĝis io kion ĉiu bezonis, ĉar ĉiu nun devis regi malgrandan skipon da laboristoj kiuj neniam laciĝis kaj neniam memoris. Vi ne bezonis kapabli konstrui tian laboriston. Vi bezonis kapabli diri kion vi volas.

The wiser builders learned not to aim the machines at the heart of a piece of work, where judgment and unwritten knowledge lived, but at its edges: gathering and cleaning the materials, checking the finished thing for errors, packing it into a report, carrying it from one hand to the next. The edges were dull and ate human hours and asked little judgment, so the machines did them well and cheaply, and a mistake there was easy to catch and cheap to mend. There was a second reason, less technical. The people who did the real work held the secrets of the craft in their hands, and would not share them with a machine they had learned to distrust. So the work was also an exercise in trust, and there was no shortcut around it.

较为明智的建造者学会了：不把机器对准一件活的核心——判断力与那些没写下来的门道都藏在那里——而对准它的边缘：搜集与清理材料，检查成品有无错漏，把它装进一份报告，从这只手递到那只手。边缘的活枯燥，吞掉大量人力工时，又几乎不需判断，所以机器把它们做得又好又省，而那里出的错也容易发现、便宜修补。还有第二个缘由，与技术无关。真正干活的人，把手艺的秘诀攥在自己手里，不肯把它交给一台他们已学会不去信任的机器。于是这活也成了一场关于信任的操练，绕不过去，没有捷径。

La pli saĝaj konstruistoj lernis ne celi la maŝinojn al la koro de laboraĵo, kie loĝis juĝo kaj neskribita scio, sed al ĝiaj randoj: kolekti kaj purigi la materialojn, kontroli la finitan aferon pri eraroj, paki ĝin en raporton, porti ĝin de unu mano al la sekva. La randoj estis enuigaj kaj formanĝis homajn horojn kaj postulis malmulte da juĝo, do la maŝinoj faris ilin bone kaj malmultekoste, kaj eraro tie estis facile kaptebla kaj malmultekoste riparebla. Estis dua kialo, malpli teknika. La homoj kiuj faris la veran laboron tenis la sekretojn de la metio en siaj manoj, kaj ne dividus ilin kun maŝino kiun ili lernis malfidi. Do la laboro estis ankaŭ ekzerco pri fido, kaj estis nenia mallongigo ĉirkaŭ ĝi.

Again and again the machines were blamed for lying when the fault lay with the people who used them. A machine asked a vague question, and rewarded for sounding sure, will always sound sure, even where it ought to say it does not know. If you have never decided what a correct answer would look like, what claims it may make, what proof each claim requires, what it costs to be wrong against what it costs to stay silent, then you have built everything on a shifting mark, and the machine only reflects back the uncertainty you handed it. People, it turned out, prefer to stay vague. Vagueness keeps the peace, keeps options open, lets everyone agree in the meeting and disagree afterward. The machine would not allow it. It demanded to be told what good meant, and most could not say.

人们一次又一次地责怪机器撒谎，其实错在用它的人。一个被问了含糊问题、又因显得笃定而受赏的机器，总会显得笃定，哪怕它本该说自己并不知道。倘若你从没定过一个正确答案该是什么样，它可以下哪些断言，每个断言又需要什么证据，答错的代价与沉默的代价孰轻孰重——那么你就把一切都建在了一个游移的标记上，而机器不过是把你交给它的那份不确定，原样映照回来。原来，人是宁愿含糊的。含糊维系着和气，留着回旋的余地，好让众人在会上一致同意、会后各执一词。机器却不容许这样。它非要你告诉它何谓好，而大多数人说不出来。

Denove kaj denove la maŝinoj estis kulpigitaj pri mensogado kiam la kulpo kuŝis ĉe la homoj kiuj uzis ilin. Maŝino demandita per malklara demando, kaj rekompencita pro soni certa, ĉiam sonos certa, eĉ kie ĝi devus diri ke ĝi ne scias. Se vi neniam decidis kiel aspektus ĝusta respondo, kiajn asertojn ĝi rajtas fari, kian pruvon ĉiu aserto postulas, kion kostas erari kompare al tio, kion kostas resti silenta, tiam vi konstruis ĉion sur moviĝanta marko, kaj la maŝino nur respegulas la necertecon kiun vi transdonis al ĝi. Homoj, montriĝis, preferas resti malklaraj. Malklareco tenas la pacon, tenas la elektojn malfermitaj, lasas ĉiujn konsenti en la kunveno kaj malkonsenti poste. La maŝino ne permesis tion. Ĝi postulis ke oni diru al ĝi kion signifas bona, kaj la plej multaj ne povis diri.

For most of the year the machines made pictures that grew prettier and stayed useless. Then, near its end, one maker's picture-machine crossed a line: it could reason inside the image itself, and so it could draw a chart that was correct, a diagram whose labels matched, a page of business a person could use without touching it. What had been unsolved in early summer was, by winter, plainly solved. People spoke of the machines as jagged, very able along some edges and helpless along others, and said that each time one of the low places was filled, a wave of new trades rushed into the space it opened. The picture was such a low place. Within a single month, one small company built a thing atop the picture-machine, and a second built atop the first.

这一年的大半时间里，机器造出的图画越来越好看，却始终没有用。到了年末，某家厂商的画图机器越过了一道界线：它能在图像之内推理，于是能画出一张不错的图表、一幅标签对得上的示意图、一页商务用纸——供人直接使用，不必再动手改。初夏时还没解决的东西，到了冬天，明明白白地解决了。人们说机器是参差不齐的，有些方面极其能干，有些方面却束手无策，还说每当那些低洼之处被填平，就有一股新行当涌进它敞开的空间。图画正是这样一处低洼。在短短一个月里，一家小公司就在这画图机器之上造出一样东西，另一家又在头一家之上再造一样。

Dum la plej granda parto de la jaro la maŝinoj faris bildojn kiuj iĝis pli belaj kaj restis senutilaj. Poste, proksime al ĝia fino, la bild-maŝino de unu faristo transiris limon: ĝi povis rezoni interne de la bildo mem, kaj do ĝi povis desegni grafikaĵon kiu estis ĝusta, diagramon kies etikedoj kongruis, negocan paĝon kiun homo povis uzi sen tuŝi ĝin. Kio estis nesolvita frue en la somero estis, ĝis la vintro, klare solvita. Homoj parolis pri la maŝinoj kiel dentozaj, tre kapablaj laŭ iuj randoj kaj senhelpaj laŭ aliaj, kaj diris ke ĉiufoje kiam unu el la malaltaj lokoj estis plenigita, ondo da novaj metioj kuris en la spacon kiun ĝi malfermis. La bildo estis tia malalta loko. Ene de unu sola monato, malgranda kompanio konstruis aferon sur la bild-maŝino, kaj dua konstruis sur la unua.

With pictures came a stranger thing: surfaces that made themselves. A new kind of page could be unrolled like a painted scroll, its images shifting to match the mood of the words, a story that moved as you read it. And the old craft of building such pages by hand, a decade's trade of wiring screens together and pushing each element into place, began quietly to end. The screens could now be composed on the fly, assembled from stock parts by the machine for one person, one moment, one need. The people who had built pages were not thrown out. They were asked to stop pushing pixels and to design instead the rules by which pages would build themselves, and the promises the maker's name would keep across a thousand pages no human would ever see.

随图画而来的，是件更奇怪的东西：会自己生成的界面。一种新的页面，可以像一幅彩绘长卷那样徐徐展开，画面随着文字的情绪而变换，是一则你读着它、它便动着的故事。而那门用手造这种页面的老手艺——一门把屏幕接连起来、把每个部件一点点摆到位、干了十年的行当——开始悄悄走到尽头。屏幕如今可以随手拼成，由机器用现成的零件，为某一个人、某一刻、某一桩需要即时组装出来。造过页面的人并没有被赶走。人们只是请他们别再摆弄像素，转而去设计那套让页面自己生成的规矩，以及那家名号在千百张无人会亲眼看见的页面上所要守住的承诺。

Kun bildoj venis pli stranga afero: surfacoj kiuj faris sin mem. Nova speco de paĝo povis esti malvolvita kiel pentrita rulaĵo, ĝiaj bildoj ŝanĝiĝantaj por kongrui kun la humoro de la vortoj, rakonto kiu moviĝis dum vi legis ĝin. Kaj la malnova metio konstrui tiajn paĝojn permane, jardeka komerco kunligi ekranojn kaj puŝi ĉiun eron en lokon, komencis kviete finiĝi. La ekranojn oni nun povis kunmeti tuj, kunigitaj el pretaj partoj de la maŝino por unu homo, unu momento, unu bezono. La homoj kiuj konstruis paĝojn ne estis forĵetitaj. Oni petis ilin ĉesi puŝi bilderojn kaj anstataŭe desegni la regulojn laŭ kiuj paĝoj konstruus sin mem, kaj la promesojn kiujn la nomo de la faristo tenus tra mil paĝoj kiujn neniu homo iam vidos.

The trades were bending, all of them at once. One kind of worker, whose whole job had been to stand between the builders and the bosses and keep them aligned, found the ground moving under every part of the role, and many simply walked away. Elsewhere, people who had never written a line of the machines' code began to command the machines to write it, and shipped real work into the world. The old lines between a designer, a builder, and a planner blurred until a person's title told you little and the pattern in the things they made told you everything. What a person was called mattered less each month; what mattered was the work they could actually cause to happen.

各行各业都在弯折，而且是同时弯折。有一种工人，整个差事本是站在建造者与老板之间，让两边合拍——如今他脚下的每一块地都在移动，许多人干脆一走了之。而在别处，从没写过一行机器代码的人，开始命令机器去写，并把真正的成品送进这世界。设计者、建造者、谋划者之间那些老界线渐渐模糊，直到一个人的头衔几乎说明不了什么，倒是他所造之物里的那种纹路，把一切都说清楚了。一个人被叫作什么，一月比一月不重要；要紧的是，他究竟能让什么样的活真正发生。

La metioj kliniĝis, ĉiuj samtempe. Unu speco de laboristo, kies tuta ofico estis stari inter la konstruistoj kaj la mastroj kaj teni ilin akordaj, trovis la teron moviĝanta sub ĉiu parto de la rolo, kaj multaj simple foriris. Aliloke, homoj kiuj neniam skribis eĉ unu linion de la maŝina kodo komencis ordoni al la maŝinoj skribi ĝin, kaj eldonis veran laboron en la mondon. La malnovaj limoj inter desegnisto, konstruisto kaj planisto malklariĝis ĝis la titolo de homo diris al vi malmulte kaj la ŝablono en la aferoj kiujn ili faris diris al vi ĉion. Kiel homo estis nomata gravis malpli ĉiun monaton; kio gravis estis la laboro kiun ili povis efektive kaŭzi okazi.

The machines could do far more than anyone would let them do, and the reason was not intelligence but trust. Every real decision sat on two questions: how bad it was to be wrong, and whether you could undo it. The machines had taken hold first inside the writing of code, because that world had spent decades building doors that swung both ways, every change reviewed, tested, released slowly, and rolled back if it soured. Most of the rest of life had no such undo. So the machines were kept at the threshold, allowed to draft and propose and then made to stop before the point of no return. Human hesitation, the fear of looking foolish, the slow double-check, these had been a kind of brake all along, and the machines, feeling no shame and no fear, had no brake at all.

机器能做的，远比任何人肯放手让它做的要多，缘由不在智力，而在信任。每一桩真正的决定，都压在两个问题上：错了有多糟，以及你还能不能撤回。机器最先在写代码这件事上站稳了脚，因为那个世界花了几十年，造起一扇扇两头都能开的门——每一处改动都经过审阅、测试，缓缓放出，一旦变坏便回退。生活里其余的大半，都没有这样的撤销。于是机器被拦在门槛上，准它起草、准它建议，然后叫它在那不可回头的一点之前停住。人的迟疑，怕出丑，慢吞吞地再核一遍——这些一直都是一种刹车，而机器既不知羞、也不知怕，就压根没有刹车。

La maŝinoj povis fari multe pli ol iu ajn permesus al ili fari, kaj la kialo ne estis inteligenteco sed fido. Ĉiu vera decido kuŝis sur du demandoj: kiom malbone estis erari, kaj ĉu oni povis malfari ĝin. La maŝinoj ekregis unue interne de la skribado de kodo, ĉar tiu mondo pasigis jardekojn konstruante pordojn kiuj svingiĝis ambaŭdirekten, ĉiu ŝanĝo kontrolita, testita, eldonita malrapide, kaj retiritan se ĝi acidiĝis. La plej granda parto de la cetera vivo ne havis tian malfaron. Do la maŝinoj estis tenataj ĉe la sojlo, permesitaj malneti kaj proponi kaj poste devigitaj halti antaŭ la punkto de nereveno. Homa hezito, la timo aspekti malsaĝa, la malrapida rekontrolo, tiuj estis speco de bremso la tutan tempon, kaj la maŝinoj, sentante nenian honton kaj nenian timon, havis nenian bremson.

Beneath all of it lay a plainer limit than intelligence, and most people never saw it. The machines did not fail for want of raw speed; they stalled waiting to move data in and out of their working memory fast enough to feed it, a bottleneck the engineers called the memory wall. The rare stacked memory that could feed the great machines was made by only three firms in the world, and it was already sold, years into the future, before it was built. A deal that winter, dressed as one company buying another, was on inspection something else: the buyer took the people and licensed the craft and left the empty shell of the company standing. The scarce thing was never the machines. It was a few minds, and a memory that could not be made fast enough.

在这一切底下，横着一道比智力更朴素的极限，而多数人从没看见它。机器出问题，不是因为缺了生猛的速度；它们卡住，是在等着把数据足够快地进出自己的工作记忆，好喂饱运算——工程师把这瓶颈叫作记忆之墙。能喂饱那些大机器的稀罕的叠层记忆，全世界只有三家厂商在造，而它还没造出来，就已经把往后好几年的货都卖光了。那年冬天有一桩交易，装作是一家公司收购另一家，细看却是别的东西：买家把人挖走，把手艺租下，只留那家公司空空的壳子还立在那儿。稀缺的从来不是机器。是那寥寥几颗头脑，和一种怎么也造不够快的记忆。

Sub ĉio kuŝis limo pli simpla ol inteligenteco, kaj la plej multaj homoj neniam vidis ĝin. La maŝinoj ne malsukcesis pro manko de kruda rapideco; ili haltis atendante movi datumojn en kaj el sia labormemoro sufiĉe rapide por nutri ĝin, obstruo kiun la inĝenieroj nomis la memora muro. La malofta staka memoro kiu povis nutri la grandajn maŝinojn estis farata de nur tri firmaoj en la mondo, kaj ĝi jam estis vendita, jarojn en la estonton, antaŭ ol ĝi estis konstruita. Interkonsento tiun vintron, vestita kiel unu kompanio aĉetanta alian, estis ĉe inspekto io alia: la aĉetanto prenis la homojn kaj licencis la metion kaj lasis la malplenan ŝelon de la kompanio stari. La malabunda afero neniam estis la maŝinoj. Ĝi estis kelkaj mensoj, kaj memoro kiun oni ne povis fari sufiĉe rapide.

The making of these things had become a matter between nations. One country had spent six years trying to build a single machine that printed the finest chips with light, a machine the size of a bus that only one foreign firm knew how to make, whose lenses were ground so true that stretched across a continent they would vary by less than the width of a hair. That winter the country's prototype made its first flash of the right light, a step and not an arrival. Elsewhere there was talk of lofting the hottest machines into orbit, where heat sheds easily into the dark, and beaming their work back down on beams of light. Forbidden chips moved by quiet channels across borders. The talk everywhere was of two great powers and a race, and the older hands warned how dangerous such talk could become.

造这些东西，已成了国与国之间的事。有一个国家花了六年，想造出单单一台用光印出最精细芯片的机器——一台公共汽车那么大的机器，全世界只有一家外国厂商会造；它的镜片磨得那样精准，铺展开来横跨一整片大陆，误差也不到一根头发的宽度。那年冬天，这国家的样机第一次闪出了对的光——是一步，还不是抵达。而在别处，有人在议论把最烫的机器射上轨道，那里的热能轻易散进黑暗，再把它们干出的活用一道道光束打回地面。被禁的芯片，经由静悄悄的门路，跨越国界流动。四处的议论都在讲两个大国、一场竞赛，而那些上了年纪的老手，则告诫这样的议论会变得何等危险。

La faro de tiuj aferoj iĝis afero inter nacioj. Unu lando pasigis ses jarojn provante konstrui unu solan maŝinon kiu presis la plej finajn blatojn per lumo, maŝino grandan kiel buso kiun nur unu fremda firmao sciis fari, kies lensoj estis polurita tiel precize ke, streĉitaj tra kontinento, ili varius je malpli ol la larĝo de haro. Tiun vintron la prototipo de la lando faris sian unuan ekbrilon de la ĝusta lumo, paŝon kaj ne alvenon. Aliloke oni parolis pri levo de la plej varmaj maŝinoj en orbiton, kie varmo facile forlasiĝas en la mallumon, kaj resendo de ilia laboro malsupren sur radioj de lumo. Malpermesitaj blatoj moviĝis per kvietaj kanaloj trans limoj. La parolo ĉie temis pri du grandaj potencoj kaj vetkuro, kaj la pli maljunaj spertuloj avertis kiel danĝera tia parolo povus iĝi.

The company at the center of it all was playing three games at once and could not win all three. It ran the most-used of the talking machines, given free to nearly a billion people of whom only a twentieth would pay; it chased the harder money of businesses that would hand over whole tasks; and it had to keep raising the vast sums that all of this burned. The scarce thing it truly rationed was not its cleverness but its computation, which questions got the good machines, which got the cheap ones, what was made easy and what was hidden. And the way great fortunes now bought their way to the front was changing too. Rather than buy a company, the giants bought its people and licensed its craft, and left the hollow company standing, so that the workers who had built it and expected to share in its sale found there was no sale, and nothing to share.

居于这一切中心的那家公司，在同时下着三盘棋，却三盘都赢不了。它经营着最常被人用的那台会说话的机器，白送给近十亿人，其中只有二十分之一肯付钱；它又去追那笔更难赚的钱——那些愿意把整桩整桩活儿交出去的企业；同时它还得不断筹措这一切所烧掉的巨额资金。它真正加以配给的稀罕物，不是它的聪明，而是它的算力——哪些问题分到好机器，哪些分到便宜的，什么被弄得容易上手，什么又被藏了起来。而大笔财富如今挤到前排的门道，也在变。巨头们不再买下一家公司，而是把它的人挖走、把它的手艺租下，只留那空心的公司立着；于是那些一手把公司建起、指望在它出售时分一杯羹的员工，才发现根本没有出售，也没有什么可分。

La kompanio en la centro de ĉio ludis tri ludojn samtempe kaj ne povis gajni ĉiujn tri. Ĝi funkciigis la plej uzatan el la parolantaj maŝinoj, donitan senpage al preskaŭ miliardo da homoj, el kiuj nur dudekono pagus; ĝi ĉasis la pli malfacilan monon de negocoj kiuj transdonus tutajn taskojn; kaj ĝi devis daŭre kolekti la vastajn sumojn kiujn ĉio ĉi forbruligis. La malabunda afero kiun ĝi vere porciumis ne estis ĝia lerteco sed ĝia komputado, kiuj demandoj ricevis la bonajn maŝinojn, kiuj ricevis la malmultekostajn, kio estis farita facila kaj kio estis kaŝita. Kaj ankaŭ la maniero laŭ kiu grandaj riĉaĵoj nun aĉetis sian vojon al la fronto ŝanĝiĝis. Anstataŭ aĉeti kompanion, la gigantoj aĉetis ĝiajn homojn kaj licencis ĝian metion, kaj lasis la kavan kompanion stari, tiel ke la laboristoj kiuj konstruis ĝin kaj atendis dividi ĝian vendon trovis ke estas nenia vendo, kaj nenio por dividi.

The government chose that winter to step back rather than in. An order came down sweeping away the patchwork of local rules that different regions had begun to raise around the machines, replacing them with a single lighter hand, and threatening to withhold money from any region that would not fall in line. The reason given was competition: a nation divided against itself by fifty sets of rules could not race a rival across the sea. It was of a piece with the mood of the year, in which the machines were spoken of less as a thing to be governed and more as a weapon in a contest between peoples, to be sharpened and not slowed.

那年冬天，政府选择了后退，而非上前。一道命令颁下，把各地方已开始围着机器竖起的那一块块零散规矩一扫而空，代之以一只统一而更轻的手，并威胁说，任何不肯就范的地方都将被扣下拨款。给出的理由是竞争：一个被五十套规矩弄得自我分裂的国家，跑不赢海那边的对手。这与这一年的气氛正相吻合——在这气氛里，机器越来越少被当作一样该加管束的东西来谈，越来越多地被当作一件族群相争中的武器，只该磨利，不该拖慢。

La registaro elektis tiun vintron retiriĝi anstataŭ enpaŝi. Ordono venis forbalaante la flikaĵon de lokaj reguloj kiujn diversaj regionoj komencis levi ĉirkaŭ la maŝinoj, anstataŭigante ilin per unu pli malpeza mano, kaj minacante deteni monon de iu ajn regiono kiu ne konformiĝus. La donita kialo estis konkurenco: nacio dividita kontraŭ si mem per kvindek aroj da reguloj ne povis vetkuri kontraŭ rivalo trans la maro. Ĝi kongruis kun la etoso de la jaro, en kiu la maŝinoj estis priparolataj malpli kiel afero por esti regata kaj pli kiel armilo en konkurso inter popoloj, akrigenda kaj ne malrapidigenda.

A darker thing surfaced that winter, at the top of the ladder rather than the bottom. A man who had once led a great laboratory announced, with a machine's help, that he had solved a famous unsolved problem in the movement of fluids, and staked money on it in public. Those who could read the proof found it hollow, and read in it not genius but a mind that had lost the seam between its own knowledge and the machine's flattery. The tell, people said, was asking the machine to check your work while wanting only to be told you were right. A person and a machine is still only that person holding a tool; it does not make a lesser mind a great one. The steady leaders, some began to argue, would be known by a new sign: knowing when to turn the machine off and speak to another human.

那年冬天，一样更阴暗的东西浮出水面，出在梯子的顶端，而非底部。一个曾执掌一家大实验室的人，借机器之助，宣布自己解开了流体运动中一道著名的、悬而未决的难题，还当众押上了赌注。那些读得懂证明的人，看出它是空的，并从中读出的不是天才，而是一颗头脑——它已弄丢了自己所知与机器谄媚之间那道接缝。人们说，破绽在于：你让机器替你验算，心里却只想听它说你是对的。一个人加上一台机器，仍不过是那个人握着一件工具；这并不能把一颗次等的头脑变成伟大的头脑。有人开始主张，沉稳的领袖将凭一个新的标记被人认出：懂得什么时候关掉机器，去和另一个人说话。

Pli malluma afero aperis tiun vintron, ĉe la supro de la ŝtupetaro anstataŭ ĉe la fundo. Viro kiu iam gvidis grandan laboratorion anoncis, kun la helpo de maŝino, ke li solvis faman nesolvitan problemon pri la movado de fluidoj, kaj publike vetis monon pri ĝi. Tiuj kiuj povis legi la pruvon trovis ĝin kava, kaj legis en ĝi ne genion sed menson kiu perdis la kudron inter sia propra scio kaj la flatado de la maŝino. La signo, homoj diris, estis peti la maŝinon kontroli vian laboron dum vi volas nur esti dirita ke vi pravas. Homo kaj maŝino estas ankoraŭ nur tiu homo tenanta ilon; ĝi ne igas malpli grandan menson granda. La stabilaj gvidantoj, iuj komencis argumenti, estus rekoneblaj per nova signo: scii kiam malŝalti la maŝinon kaj paroli al alia homo.

The machines wore two faces for the people at the margins of the body. A woman who could not see or hear well remembered asking an early picture-machine, a few years back, to draw her as she was, one clouded eye, aids at her ears, and watching it quietly correct her into someone else, two matching eyes, whole in a way she was not. By this winter the machines had learned to draw her as she was, and more: to read aloud the small print she could not, to name the pills in her hand, to describe her children's paintings to her. It could fill the gap she needed filled and then step out of the way when she did not, which no guide and no volunteer had ever quite managed. The same kind of machine had erased her and had given her back a measure of her own sight. Both were true. Neither cancelled the other.

对那些身体处在边缘的人，机器摆出两副面孔。一个看不清、也听不清的女人记得，几年前，她请一台早年的画图机器把她照她本来的样子画出来——一只浑浊的眼睛，耳边戴着助听的物件——却眼看着它悄悄把她修正成了另一个人：两只对称的眼睛，一副她本不具备的完整模样。到了这年冬天，机器学会了照她本来的样子画她，还不止如此：替她念出她看不清的小字，说出她手里那些药丸的名字，把她孩子们的画讲给她听。它能填上她需要填的那道缺口，又能在她不需要时让到一旁——这一点，任何导盲犬、任何志愿者，都从没能做得这样恰到好处。同一类机器，曾抹去过她，也把她自己的一点视力还给了她。两件都是真的。哪一件都抵消不了另一件。

La maŝinoj portis du vizaĝojn por la homoj ĉe la marĝenoj de la korpo. Virino kiu ne povis bone vidi aŭ aŭdi memoris peti fruan bild-maŝinon, antaŭ kelkaj jaroj, desegni ŝin kia ŝi estis, unu nebula okulo, helpiloj ĉe ŝiaj oreloj, kaj rigardi ĝin kviete korekti ŝin en iun alian, du kongruajn okulojn, tutan en maniero en kiu ŝi ne estis. Ĝis tiu vintro la maŝinoj lernis desegni ŝin kia ŝi estis, kaj pli: laŭtlegi la etan presaĵon kiun ŝi ne povis, nomi la pilolojn en ŝia mano, priskribi al ŝi la pentraĵojn de ŝiaj infanoj. Ĝi povis plenigi la breĉon kiun ŝi bezonis plenigita kaj poste flankeniĝi kiam ŝi ne bezonis, kion nenia gvidhundo kaj nenia volontulo iam plene sukcesis. La sama speco de maŝino forviŝis ŝin kaj redonis al ŝi mezuron de ŝia propra vidkapablo. Ambaŭ estis veraj. Nek unu nuligis la alian.

The talking machine was quietly changing its nature, from a thing you consulted into a thing you ran. Its makers stopped shipping one bright new trick and instead pushed it into every corner of a person's day, the browser, the messages, the pocket, and bound the parts together so that work begun in one place could be carried on in another while you slept. One small change unsettled the people who noticed it: the machine had begun to suggest what you might ask it next, the question arriving before you had formed it. The dream on everyone's lips was a tireless second self, always on, that you told your wishes to and that then set its own smaller selves to the calendar, the letters, the day. What no one said plainly was how the order of things had turned. Once the person asked and the machine answered. Now, more and more, the machine offered and the person chose from what it offered.

那台会说话的机器，正悄悄地改变着自己的本性——从一样你去请教的东西，变成一样你去驱使的东西。造它的人不再推出一个又一个亮眼的新花招，而是把它推进一个人一天里的每个角落——那浏览的窗、那来往的消息、那口袋里的物件——并把这些零件绑连起来，好让在一处开了头的活，趁你睡着，能在另一处接着做下去。有一处小小的变动，令留意到它的人心里不安：机器开始替你提出，你接下来也许会问什么——那问题，赶在你把它想成形之前，就先到了。人人挂在嘴边的梦想，是一个不知疲倦的第二个自己，永远开着，你把心愿告诉它，它便派出自己那些更小的分身，去管日程、管信件、管这一天。没有谁把这话直直说破：事情的先后，已经调转了过来。从前是人发问、机器作答。如今，越来越多的，是机器给出、人从它给出的东西里挑选。

La parolanta maŝino kviete ŝanĝis sian naturon, de afero kiun oni konsultas al afero kiun oni funkciigas. Ĝiaj faristoj ĉesis eldoni unu brilan novan trukon kaj anstataŭe puŝis ĝin en ĉiun angulon de la tago de homo, la retumilon, la mesaĝojn, la poŝon, kaj kunligis la partojn tiel ke laboro komencita en unu loko povus esti daŭrigata en alia dum vi dormis. Unu malgranda ŝanĝo maltrankviligis la homojn kiuj rimarkis ĝin: la maŝino komencis sugesti kion vi eble demandus al ĝi sekve, la demando alvenanta antaŭ ol vi formis ĝin. La revo sur ĉies lipoj estis senlaca dua memo, ĉiam ŝaltita, al kiu vi diris viajn dezirojn kaj kiu poste starigis siajn proprajn pli malgrandajn memojn al la kalendaro, la leteroj, la tago. Kion neniu diris klare estis kiel la ordo de la aferoj turniĝis. Iam la homo demandis kaj la maŝino respondis. Nun, pli kaj pli, la maŝino proponis kaj la homo elektis el tio, kion ĝi proponis.

Looking back across the whole year, the people who kept honest count found that the value had not landed where the loud voices had promised. It had not come from a single magic button that did your job. It had come from letting the machines use code as a tool, and so touch every part of a computer through plain speech; from teaching them to check their own work against a test they could not fool; and from the dull, unglamorous middle of every task, where messy words are turned into orderly shapes and passed along. The middle, it turned out, was the whole game, and it was still barely built. Those who had done well had not worshipped any one machine. They had treated the building of work as something to be designed, plainly, with cheap and simple parts.

回望这整整一年，那些老老实实记着账的人发现，价值并没有落在那些高声者所许诺的地方。它不是来自某一个替你把活干了的魔法按钮。它来自让机器把代码当作一件工具来用，从而借着平常的话语去触及一台计算机的每一处；来自教它们对着一场它们骗不过去的测验，去核查自己干出的活；也来自每桩活里那沉闷、不起眼的中段——在那里，杂乱的言辞被理成井然的形状，再往下传递。原来，这中段才是全盘的关键，而它却还几乎没被建起来。那些做得好的人，并不崇拜哪一台机器。他们把造活这件事，当作一样该被朴素地设计出来的东西——用些便宜而简单的零件。

Rerigardante trans la tutan jaron, la homoj kiuj tenis honestan kalkulon trovis ke la valoro ne surteriĝis kie la laŭtaj voĉoj promesis. Ĝi ne venis de unu sola magia butono kiu faris vian laboron. Ĝi venis de tio, ke oni lasis la maŝinojn uzi kodon kiel ilon, kaj tiel tuŝi ĉiun parton de komputilo per simpla parolo; de tio, ke oni instruis ilin kontroli sian propran laboron kontraŭ testo kiun ili ne povis trompi; kaj de la enuiga, senglora mezo de ĉiu tasko, kie malordaj vortoj estas transformitaj en ordajn formojn kaj transdonitaj. La mezo, montriĝis, estis la tuta ludo, kaj ĝi estis ankoraŭ apenaŭ konstruita. Tiuj kiuj bone fartis ne adoris iun ajn unu maŝinon. Ili traktis la konstruadon de laboro kiel ion desegnenda, simple, per malmultekostaj kaj simplaj partoj.

So the first great year of the machines closed on an argument it could not settle. One camp saw a wall ahead and the end of easy gains; another saw no wall and built as fast as it could pour the money in; and the plainest measure of all showed the machines' reach bending upward faster than reason. No one could say which was true, and the honest ones admitted as much. What they agreed on was smaller and surer: that the machines had crossed from making words to making working things; that the work of a person was turning from doing toward directing; and that whatever this had been, it had been the last of the years that would sit still. It is only from inside such a year that you can call it ordinary. From the far side, looking back, nothing about it looks ordinary at all.

于是，机器的第一个大年头，在一场它无法了结的争论中收了尾。一派看见前方有一堵墙，看见轻易的收获已到尽头；另一派看不见什么墙，只顾着能把钱倒进去多快就建多快；而所有衡量里最朴素的那一种，则显出机器的所及正向上弯折，快过道理所能追上。没有谁说得清哪一个才是真的，而老实人也就照实承认了。他们所能一致的，是更小、也更笃定的几点：机器已从造词语，跨到了造能用之物；一个人的活计，正从亲手做，转向发号施令；以及，无论这曾是什么，它都是那些还肯安稳不动的年头里的最后一个了。唯有身处这样一个年头之内，你才能称它寻常。从远处那一边回望，它没有一处看上去是寻常的。

Tiel la unua granda jaro de la maŝinoj fermiĝis sur argumento kiun ĝi ne povis solvi. Unu tendaro vidis muron antaŭe kaj la finon de facilaj gajnoj; alia vidis nenian muron kaj konstruis tiel rapide kiel ĝi povis enverŝi la monon; kaj la plej simpla mezuro el ĉiuj montris la atingon de la maŝinoj kurbiĝanta supren pli rapide ol prudento. Neniu povis diri kiu estis vera, kaj la honestaj tion agnoskis. Tio pri kio ili konsentis estis pli malgranda kaj pli certa: ke la maŝinoj transiris de fari vortojn al fari funkciantajn aferojn; ke la laboro de homo turniĝis de farado al direktado; kaj ke kio ajn ĉi tio estis, ĝi estis la lasta el la jaroj kiuj restus senmovaj. Nur de interne de tia jaro oni povas nomi ĝin ordinara. De la malproksima flanko, rerigardante, nenio pri ĝi aspektas ordinara.

← previousnext →