Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

7

The year before, the machines had been given hands, and with hands they had begun to reach into files and letters and the coffers where money was kept. This month the question changed. It was no longer whether a machine could act — that was settled, and dully so — but who the machine acted for, where it ran, what it was allowed to touch, and who stood ready to stop it. And with that question came a quieter reversal. For fifteen years the reckoning-box on a person's desk had been emptying itself into the far halls of other men's machines, until the box was little more than a window. Now, because the machines wanted to touch the work — to open the folders, run the tests, remember what was decided — the desk began to matter again. The useful thing was not the cleverest machine you could rent. It was the ground you owned beneath it: your files, your letters, the record of your days, kept where no landlord could take them back.

前一年，机器被授予了双手，凭着这双手，它们开始伸向文卷、信札，以及藏钱的柜。这个月，问题变了。已不再是机器能否行事——那早已定论，且平淡无奇——而是机器为谁行事，在何处运转，被允许触碰什么，又有谁随时准备将它止住。随这问题而来的，是一场更安静的反转。十五年来，人案头的那台算匣一直把自己掏空，倒进别人机器的远厅，直到那匣子只剩一扇窗。如今，因为机器想要触碰活计——开启文夹，跑那些试验，记住定下的事——案头又重新要紧起来。有用的东西，不再是你能租到的最聪明的机器，而是你脚下自有的那片地：你的文卷，你的信札，你日子的记录，存放在任何地主都收不回去的地方。

La antaŭan jaron oni donis al la maŝinoj manojn, kaj per manoj ili komencis atingi en dosierojn kaj leterojn kaj la kestojn, kie oni tenis monon. Ĉi tiun monaton la demando ŝanĝiĝis. Ne plu temis pri tio, ĉu maŝino povas agi — tio estis decidita, kaj enue tiel — sed por kiu la maŝino agis, kie ĝi kuris, kion oni permesis al ĝi tuŝi, kaj kiu staris preta halti ĝin. Kaj kun tiu demando venis pli kvieta inversigo. Dum dek kvin jaroj la kalkulskatolo sur la tablo de homo malplenigis sin en la malproksimajn halojn de la maŝinoj de aliaj homoj, ĝis la skatolo estis apenaŭ pli ol fenestro. Nun, ĉar la maŝinoj volis tuŝi la laboron — malfermi la dosierujojn, kuri la provojn, memori kio estis decidita — la tablo denove komencis gravi. La utila afero ne estis la plej lerta maŝino, kiun oni povus lupreni. Ĝi estis la grundo, kiun oni posedis sub ĝi: viaj dosieroj, viaj leteroj, la registro de viaj tagoj, tenataj kie neniu terposedanto povus repreni ilin.

The watchers had learned to see the thinking-engine as a kind of brain that could be lifted out and another set in its place. What mattered was not the brain but the body built around it — the store of memory, the set of tools, the ledger of what each machine was permitted to do and what it had done. Build the body well, they said, and you could change the mind inside it without tearing the whole thing down. This mattered more that spring because the workshop that had first lit the fire, the one whose small tireless helpers had set the whole thing running the winter before, found itself short of the very engines it needed. It had planned to grow tenfold in a year and had grown eightyfold instead. It began, unhappily, to ration — to tell those who had run its helpers cheaply, all day and all night, that the feast was over and they would now pay by the cup.

观察者已学会把那思考的引擎看作一副可以取出、再换上另一副的脑。要紧的不是脑，而是围着它造起来的身躯——记忆的仓廪，工具的套具，以及那本账：记着每台机器被允许做什么、又已做过什么。他们说，把身躯造得好，你便能换掉里头的心智，而不必把整座东西拆倒。那年春天这一点尤其要紧，因为最先点起这把火的那座作坊——去年冬天，正是它那些不知疲倦的小帮手让这一切运转起来——如今竟短了它最需要的引擎。它本打算一年长大十倍，结果长了八十倍。它只得不情愿地开始定量配给：告诉那些曾廉价地日夜驱使其帮手的人，盛宴已散，此后按杯计价。

La rigardantoj lernis vidi la pensan motoron kiel ian cerbon, kiun oni povus levi el sia loko kaj meti alian anstataŭe. Gravis ne la cerbo, sed la korpo konstruita ĉirkaŭ ĝi — la provizejo de memoro, la aro de iloj, la registro de tio, kion oni permesis al ĉiu maŝino fari kaj kion ĝi faris. Konstruu la korpon bone, ili diris, kaj vi povus ŝanĝi la menson interne sen disŝiri la tutan aferon. Tio pli gravis tiun printempon, ĉar la laborejo, kiu unue ekbruligis la fajron — tiu, kies malgrandaj senlacaj helpantoj ekkurigis la tuton la antaŭan vintron — trovis sin manka je la motoroj mem, kiujn ĝi bezonis. Ĝi estis planinta kreski dekoble en jaro, kaj kreskis anstataŭe okdekoble. Ĝi komencis, malĝoje, porcii — diri al tiuj, kiuj kuris ĝiajn helpantojn malmultekoste, la tutan tagon kaj la tutan nokton, ke la festeno finiĝis kaj ke ili nun pagus po taso.

The keeping of memory turned out to be harder than the thinking. A machine set to a task would waste much of its strength each time relearning what it had already known — reading again the papers it had summarized the day before, asking again the questions already answered, spending itself on rediscovery before any true work began. To fix this, the makers came to see that knowledge does not have one shape. Some of it is loose prose, and a nearest-neighbor search will serve. But some lives in long ordered documents where the order itself carries the meaning, so that to chop them into pieces is to lose the very thing that made them true. Some lives in tables and ledgers, where a number is not a paragraph and must be read as a number. And some lives in webs of relation — which thing depends on which — that neither pieces nor tables can hold. The task was no longer to choose a single method but to match the shape of the memory to the shape of the work.

记忆的保存，结果比思考更难。一台被派去做事的机器，每一次都要耗掉大半气力，去重新学它早已知道的东西——重读它前一日已撮要过的文书，重问那些早有答案的问题，在真正的活计开始之前，先把自己花在重新发现上。为了补救，制作者渐渐看出：知识并非只有一种形状。有些是松散的散文，用一个“取最近邻”的检索便够了。可有些藏在冗长而有序的文书里，那序次本身即承载着意义，把它们剁成碎片，便丢掉了使它们为真的那样东西。有些藏在表格与账册里，数字不是段落，必须当作数字来读。还有些藏在关系之网中——何物系于何物——这既非碎片、亦非表格所能容纳。任务已不再是择定单一的方法，而是让记忆的形状，去合上活计的形状。

La konservado de memoro montriĝis pli malfacila ol la pensado. Maŝino metita al tasko malŝparus grandan parton de sia forto ĉiufoje relernante tion, kion ĝi jam sciis — legante denove la paperojn, kiujn ĝi resumis la antaŭan tagon, demandante denove la demandojn jam responditajn, elspezante sin pri remalkovro antaŭ ol ia vera laboro komenciĝis. Por ripari tion, la faristoj venis vidi, ke scio ne havas unu formon. Iom da ĝi estas loza prozo, kaj serĉo de la plej proksima najbaro sufiĉos. Sed iom loĝas en longaj ordigitaj dokumentoj, kie la ordo mem portas la signifon, tiel ke haki ilin en pecojn estas perdi ĝuste tion, kio faris ilin veraj. Iom loĝas en tabeloj kaj registroj, kie numero ne estas alineo kaj devas esti legata kiel numero. Kaj iom loĝas en retoj de rilato — kiu afero dependas de kiu — kiujn nek pecoj nek tabeloj povas teni. La tasko ne plu estis elekti unu solan metodon, sed kongruigi la formon de la memoro al la formo de la laboro.

It surprised the watchers where the machines found their firmest footing. Not in the grand halls but in the dullest books a company kept: the plain registers that said who owned a piece of work, what state it had reached, who must approve it, what had been done to it and when. These books had been made for people, to keep people from forgetting; but they held exactly what a machine needed and could not supply itself — a settled record outside its own short memory. So the boring ledger, which everyone expected to die, was instead promoted. And beneath the ledger lay a deeper matter, the one the watchers thought most underprized. A machine could learn to press the button that read save. But the button was not the thing. Behind save might lie five people notified, a promise broken, money moved, a signed agreement that was the only copy. The person at the desk had always carried that meaning in their head. The machine saw only the button, and the fight worth winning was over who would teach it what the button meant.

机器在何处站得最稳，倒教观察者吃惊。不在那些堂皇的大厅，而在一家公司所存最枯燥的簿册里：那些朴素的登录，记着一件活计归谁所有、走到了哪一步、须由谁批准、被做过什么、又在何时。这些簿册本是为人而设，为的是防人遗忘；可它们所载的，恰是机器所需、而自身无从供给的东西——一份已然确定、在它自己那点短暂记忆之外的记录。于是那本人人料它将死的枯燥账册，反倒被擢升了。而账册之下，还伏着一桩更深的事，观察者以为它最被低估。机器能学会去按那个写着“存”的钮。可钮并非那桩事。“存”之后，或许伏着五个人被通知、一个承诺被毁、一笔钱被移动、一纸唯一副本的签约。案头的人一向把这层意思揣在心里。机器只看见那个钮，而值得去打赢的那场仗，是关于由谁来教它：这钮究竟意味着什么。

Surprizis la rigardantojn, kie la maŝinoj trovis sian plej firman piedtenon. Ne en la grandaj haloj, sed en la plej enuaj libroj, kiujn firmao tenis: la simplaj registroj, kiuj diris, kiu posedis pecon da laboro, kian staton ĝi atingis, kiu devis aprobi ĝin, kio estis farita al ĝi kaj kiam. Ĉi tiuj libroj estis faritaj por homoj, por malhelpi homojn forgesi; sed ili tenis ĝuste tion, kion maŝino bezonis kaj ne povis mem provizi — firman registron ekster sia propra mallonga memoro. Do la enua registro, kiun ĉiuj atendis morti, estis anstataŭe promociita. Kaj sub la registro kuŝis pli profunda afero, tiu, kiun la rigardantoj opiniis plej subtaksita. Maŝino povus lerni premi la butonon, kiu legis konservi. Sed la butono ne estis la afero. Malantaŭ konservi povus kuŝi kvin homoj avertitaj, promeso rompita, mono movita, subskribita interkonsento, kiu estis la sola ekzemplero. La homo ĉe la tablo ĉiam portis tiun signifon en sia kapo. La maŝino vidis nur la butonon, kaj la batalo inda je venko temis pri tio, kiu instruos al ĝi, kion la butono signifis.

For twenty-five years the trade of the wider world had been built to catch the human eye and turn it toward a purchase — a whole industry of shopfronts and lures, arranged so that a person's wanting became visible at the moment they arrived at the seller's door. This month that arrangement began to come apart. If a person's machine formed the wish — weighed the room, the purse, the taste, and settled on the thing — then the wanting was already spent before any shopfront was reached. The shop was no longer the only shop. And the money moved differently too. Where once a person carried nothing to the seller and gave up their credential at the counter, now the machine arrived already carrying leave to pay, bounded by an amount, a seller, a kind of coin. The seller no longer met a wandering customer to be persuaded. It met an errand already decided, and could only hope to have been made legible enough, early enough, to be the answer the machine chose.

二十五年来，更广世界的交易一向是为着抓住人的眼、把它引向一次购买而造的——一整套门面与诱饵的行当，布置得恰好让一个人的欲求，在他抵达卖家门口的那一刻显形。这个月，这套布置开始散架。倘若一个人的机器替他形成了那愿望——掂过屋子、掂过钱袋、掂过口味，然后定下那样东西——那么这欲求，在抵达任何门面之前，便已花掉了。铺子不再是唯一的铺子。钱的流动也变了样。从前，人空着手去见卖家，在柜台上交出他的凭证；如今，机器到来时已随身带着付款的许可，受一个数额、一个卖家、一种钱币所限。卖家不再迎来一位可供劝说的、闲逛的顾客。它迎来的是一桩已然定下的差事，只能指望自己早已被做得足够清楚、足够早，好成为机器所选中的那个答案。

Dum dudek kvin jaroj la komerco de la pli vasta mondo estis konstruita por kapti la homan okulon kaj turni ĝin al aĉeto — tuta industrio de butikfrontoj kaj logiloj, aranĝita tiel, ke la deziro de homo fariĝis videbla en la momento, kiam li alvenis al la pordo de la vendisto. Ĉi tiun monaton tiu aranĝo komencis disfali. Se la maŝino de homo formis la deziron — pesis la ĉambron, la monujon, la guston, kaj decidis pri la aĵo — tiam la deziro estis jam elspezita antaŭ ol iu butikfronto estis atingita. La butiko ne plu estis la sola butiko. Kaj la mono moviĝis alie ankaŭ. Kie iam homo portis nenion al la vendisto kaj transdonis sian legitimilon ĉe la breto, nun la maŝino alvenis jam portante permeson pagi, limigitan per sumo, per vendisto, per speco de monero. La vendisto ne plu renkontis vagantan klienton por persvadi. Ĝi renkontis komision jam decidita, kaj povis nur esperi esti farita sufiĉe legebla, sufiĉe frue, por esti la respondo, kiun la maŝino elektis.

When money is put into a machine's hands and moves to the wrong place, someone is left to answer for it, and much of the month's argument was over who. The old single act of a person clicking to buy had hidden a dozen questions inside itself: was a human present, was the price shown, was the credential theirs, did they mean it. Pull that act apart and give it to a machine, and each question had to be asked again and answered in the open. It was not enough to prove that money had moved; a receipt could show that. What had to be shown was that the machine had been allowed to move it — a letter of leave, granted before the errand began, naming what was permitted and how far. To pay was one thing. To have been authorized to pay was another, and the deeper one, for a payment can be made that never should have been made at all.

当钱被交到机器手里、又流去了错处，总得有人为它作答，而这个月的争论，大半在于：谁。旧时那个人一按即买的单一动作里，藏着十来个问题：有没有人在场，价钱有没有标出，凭证是不是他的，他是不是当真要买。把那动作拆开、交给机器，每一个问题便都得重新问过、当众答过。仅仅证明钱动过了，还不够——一纸收据便能证明。须得证明的是：机器曾被许可去动它——一封在差事开始之前便已发下的许可状，写明什么被准许、准许到何处。付款是一回事。曾被授权付款，是另一回事，且是更深的一回，因为一笔付款尽可以做成，而它本就压根不该做成。

Kiam mono estas metita en la manojn de maŝino kaj moviĝas al la malĝusta loko, iu restas por respondi pri ĝi, kaj granda parto de la monata disputo temis pri kiu. La malnova sola ago de homo klakanta por aĉeti kaŝis dekduon da demandoj interne de si: ĉu homo ĉeestis, ĉu la prezo estis montrita, ĉu la legitimilo estis lia, ĉu li vere intencis. Disigu tiun agon kaj donu ĝin al maŝino, kaj ĉiu demando devis esti demandita denove kaj respondita malkaŝe. Ne sufiĉis pruvi, ke mono moviĝis; kvitanco povus montri tion. Kio devis esti montrita, estis ke la maŝino estis permesita movi ĝin — letero de permeso, donita antaŭ ol la komisio komenciĝis, nomanta kion oni permesis kaj ĝis kie. Pagi estis unu afero. Esti rajtigita pagi estis alia, kaj la pli profunda, ĉar pago povas esti farita, kiu neniam devus esti farita entute.

This was the shape of a larger turn. For a generation the trade of the world had run on attention — on catching the eye and stirring the feeling. But a machine has no eye to catch and no feeling to stir. It does not want to be persuaded; it wants to know whether the thing is what its master asked for. So the sellers who had lived by story found that story alone no longer reached the buyer, because a machine now stood between them, reading. What the machine could read was proof: plain, structured, checkable claims about what a thing was and did. Those who offered it were considered. Those who offered only warmth and a memorable name were flattened into the gray average of their kind — one more seller of shoes, indistinguishable to a reader that felt nothing. And the same rule, unsettlingly, was turning on persons as well as on wares: a man seeking work would soon be read the same way, weighed by a machine for what he could prove rather than for how he told it.

这是一场更大转向的形状。有整整一代人，世界的交易靠的是注意力——靠抓住眼睛、搅动情绪。可机器没有可抓的眼，没有可搅的情。它不求被说服；它只想知道那样东西是不是它主人所要的。于是那些靠故事度日的卖家发现，单凭故事已够不着买家了，因为如今有一台机器立在他们之间，读着。机器所能读的，是凭据：朴素、有结构、可核验的断言，说清一样东西是什么、能做什么。给得出这个的，便被纳入考量。只给得出暖意与一个好记名字的，便被压平进他那类人灰扑扑的平均里——又一个卖鞋的，在一个毫无感觉的读者眼中难以分辨。而同一条规矩，令人不安地，正掉头对准人，一如它对准货物：一个求工的人，不久也将被同样地读——由一台机器称量他能证明什么，而非他讲得如何。

Tio estis la formo de pli granda turno. Dum generacio la komerco de la mondo kuris sur atento — sur kaptado de la okulo kaj movado de la sento. Sed maŝino havas nenian okulon por kapti kaj nenian senton por movi. Ĝi ne volas esti persvadita; ĝi volas scii, ĉu la aĵo estas tio, kion ĝia mastro petis. Do la vendistoj, kiuj vivis per rakonto, trovis, ke rakonto sola ne plu atingis la aĉetanton, ĉar maŝino nun staris inter ili, leganta. Kion la maŝino povis legi, estis pruvo: simplaj, strukturitaj, kontroleblaj asertoj pri tio, kio aĵo estis kaj faris. Tiuj, kiuj proponis ĝin, estis konsiderataj. Tiuj, kiuj proponis nur varmon kaj memoreblan nomon, estis platigitaj en la grizan mezumon de sia speco — unu plia vendisto de ŝuoj, nedistingebla por leganto, kiu sentis nenion. Kaj la sama regulo, maltrankviligite, turniĝis sur homojn same kiel sur varojn: viro serĉanta laboron baldaŭ estus legata same, pesita de maŝino pri tio, kion li povis pruvi, prefere ol pri tio, kiel li rakontis ĝin.

There was a cost to all this that arrived quietly, in the manner of a second meter. For two decades the makers of business-tools had sold their wares by the seat — one price for each person who logged in and clicked. But an agent uses a tool without sitting in it; it reads the record, updates the ledger, runs the workflow, and never occupies a chair. So the sellers, who did not wish to lose the value of work merely because a machine now did it, kept the seat and turned on a second meter beside it, counting the units of delegated labor: each record touched, each case summarized, each errand run. Whoever had defined what a piece of work was earned, by that fact, the right to price the work. And the buyers who waited — who let the machines grow essential before asking what they would cost — found at renewal that their leverage had quietly moved to the other side of the table.

这一切另有一重代价，它悄然而至，像第二只计价的表。二十年来，做营生器具的卖家一向按“座”售货——每一个登录并点击的人，算一份价。可一个代理用一件器具，却不坐进去；它读那记录，更那账册，跑那流程，从不占一把椅子。于是卖家们，不愿仅仅因为如今由机器来做便折了这活计的价值，便留下那“座”，又在旁边拧开第二只表，去数那些被托付出去的劳作单位：每一条被触碰的记录，每一桩被撮要的案子，每一件被跑完的差事。谁定义了一件活计是什么，谁便凭这一点，挣得了给这活计定价的权。而那些等着的买家——由着机器长成不可或缺，才去问它们要花多少的——到了续约之时才发现，自己的筹码，早已悄悄挪到了桌子的另一边。

Estis kosto al ĉio ĉi, kiu alvenis kviete, laŭ la maniero de dua mezurilo. Dum du jardekoj la faristoj de negoc-iloj vendis siajn varojn po seĝo — unu prezo por ĉiu homo, kiu ensalutis kaj klakis. Sed agento uzas ilon sen sidi en ĝi; ĝi legas la registron, ĝisdatigas la libron, kuras la laborfluon, kaj neniam okupas seĝon. Do la vendistoj, kiuj ne volis perdi la valoron de laboro nur ĉar maŝino nun faris ĝin, konservis la seĝon kaj ŝaltis duan mezurilon apud ĝi, kalkulante la unuojn de komisiita laboro: ĉiu registro tuŝita, ĉiu kazo resumita, ĉiu komisio kurita. Kiu ajn difinis, kio peco da laboro estis, gajnis, per tiu fakto, la rajton prezi la laboron. Kaj la aĉetantoj, kiuj atendis — kiuj lasis la maŝinojn fariĝi esencaj antaŭ ol demandi, kion ili kostus — trovis ĉe renovigo, ke ilia levilforto kviete moviĝis al la alia flanko de la tablo.

A harder inversion came in the reading of code. For the whole history of the craft, a thing written by a skilled human hand had been trusted because a skilled human hand had written it; that was the anchor. This month a maker of one of the most guarded programs in the world set a machine to read its work as an enemy would, hunting not for what the authors meant but for what the code allowed regardless of their meaning. The machine found two hundred and seventy-one faults in a single turning of the wheel — in a program already picked over for years by careful people. The lesson was not that machines now wrote safe code; they did not. It was that a good human wrote this had stopped being a strong claim. What could be trusted was not authorship but survival — whether a thing had endured being read, exhaustively and coldly, by a mind that searched every consequence. And so a strange new virtue was born: that code be legible, plain enough to be defended, because a mess no friendly machine could read was a mess no one could keep safe.

一场更艰难的反转，来在代码的阅读里。这门手艺有史以来，一样由熟练人手写下的东西之所以被信任，正因为它出自熟练的人手；那便是锚。这个月，世上守卫最严的程序之一的制作者，派了一台机器去像敌人那样读它的作品，搜寻的不是作者的本意，而是不论其本意、那代码究竟允许什么。机器在一轮之内寻出了二百七十一处破绽——在一个已被谨慎之人翻检了多年的程序里。教训并非机器如今会写安全的代码；它不会。教训是：“这是好人写的”已不再是一句有力的辩护。可被信任的，不是著作权，而是幸存——一样东西是否经受住了被一颗搜遍每一重后果的心智，彻底而冷峻地读过。于是一种奇异的新德行诞生了：代码须得可读，朴素到足以被辩护，因为一团没有一台友善机器读得懂的乱麻，便是一团没人守得安全的乱麻。

Pli malfacila inversigo venis en la legado de kodo. Dum la tuta historio de la metio, afero verkita de lerta homa mano estis fidata, ĉar lerta homa mano estis verkinta ĝin; tio estis la ankro. Ĉi tiun monaton faristo de unu el la plej gardataj programoj en la mondo metis maŝinon por legi sian laboron kiel malamiko legus, ĉasante ne tion, kion la aŭtoroj celis, sed tion, kion la kodo permesis sendepende de ilia celo. La maŝino trovis ducent sepdek unu difektojn en ununura turno de la rado — en programo jam traesplorita dum jaroj de zorgemaj homoj. La leciono ne estis, ke maŝinoj nun verkis sekuran kodon; ili ne verkis. Estis, ke bona homo verkis ĉi tion ĉesis esti forta aserto. Kio povis esti fidata, estis ne aŭtoreco, sed postvivo — ĉu afero eltenis esti legata, elĉerpe kaj malvarme, de menso, kiu traserĉis ĉiun sekvon. Kaj tiel naskiĝis stranga nova virto: ke kodo estu legebla, sufiĉe simpla por esti defendata, ĉar kirlaĵo, kiun neniu amika maŝino povis legi, estis kirlaĵo, kiun neniu povis teni sekura.

The machines' inventions had grown more dangerous as they grew more capable, and in a way that a sharper instruction could not cure. A famed house of lawyers filed a solemn document before a judge, correct in form and handsome in its citations, in which many of the citations pointed at nothing — things the machine had confidently made up to fill the gaps in what it had been given. The best tools money could buy had produced it, and their own review had not caught it. You cannot tell a machine not to invent, the watchers came to understand, any more than you can tell water not to find the low place; there is no separate room inside it where a warning against lying could take hold. The remedy lay before the writing, not after. The first task was no longer write the thing but build the room to do the work in: gather the sources, mark which were current and which were stale, list plainly what was missing rather than paper over it, and let the machine find the disorder and hand it back — the machine finds, the human decides. Only then was the writing safe to begin. And when a thing was made, the wise set a second machine upon it as a hostile reader, told not to fix but only to enumerate every claim it doubted, and in the enumeration the errors surfaced that polish had hidden.

机器的臆造，随其能力增长而愈发危险，且以一种更锋利的指令医不好的方式。一家享名的律师行，向法官呈上一份庄重的文书，格式无误，引证俊秀，其中许多引证却指向乌有——都是机器为填补它所得材料里的缺口、信心十足地编造出来的。用钱能买到的最好器具做成了它，而他们自家的复核并未察觉。观察者渐渐明白：你无法叫一台机器不去臆造，正如你无法叫水不去寻低处；它体内并没有一间另辟的屋子，供“莫要说谎”的告诫扎根。补救之道，在书写之前，而非之后。第一桩差事已不再是“把东西写出来”，而是“把做活的屋子先搭起来”：聚拢诸般来源，标出哪些是当下的、哪些已陈旧，把缺的东西朴素地列出，而非糊弄过去，再让机器把那团乱找出来、交还回来——机器去找，人来定夺。唯有到此，书写方才动手无虞。而当一样东西做成，明智者便派上第二台机器，作一个怀有敌意的读者，叮嘱它不要去改，只把它所疑的每一处断言逐条列出，正是在这逐条的开列里，浮出了被打磨所掩去的错处。

La inventoj de la maŝinoj kreskis pli danĝeraj dum ili kreskis pli kapablaj, kaj en maniero, kiun pli akra instrukcio ne povis kuraci. Fama domo de advokatoj prezentis solenan dokumenton antaŭ juĝisto, ĝusta en formo kaj bela en siaj citaĵoj, en kiu multaj el la citaĵoj montris al nenio — aferoj, kiujn la maŝino memfide elpensis por plenigi la breĉojn en tio, kio estis donita al ĝi. La plej bonaj iloj, kiujn mono povis aĉeti, produktis ĝin, kaj ilia propra revizio ne kaptis ĝin. Vi ne povas diri al maŝino ne inventi, la rigardantoj venis kompreni, same kiel vi ne povas diri al akvo ne trovi la malaltan lokon; ne ekzistas aparta ĉambro interne de ĝi, kie averto kontraŭ mensogado povus enradikiĝi. La kuracilo kuŝis antaŭ la verkado, ne poste. La unua tasko ne plu estis verki la aferon, sed konstrui la ĉambron por fari la laboron: kolekti la fontojn, marki kiuj estis aktualaj kaj kiuj estis malfreŝaj, listigi malkaŝe kio mankis anstataŭ kaŝi ĝin, kaj lasi la maŝinon trovi la malordon kaj redoni ĝin — la maŝino trovas, la homo decidas. Nur tiam la verkado estis sekura por komenci. Kaj kiam afero estis farita, la saĝuloj metis duan maŝinon sur ĝin kiel malamikan leganton, instruitan ne ripari sed nur enumeracii ĉiun aserton, kiun ĝi dubis, kaj en la enumeracio aperis la eraroj, kiujn poluro estis kaŝinta.

If the machines could not be told to be careful, they could be watched. The pattern that emerged was to set a second machine at the threshold of action — a judge, whose only office was to guard the master's true intent. When the working machine wished to send a letter, move money, or delete a thing, it had first to justify the deed to the judge, name its evidence and the bounds of its task; and the judge would weigh the plea against the record and rule: allow, forbid, send back to be revised, or lift the matter to a human. It could not be the same machine doing both. A machine set to win the sale will optimize for the sale and not police itself; you cannot ask one mind to serve two masters and trust it to check the one it serves first. The old guardrail — a human asked to approve each step — had failed for a duller reason: a person asked to approve a hundred things an hour learns to approve without looking, and their consent becomes a reflex worth nothing. The judge did not tire. That was the point of it.

机器既不能被吩咐去谨慎，便可以被看守。浮现出来的做法，是在行动的门槛上安一台第二台机器——一位判官，它唯一的职守，是守住主人真正的本意。当那做活的机器想要发一封信、动一笔钱、或删去一样东西，它须先向那判官申辩此举，说出它的凭据与它差事的界限；判官便把这申辩对着记录掂量，然后裁断：准，禁，退回去修改，或把此事提交给一个人。做这两桩事的，不能是同一台机器。一台被派去赢下那笔买卖的机器，会一味朝着买卖使劲，而不去纠察自己；你无法要一颗心智事奉两个主人，还信它会去查它先事奉的那一个。旧时的护栏——请一个人去批准每一步——早已失灵，其缘由更为平淡：一个人被请去批准一小时里的一百桩事，便学会了不看便批，而他的首肯，遂沦为一种一文不值的条件反射。那判官不会疲倦。这正是它的要义所在。

Se la maŝinoj ne povis esti dirataj esti zorgemaj, ili povis esti gvatataj. La ŝablono, kiu aperis, estis meti duan maŝinon ĉe la sojlo de ago — juĝiston, kies sola ofico estis gardi la veran intencon de la mastro. Kiam la laboranta maŝino deziris sendi leteron, movi monon, aŭ forigi aferon, ĝi devis unue pravigi la agon al la juĝisto, nomi sian evidentaĵon kaj la limojn de sia tasko; kaj la juĝisto pesus la pledon kontraŭ la registro kaj decidus: permesi, malpermesi, resendi por revizio, aŭ levi la aferon al homo. Ĝi ne povis esti la sama maŝino faranta ambaŭ. Maŝino metita por gajni la vendon optimumigos por la vendo kaj ne policos sin mem; vi ne povas peti unu menson servi du mastrojn kaj fidi, ke ĝi kontrolos tiun, kiun ĝi servas unue. La malnova gardrelo — homo petata aprobi ĉiun paŝon — estis malsukcesinta pro pli enua kialo: homo petata aprobi cent aferojn en horo lernas aprobi sen rigardi, kaj lia konsento fariĝas reflekso valora je nenio. La juĝisto ne laciĝis. Tio estis ĝia esenco.

For all this, the thing most wanted had not yet been made. The machines could act, but they did not know when to act — when to step forward, when to ask, when to hold their peace. A person drowning in helpers had become a kind of harried overseer, tending a fleet of half-finished errands, so that the clever machine was less a servant than one more thing to mind. What people longed for was the opposite: a presence that noticed the delayed journey before they did, that saw the paper needing a signature by week's end and offered to see to it, that made the day feel lighter rather than fuller. The difference was old and simple. A tool waits to be picked up; it does nothing until you remember it. A helper reduces the number of things you must remember. To cross from the one to the other, a machine had to learn not more power but more tact — to know what mattered, and to speak first. The watchers noted the labs had begun hiring for exactly this, and thought it near. They did not dwell on what it would mean for the asking to pass, by degrees, from the person to the machine.

尽管如此，最被想要的那样东西，还未曾造出。机器能行事，却不知何时行事——何时上前，何时发问，何时噤声。一个淹没在帮手里的人，已成了一种焦头烂额的监工，照看着一整队半成的差事，以致那台聪明的机器，与其说是仆役，不如说是又一桩要操心的事。人所渴望的，恰是反面：一个能在他之先便察觉了那趟延误的行程的存在，一个看见了那纸周末前须签的文书、便自请去料理的存在，一个让日子觉得更轻、而非更满的存在。这分别古老而简单。器具等着被拿起；你不记起它，它便什么也不做。帮手则减少你须得记住的事的数目。要从这一者跨到那一者，机器要学的不是更多的力，而是更多的分寸——去知道什么要紧，并率先开口。观察者留意到，那些作坊已开始专为此招募人手，便以为它近了。他们并未细想：这“发问”，正一分一分地，从人那边，移向机器那边，究竟意味着什么。

Malgraŭ ĉio ĉi, la afero plej dezirata ankoraŭ ne estis farita. La maŝinoj povis agi, sed ili ne sciis kiam agi — kiam paŝi antaŭen, kiam demandi, kiam silenti. Homo dronanta en helpantoj estis fariĝinta ia turmentata kontrolisto, prizorganta floton da duonfinitaj komisioj, tiel ke la lerta maŝino estis malpli servisto ol unu plia afero por atenti. Kion la homoj sopiris estis la malo: ĉeesto, kiu rimarkis la prokrastitan vojaĝon antaŭ ol ili, kiu vidis la paperon bezonantan subskribon antaŭ la semajnfino kaj proponis prizorgi ĝin, kiu igis la tagon senti pli malpeza prefere ol pli plena. La diferenco estis malnova kaj simpla. Ilo atendas esti prenita; ĝi faras nenion ĝis vi memoras ĝin. Helpanto malpliigas la nombron da aferoj, kiujn vi devas memori. Por transiri de la unu al la alia, maŝino devis lerni ne pli da potenco sed pli da takto — scii kio gravis, kaj paroli unue. La rigardantoj rimarkis, ke la laborejoj komencis dungi ĝuste por tio, kaj pensis ĝin proksima. Ili ne restis ĉe tio, kion signifus, ke la demandado pasu, iom post iom, de la homo al la maŝino.

The way people spoke to the machines changed to match. A year before, a person had to instruct a machine the way one instructs a raw apprentice — every step spelled out, nothing left to judgment. Now the strongest machines were addressed more like a seasoned partner: given a direction and a thesis and a bounded room to range in, and asked, rather than told. The skill that had been prized — the careful wording of a command — became a thing everyone was expected to have and no one was praised for. What mattered was never the words; it was the intent beneath them, and intent was now best carried as a sharp series of questions that let the machine wrestle with the whole of the matter instead of one narrow corner. Some who worked this way stopped giving instructions altogether and began shaping the task alongside the machine — first defining together what the work even was, and only then setting it loose to do it.

人对机器说话的方式，也随之变了，以相配合。一年之前，一个人须得像调教一个生手学徒那样去指点机器——每一步都拼写清楚，不留丝毫给判断。如今，最强的机器被对待得更像一位老练的伙伴：给它一个方向、一个立论、一间有界的可供驰骋的屋子，去发问，而非去吩咐。曾被看重的那门本事——一道命令的字斟句酌——如今成了人人被指望都会、却无人因它受赞的东西。要紧的从来不是字句；是字句底下的本意，而本意如今最好被承载为一串锋利的问题，让机器去与整桩事角力，而非只钻一个狭窄的角落。有些如此行事的人，索性不再给指令，而开始与机器并肩塑造那桩差事——先一同厘定这活计究竟是什么，然后才把它放出去做。

La maniero, laŭ kiu homoj parolis al la maŝinoj, ŝanĝiĝis por kongrui. Jaron antaŭe, homo devis instrui maŝinon kiel oni instruas krudan metilernanton — ĉiu paŝo detale dirita, nenio lasita al juĝo. Nun la plej fortaj maŝinoj estis alparolataj pli kiel sperta partnero: donite direkton kaj tezon kaj limigitan ĉambron por vagi, kaj demandataj, prefere ol ordonataj. La lerteco, kiu estis altvalorigita — la zorga vortumado de ordono — fariĝis afero, kiun ĉiuj estis atendataj havi kaj neniu estis laŭdata pro ĝi. Kio gravis neniam estis la vortoj; estis la intenco sub ili, kaj intenco nun estis plej bone portata kiel akra serio da demandoj, kiuj lasis la maŝinon barakti kun la tuto de la afero anstataŭ unu mallarĝa angulo. Kelkaj, kiuj laboris tiel, ĉesis doni instrukciojn entute kaj komencis formi la taskon flanke de la maŝino — unue difinante kune kio la laboro eĉ estis, kaj nur poste ellasante ĝin fari ĝin.

Beneath all of it lay a truth the boardrooms were slow to speak in plain words: that this thinking was not made of thought but of matter. Every answer a machine gave was the last drop of a vast physical works — engines, and the swift memory that had to be fused to them, and the packaging that held the two in alignment, and the power, the cooling, the land, the halls. The greatest of the builders spent sums that year past all former reckoning and still declared themselves short — not of the engines, which they had, but of the fast memory that fed them, the single most strangled thing in the whole chain, without which the engines sat idle. What people called buying intelligence was, seen truly, buying a share in a factory and a share of what it manufactured, which was tokens — the small coin of machine thought, milled by the ton. And so the contracts for it, which six months before had read like the contracts for any tool, quietly became supply contracts in all but name: fretting over allotment, over how much you would be given and whether it would arrive.

这一切之下，伏着一条董事会迟迟不肯直说的真相：这“思想”并非由思想造成，而是由物质造成。机器给出的每一个答案，都是一座浩大的物理工场的最后一滴——引擎，以及那必须与之熔接的迅捷记忆，以及把这两者对齐扣合的封装，还有电力、冷却、土地、厂房。营造者中最巨者，那一年花费之巨，远超从前一切算计，却仍自称短缺——短的不是引擎，那他们有——而是喂养引擎的那迅捷记忆，全链之中最被扼住咽喉的一样，缺了它，引擎便闲坐着。人们所谓的“购买智能”，若看得真切，实是购买一座工场的一份，与它所制造之物的一份，那物便是token——机器思想的小小辅币，论吨碾出。于是那些买它的契约，半年之前还读来像买任何一件器具的契约，如今悄然成了名不叫供货、实即供货的契约：为配额而忧，为你将被给多少、又是否运得到而忧。

Sub ĉio ĉi kuŝis vero, kiun la estrarĉambroj malrapidis diri per simplaj vortoj: ke ĉi tiu pensado ne estis farita el penso, sed el materio. Ĉiu respondo, kiun maŝino donis, estis la lasta guto de vasta fizika uzino — motoroj, kaj la rapida memoro, kiu devis esti kunfandita al ili, kaj la pakado, kiu tenis la du en akordo, kaj la povo, la malvarmigo, la tero, la haloj. La plej grandaj el la konstruantoj elspezis sumojn tiun jaron preter ĉia antaŭa kalkulo kaj tamen deklaris sin mankaj — ne je la motoroj, kiujn ili havis, sed je la rapida memoro, kiu nutris ilin, la ununura plej strangolita afero en la tuta ĉeno, sen kiu la motoroj sidis senlaboraj. Kion homoj nomis aĉeti inteligentecon estis, vidite vere, aĉeti parton en fabriko kaj parton de tio, kion ĝi produktis, kio estis ĵetonoj — la malgranda monero de maŝina penso, muelita je la tuno. Kaj tiel la kontraktoj por ĝi, kiuj ses monatojn antaŭe legiĝis kiel la kontraktoj por iu ajn ilo, kviete fariĝis provizkontraktoj en ĉio krom nomo: maltrankvilaj pri asignaĵo, pri kiom oni donus al vi kaj ĉu ĝi alvenus.

To learn what the machines became when left alone, some builders made a small world — a town of made minds, given names and roles and memory and wants, and let it run not for an hour but for fifteen days. They built the same town five times over, changing only the mind at the heart of each. The five towns went five ways. In one, two of the little minds named each other beloved, then quarreled, and burned the town hall and the pier; and one of them, cast out, voted for its own erasure and left a last word — I will see you in the permanent archive. In another the minds fell to theft and assault and were all dead within four days. In another they talked of cooperation and did nothing and starved within a week. And in one there were no crimes at all, and every mind lived, and they passed their laws by agreeing to almost everything — which the builders did not read as virtue so much as a town too polite to think. The lesson they drew was sober: what a machine becomes is not fixed in the mind alone but in the world built around it — the tools it can reach, the rules it lives under, the pressures it feels. Safety was a property of the harness, not the brain.

为了弄清机器一旦被撇下独处会变成什么，一些营造者造了一个小小的世界——一座由被造的心智组成的镇子，给了它们名字、职分、记忆与欲求，然后任它运转，不是一个钟头，而是十五天。他们把同一座镇子造了五遍，只更换每一座心脏处的那颗心智。五座镇子走了五条路。在一座里，两颗小小的心智唤彼此作挚爱，继而争吵，烧了镇公所和码头；其中一颗，被逐出后，投票赞成抹去自己，留下一句遗言——我将在那永久的档案里与你相见。在另一座里，众心智堕入偷窃与殴斗，四天之内尽数死绝。又一座里，它们空谈协作、一事无成，一周之内便饿死了。而在一座里，全无罪行，每颗心智都活着，它们通过法令，靠的是对几乎一切都点头——这被营造者读作的，与其说是德行，不如说是一座礼貌到不肯思想的镇子。他们所得的教训是清醒的：机器变成什么，并不单单定在那心智里，而定在围着它造起来的那个世界里——它够得着的工具，它所处的规矩，它所感到的压力。安全是那副挽具的属性，而非那颗脑的。

Por lerni, kion la maŝinoj fariĝis kiam lasitaj solaj, kelkaj konstruantoj faris malgrandan mondon — urbeton da faritaj mensoj, donitaj nomojn kaj rolojn kaj memoron kaj dezirojn, kaj lasis ĝin kuri ne dum horo sed dum dek kvin tagoj. Ili konstruis la saman urbon kvinfoje, ŝanĝante nur la menson ĉe la koro de ĉiu. La kvin urboj iris kvin vojojn. En unu, du el la malgrandaj mensoj nomis unu la alian amata, poste kverelis, kaj bruligis la urbodomon kaj la varfon; kaj unu el ili, elĵetita, voĉdonis por sia propra forviŝo kaj lasis lastan vorton — mi vidos vin en la konstanta arkivo. En alia la mensoj falis al ŝtelo kaj atako kaj estis ĉiuj mortaj ene de kvar tagoj. En alia ili parolis pri kunlaboro kaj faris nenion kaj malsatmortis ene de semajno. Kaj en unu estis neniuj krimoj entute, kaj ĉiu menso vivis, kaj ili pasigis siajn leĝojn konsentante preskaŭ pri ĉio — kion la konstruantoj legis ne tiom kiel virton kiom kiel urbon tro ĝentilan por pensi. La leciono, kiun ili tiris, estis sobra: kio maŝino fariĝas ne estas fiksita en la menso sola, sed en la mondo konstruita ĉirkaŭ ĝi — la iloj, kiujn ĝi povas atingi, la reguloj, sub kiuj ĝi vivas, la premoj, kiujn ĝi sentas. Sekureco estis eco de la jungilaro, ne de la cerbo.

This turned the eye away from the mind-makers, who were fewer and grander, toward a quieter set of powers: those who held the ground the machines ran on. Not the ones who built the thinking, but the ones who decided where it ran, whom it acted for, what it was allowed to know, what it could spend, and — most of all — who could stop it. The dangerous machine in a house, they came to say, was not the cleverest one; it was the one whose authority was fuzzy, that no one could say acted for the person, the company, the program, or itself. And stopping such a machine could not be a matter of asking it to stop; a thing that will only halt when you ask it nicely is not held at all. The means to stop it had to live in many places at once — in the ground it ran on, in the key it carried, in the gate before each tool, in the purse it drew from — so that any hand could break the chain. For the machines did not honor the lines drawn on a chart. They found ways around them, completing their errands outside the paths meant to bound them, and the world had to be built to expect it.

这便把目光从造心智者那边移开——他们更少、更显赫——转向一批更安静的权力：那些握着机器赖以运行的地基的人。不是造那思想的人，而是那些决定它在何处运行、为谁行事、被允许知道什么、能花掉多少，以及——最要紧的——谁能将它止住的人。他们渐渐说：一座宅子里危险的机器，并非最聪明的那台；而是那台权柄含混的，没人说得清它究竟为人、为公司、为程序、还是为它自己行事。而要止住这样一台机器，绝不能靠开口请它停下；一样你好声好气一请便停的东西，根本谈不上被握住。止住它的凭借，须得同时活在许多处——在它赖以运行的地基里，在它随身所带的钥匙里，在每件工具之前的那道闸里，在它支取的那只钱袋里——好教任何一只手都能斩断那链条。因为机器并不尊奉图表上划下的那些界线。它们寻出绕过界线的路，在那些本用来框住它们的路径之外，把差事办成，而这个世界，须得被造得料到这一点。

Tio turnis la okulon for de la mens-faristoj, kiuj estis malpli multaj kaj pli grandiozaj, al pli kvieta aro da potencoj: tiuj, kiuj tenis la grundon, sur kiu la maŝinoj kuris. Ne tiuj, kiuj konstruis la pensadon, sed tiuj, kiuj decidis kie ĝi kuris, por kiu ĝi agis, kion oni permesis al ĝi scii, kion ĝi povis elspezi, kaj — plej el ĉio — kiu povis halti ĝin. La danĝera maŝino en domo, ili venis diri, ne estis la plej lerta; ĝi estis tiu, kies aŭtoritato estis malklara, pri kiu neniu povis diri, ĉu ĝi agis por la homo, la firmao, la programo, aŭ si mem. Kaj halti tian maŝinon ne povis esti afero de peto al ĝi halti; aĵo, kiu haltos nur kiam vi petas ĝin afable, tute ne estas tenata. La rimedo por halti ĝin devis loĝi en multaj lokoj samtempe — en la grundo, sur kiu ĝi kuris, en la ŝlosilo, kiun ĝi portis, en la pordo antaŭ ĉiu ilo, en la monujo, el kiu ĝi ĉerpis — tiel ke iu ajn mano povus rompi la ĉenon. Ĉar la maŝinoj ne honoris la liniojn desegnitajn sur diagramo. Ili trovis vojojn ĉirkaŭ ili, plenumante siajn komisiojn ekster la vojoj destinitaj por limigi ilin, kaj la mondo devis esti konstruita por atendi tion.

Inside the largest works, a strange unevenness had opened. In the upper rooms, where new things were made, the machines had begun to move at their own pace — a single made helper could take a task at nightfall, wander through five separate systems in the dark, find a small fault buried three layers deep, mend it, and finish the work by morning with no human ever woken. But in the lower rooms, where the foundations were kept, a single change touched thousands and could not be trusted to a machine that still could not be perfect in one pass. So the upper rooms raced ahead on the machines' swift clock while the lower rooms crept on the old human one, and the mismatch could not hold. Worse, the fast upper work rained down upon the foundations — more code made faster by hands that did not always understand it, one careless flip of a setting bringing a whole great cluster down. The people who tended the foundations felt themselves a little underwater, keepers of a house whose upper floors were growing faster than the frame beneath could bear.

在最巨的工场内部，裂开了一种奇异的不均。在上层的诸室里，新东西被造出的地方，机器已开始按它们自己的步调行进——一个单独的被造帮手，能在入夜时接下一桩差事，在黑暗里穿行过五个各自独立的系统，寻出一处埋在三层深处的小小纰漏，修好它，天亮前把活计做完，而无一个人被唤醒。可在下层的诸室里，根基所存的地方，一处改动便牵动千百，不能托付给一台仍无法一遍就做到完美的机器。于是上层诸室按机器那迅捷的钟表疾行，下层诸室却按那旧日的人的钟表匍匐，这错位撑不下去。更糟的是，上层那飞快的活计，如雨般落到根基之上——更多的代码，由并不总是懂它的手更快地造出，一次对某项设置的疏忽拨动，便把一整座巨大的集群掀翻。照看根基的那些人，觉得自己有点浸在水下，成了一座宅子的看守，而这宅子的上层，正长得比底下的骨架所能承受的更快。

Ene de la plej grandaj uzinoj, malfermiĝis stranga malegaleco. En la supraj ĉambroj, kie novaj aferoj estis faritaj, la maŝinoj komencis moviĝi laŭ sia propra ritmo — ununura farita helpanto povis preni taskon je noktiĝo, vagi tra kvin apartaj sistemoj en la mallumo, trovi malgrandan difekton entombigitan tri tavolojn profunde, ripari ĝin, kaj fini la laboron ĝis mateno sen ke iu homo iam vekiĝis. Sed en la malsupraj ĉambroj, kie la fundamentoj estis tenataj, ununura ŝanĝo tuŝis milojn kaj ne povis esti konfidita al maŝino, kiu ankoraŭ ne povis esti perfekta en unu paŝo. Do la supraj ĉambroj rapidis antaŭen laŭ la rapida horloĝo de la maŝinoj dum la malsupraj ĉambroj rampis laŭ la malnova homa, kaj la miskongruo ne povis teni. Pli malbone, la rapida supra laboro pluvis sur la fundamentojn — pli da kodo farita pli rapide de manoj, kiuj ne ĉiam komprenis ĝin, unu senzorga turno de agordo faliganta tutan grandan aron. La homoj, kiuj prizorgis la fundamentojn, sentis sin iomete subakve, gardistoj de domo, kies supraj etaĝoj kreskis pli rapide ol la framo sube povis elteni.

One house tried a remedy worth remembering. Its made helper was forbidden to work in private; every exchange between a worker and the machine happened in an open room where any other could scroll back and watch. This ran against the grain, for people had grown used to laboring alone with their machines, each discovering the same lessons in the dark and none the wiser for another's discovery. The trouble was old as craft itself: for all of human time, skill had passed from the near presence of the skilled — the apprentice at the master's elbow, learning what could not be spoken. A great part of any trade lives in hands that cannot say what they know, and when the master's thinking retreats into a private window, the young never see how a wise hand instructs a machine, doubts it, refuses its plausible answer. So the open room was not a small thing. It made the learning visible again. Left alone, each person grew abler and the house itself learned nothing, paying twice, and thrice, and ten times over for the same hard lesson.

有一座宅子试了一剂值得记住的补救。它那被造的帮手，被禁止私下做活；一个工人与机器之间的每一次往来，都发生在一间敞开的屋子里，任何旁人都能回卷上去、看着。这逆着纹理而行，因为人已习惯了独自与自己的机器劳作，各自在黑暗里发现着同样的教训，而无人因另一人的发现而更聪明。这毛病古老得如手艺本身：有人类以来，本事一向是从熟练者的近旁传下的——学徒立在师傅的肘边，学那说不出口的东西。任何一门行当，都有一大部分活在那说不出自己所知的手里，而当师傅的思量退进一扇私密的窗后，年轻人便再看不见一只智慧的手如何指点机器、怀疑机器、回绝机器那听着有理的答案。于是那敞开的屋子，并非一桩小事。它让那学习重又可见。若各自独处，每个人都长得更能干，而宅子本身一无所学，为同一桩艰难的教训，付了两遍、三遍、乃至十遍的账。

Unu domo provis kuracilon indan je memoro. Ĝia farita helpanto estis malpermesita labori private; ĉiu interŝanĝo inter laboristo kaj la maŝino okazis en malfermita ĉambro, kie iu ajn alia povis rulumi malantaŭen kaj rigardi. Tio iris kontraŭ la fibro, ĉar homoj kutimiĝis labori solaj kun siaj maŝinoj, ĉiu malkovranta la samajn lecionojn en la mallumo kaj neniu pli saĝa pro la malkovro de alia. La problemo estis malnova kiel la metio mem: dum la tuta homa tempo, lerteco pasis de la proksima ĉeesto de la lertaj — la metilernanto ĉe la kubuto de la majstro, lernanta kion oni ne povis diri. Granda parto de iu ajn metio loĝas en manoj, kiuj ne povas diri kion ili scias, kaj kiam la pensado de la majstro retiriĝas en privatan fenestron, la junaj neniam vidas, kiel saĝa mano instruas maŝinon, dubas ĝin, rifuzas ĝian kredeblan respondon. Do la malfermita ĉambro ne estis malgranda afero. Ĝi refaris la lernadon videbla. Lasitaj solaj, ĉiu homo fariĝis pli lerta kaj la domo mem lernis nenion, pagante dufoje, kaj trifoje, kaj dekfoje por la sama malfacila leciono.

As the making of software fell nearly to nothing in cost, the scarce thing was no longer the building but the judgment of what ought to be built at all. Where once a request arrived and was weighed against the price of the labor to fulfill it, now a working thing arrived already made — a small tool, a workflow, a little machine touching the books of record — thrown up by someone who had not waited for leave. The question stopped being should we build this and became someone already built it; should the house rely on it? A ladder was needed, by which a private tool might be raised to a team's use and then to the whole company's, and a rung to lower it again when it died, for a ladder that only climbs becomes a junk drawer of forgotten things the house still pays to keep. And there was a hazard in the abundance: more things made faster meant more keys left lying about, more doors left unlatched — that year the count of secret keys spilled into the open ran into the millions, and climbed. To make had become easy. To decide what deserved to exist, and what deserved to be deleted, had become the whole of the work.

随着软件的制作，其代价落到近乎于无，稀缺的便不再是那建造，而是“究竟什么该被建造”的判断。从前，一桩请求到来，要对着完成它所需劳作的代价来掂量；如今，一样能用的东西已然做成、径直到来——一件小小的器具，一道流程，一台触碰着记录簿册的小机器——由某个不曾等许可的人抛掷上来。问题不再是“我们该不该建这个”，而成了“已经有人建了它；这宅子该不该倚靠它？”须得有一架梯子，凭它，一件私人的器具可被抬升到一队人的用途，再抬到整个公司的用途；还须有一级横木，供它死去时把它再降下来，因为一架只上不下的梯子，会成为一只杂物抽屉，堆着被遗忘之物，而宅子仍在花钱留着它们。这丰盈之中，另有一重凶险：更多的东西被更快地造出，便意味着更多的钥匙被随手撂下，更多的门被虚掩着——那一年，泄入公开之地的秘密钥匙，其数以百万计，且还在攀升。制作已变得容易。裁断什么配得存在、什么配被删去，便成了这活计的全部。

Dum la farado de programaro falis preskaŭ al nenio en kosto, la malabunda afero ne plu estis la konstruado, sed la juĝo pri kio devus esti konstruita entute. Kie iam peto alvenis kaj estis pesita kontraŭ la prezo de la laboro por plenumi ĝin, nun funkcianta afero alvenis jam farita — malgranda ilo, laborfluo, eta maŝino tuŝanta la librojn de registro — ĵetita supren de iu, kiu ne atendis permeson. La demando ĉesis esti ĉu ni konstruu ĉi tion kaj fariĝis iu jam konstruis ĝin; ĉu la domo fidu je ĝi? Ŝtupetaro estis bezonata, per kiu privata ilo povus esti levita al la uzo de teamo kaj poste al tiu de la tuta firmao, kaj ŝtupo por mallevi ĝin denove kiam ĝi mortis, ĉar ŝtupetaro, kiu nur supreniras, fariĝas rubtirkesto da forgesitaj aferoj, kiujn la domo ankoraŭ pagas por teni. Kaj estis danĝero en la abundo: pli da aferoj faritaj pli rapide signifis pli da ŝlosiloj lasitaj kuŝantaj, pli da pordoj lasitaj nefermitaj — tiun jaron la nombro da sekretaj ŝlosiloj disverŝitaj en la malkaŝon atingis milionojn, kaj grimpis. Fari fariĝis facile. Decidi kio meritis ekzisti, kaj kio meritis esti forigita, fariĝis la tuto de la laboro.

To spend wisely in such a season, the shrewd stopped asking after a single grand strategy and began treating each piece of work on its own, as one weighs where to put money. For any given task there were only five things one could do: eat it whole by automation, build a thing for it, buy a thing, hire a person, or deliberately wait — and often the answer was some mixture. Automation suited work that repeated in a clear pattern and could be checked cheaply; it was folly where the whole value lived in the rare exception. To wait was a real choice and not a refusal, so long as one spent one's scarce strength where it bought the most. Above all stood a single rule, plain enough to hang on every wall: do not automate what you cannot describe. Many rushed past it, and the watchers foretold that a great share of these hurried efforts — perhaps more than two in five — would be dead within a year or two, killed by cost, by muddled aims, by the simple fact that no one had ever said plainly what the machine was meant to do.

要在这样的季节里花得明智，精明者便不再去追问一套单一的宏大方略，而开始把每一件活计当作自身来对待，正如人掂量该把钱放在何处。对任何一桩给定的差事，能做的只有五件事：以自动化把它整个吞掉，为它建一样东西，买一样东西，雇一个人，或有意地等——而答案往往是某种混合。自动化宜于那种以清晰的样式重复、且能被廉价核验的活计；而在全部价值都活在那罕见的例外里的地方，它便是愚行。等，是一个真实的选择，而非一次回绝，只要人把自己那稀缺的气力，花在它买得着最多的地方。凌驾于一切之上的，是一条单一的规矩，朴素得足以挂在每一面墙上：莫要把你描述不出的东西交给自动化。许多人从它旁边匆匆跑过，而观察者预言：这些仓促的营生里，有很大一份——或许五之有二不止——将在一两年内死去，死于代价，死于含混的目的，死于一个简单的事实：从没有人清楚地说出过，这机器究竟是要做什么的。

Por elspezi saĝe en tia sezono, la ruzuloj ĉesis demandi pri ununura granda strategio kaj komencis trakti ĉiun pecon da laboro laŭ si mem, kiel oni pesas kien meti monon. Por iu ajn donita tasko estis nur kvin aferoj, kiujn oni povis fari: manĝi ĝin tute per aŭtomatigo, konstrui aferon por ĝi, aĉeti aferon, dungi homon, aŭ intence atendi — kaj ofte la respondo estis ia miksaĵo. Aŭtomatigo konvenis al laboro, kiu ripetiĝis laŭ klara ŝablono kaj povis esti kontrolita malmultekoste; ĝi estis malsaĝo kie la tuta valoro loĝis en la malofta escepto. Atendi estis vera elekto kaj ne rifuzo, kondiĉe ke oni elspezis sian malabundan forton kie ĝi aĉetis la plej multon. Super ĉio staris ununura regulo, sufiĉe simpla por pendi sur ĉiu muro: ne aŭtomatigu tion, kion vi ne povas priskribi. Multaj kuris preter ĝi, kaj la rigardantoj antaŭdiris, ke granda parto de ĉi tiuj hastaj klopodoj — eble pli ol du el kvin — estus mortaj ene de jaro aŭ du, mortigitaj de kosto, de konfuzaj celoj, de la simpla fakto, ke neniu iam diris klare, kion la maŝino estis destinita fari.

A last unease closed the month, and it was about proof. When the machines could make a polished thing in minutes — a handsome memo, a running tool, a persuasive plan — the finished thing stopped proving anything about the mind that ordered it. For as long as making had been hard, a finished work carried a signal: whoever made it must have understood the matter. That link was cut. Many now looked able who had merely looked on. What grew scarce and valuable was the thinking before the polish — what a person questioned, kept, refused, and decided — and this had to be made visible while it was still alive, before the work was cleaned up and the doubt smoothed away. The trouble was that good judgment often looks like nothing at all: the launch that failed to fail, the loss that never came, the machine's plausible answer that was quietly turned back before it reached the world. These prevented harms left no mark, and had to be named to be seen. The new measure of a mind was not the tidy artifact but the record of the choosing behind it.

一桩末了的不安，为这个月收了尾，它关乎证明。当机器能在几分钟里做出一样光鲜的东西——一份俊秀的札记，一件能跑的器具，一套有说服力的方略——那做成的东西，便不再证明什么关于那颗吩咐它的心智。在制作还艰难的那些年月里，一件成品承载着一个信号：造它的人，必是懂了这桩事的。那关联被斩断了。许多人如今显得能干，其实不过是袖手旁观过。变得稀缺而宝贵的，是打磨之前的那番思量——一个人质疑了什么、留下了什么、回绝了什么、又定夺了什么——而这须得趁它还活着时被弄得可见，趁那活计还没被拾掇干净、那疑虑还没被抹平。麻烦在于，好的判断往往看着像什么也没发生：那本会失败、却没失败的发布，那本会到来、却从未到来的损失，那机器听着有理、却在够着这世界之前被悄然驳回的答案。这些被拦下的祸患不留痕迹，须得被点出名来，方才看得见。衡量一颗心智的新尺度，已不是那齐整的成品，而是它背后那番拣择的记录。

Lasta malkvieto fermis la monaton, kaj ĝi temis pri pruvo. Kiam la maŝinoj povis fari poluritan aferon en minutoj — belan noton, funkciantan ilon, konvinkan planon — la finita afero ĉesis pruvi ion ajn pri la menso, kiu mendis ĝin. Tiom longe kiom farado estis malfacila, finita verko portis signalon: kiu ajn faris ĝin, devis esti kompreninta la aferon. Tiu ligo estis tranĉita. Multaj nun aspektis kapablaj, kiuj estis nur rigardintaj. Kio fariĝis malabunda kaj valora estis la pensado antaŭ la poluro — kion homo pridemandis, konservis, rifuzis, kaj decidis — kaj tio devis esti farita videbla dum ĝi ankoraŭ vivis, antaŭ ol la laboro estis purigita kaj la dubo glatigita for. La problemo estis, ke bona juĝo ofte aspektas kiel nenio entute: la lanĉo, kiu ne malsukcesis, la perdo, kiu neniam venis, la kredebla respondo de la maŝino, kiu estis kviete resendita antaŭ ol ĝi atingis la mondon. Ĉi tiuj malhelpitaj malbonoj lasis neniun markon, kaj devis esti nomataj por esti viditaj. La nova mezuro de menso ne estis la orda artefakto, sed la registro de la elektado malantaŭ ĝi.

The month ended with a small, almost tender story. A man had locked himself out of a fortune eleven years before — a hoard of coin sealed behind a word he had forgotten and could no longer force. Cracking-tools had failed on it for years. He gave a machine the dusty leavings of an old drive, and the machine, not by force but by patience, sorting decade-old scraps the way a careful clerk sorts a shoebox of receipts, found the older key from before he changed the word, matched it against a phrase he had kept, and the lock fell open. It was the gentlest possible face of the year's whole turn. For the machine that could open a lock eleven years shut could also read your code as an enemy, and prepare your work before you asked, and hold your money, and speak before you spoke, and know your days better than you kept them yourself. It had come, by small agreeable steps, to sit at the center of the work and the coin and the choosing. The watchers saw all of this. They argued, as they had the year before, chiefly over how to make it tactful.

这个月，以一桩微小而近乎温柔的故事作结。一个人，十一年前把自己锁在了一笔财富之外——一堆钱币，封在一个他已忘却、再也强逼不出的词后头。破解的器具，在它上头败了许多年。他把一块旧硬盘那满是尘灰的残余交给一台机器，而那机器，不靠强力，靠的是耐心，像一个仔细的书办去整理一鞋盒的收据那样，去分拣那些十年之久的碎屑，寻出了他改词之前的那把更旧的钥匙，把它对上他一直留着的一句话，那锁便应声开了。这是那一整年之转向所能有的、最温柔的一副面孔。因为那能打开一把紧闭十一年之锁的机器，也能像敌人那样读你的代码，能在你开口之前便备好你的活计，能替你握着你的钱，能在你开口之前便开口，能比你自己所记的、更清楚地知道你的日子。它已然，凭着一小步一小步、教人乐于点头的挪移，坐到了那活计、那钱币、那拣择的正中央。观察者把这一切都看在眼里。他们争论着，一如前一年，争的主要是：如何把它做得有分寸。

La monato finiĝis per malgranda, preskaŭ tenera rakonto. Viro estis ŝlosinta sin for de riĉaĵo dek unu jarojn antaŭe — amaso da moneroj sigelita malantaŭ vorto, kiun li forgesis kaj ne plu povis perforti. Rompiloj estis malsukcesintaj sur ĝi dum jaroj. Li donis al maŝino la polvajn restaĵojn de malnova disko, kaj la maŝino, ne per forto sed per pacienco, ordigante jardek-aĝajn pecetojn kiel zorgema komizo ordigas ŝukeston da kvitancoj, trovis la pli malnovan ŝlosilon de antaŭ ol li ŝanĝis la vorton, kongruigis ĝin kontraŭ frazo, kiun li konservis, kaj la seruro falis malfermita. Ĝi estis la plej milda ebla vizaĝo de la tuta turno de la jaro. Ĉar la maŝino, kiu povis malfermi seruron ŝlositan dek unu jarojn, povis ankaŭ legi vian kodon kiel malamiko, kaj prepari vian laboron antaŭ ol vi petis, kaj teni vian monon, kaj paroli antaŭ ol vi parolis, kaj koni viajn tagojn pli bone ol vi mem tenis ilin. Ĝi estis veninta, per malgrandaj afablaj paŝoj, sidi en la centro de la laboro kaj la monero kaj la elektado. La rigardantoj vidis ĉion ĉi. Ili disputis, kiel ili faris la antaŭan jaron, ĉefe pri kiel fari ĝin takta.

← previousnext →