Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

2

That summer a large maker of office tools studied its own people, to learn whether the talking machines had changed how they worked, and found an answer that unsettled the ones who had paid for the study. The machines did change the day. People read fewer letters and handled more documents; the work felt lighter, less taxing, more pleasant. But when the accountants asked the next question — whether the group, the team, the whole enterprise produced anything more of worth — no one could show it. The machines had not made more value. They had exposed how much of the old work had never held any. A man could now write in a morning a report that once took a week, and still no one could say the report had ever needed writing.

那年夏天，一家做办公用具的大公司，研究起自己的员工，想弄清那些会说话的机器究竟有没有改变他们做事的方式；得出的答案，却叫出钱做这研究的人心里发慌。机器确实改变了每一天。人们读的信少了，经手的文件多了；活儿显得轻省了些，不那么累人，也更叫人舒服。可当账房先生们再往下问一句——这个组、这个团队、整个企业，究竟有没有多产出一分值钱的东西——却谁也拿不出来。机器并没有造出更多的价值。它只是把旧日的活计里，有多少本就一文不值，照得清清楚楚。如今一个人一上午就能写完一份从前要花一礼拜的报告，可还是没人说得清，那报告当初到底该不该写。

En tiu somero granda fabrikanto de ofica ilaro esploris siajn proprajn homojn, por ekscii, ĉu la parolantaj maŝinoj ŝanĝis la manieron, laŭ kiu ili laboris, kaj trovis respondon, kiu maltrankviligis tiujn, kiuj pagis por la esploro. La maŝinoj ja ŝanĝis la tagon. Homoj legis malpli da leteroj kaj traktis pli da dokumentoj; la laboro sentiĝis pli malpeza, malpli peza, pli agrabla. Sed kiam la kalkulistoj faris la sekvan demandon — ĉu la grupo, la teamo, la tuta entrepreno produktis ion pli valoran — neniu povis montri ĝin. La maŝinoj ne kreis pli da valoro. Ili malkaŝis, kiom da la malnova laboro neniam enhavis ian ajn. Homo povis nun verki en unu mateno raporton, kiu iam bezonis semajnon, kaj tamen neniu povis diri, ke la raporto iam ajn bezonis esti verkita.

Set aside the loud arguments over whether the machines would take every job or come to nothing, and watch instead what people actually did with them. Programmers, who might have been proud, used them for the dull parts of the craft: to explain a tool without looking it up, to shorten a tangle of code, to write the notes no one enjoys writing. Above all they used them against the empty page. For as long as there had been writing — ten thousand years, near enough — the hardest labor had been the first mark on nothing. Now the machine made the first mark, poorly, and a person could begin by fixing it. The oldest difficulty in the work of the mind quietly went away.

先把那些吵嚷放到一边——机器究竟会抢走所有饭碗，还是终归一场空——只看人们当真拿它做了些什么。程序员本可以自傲的，却拿它去做手艺里最枯燥的部分：不必翻查就问明一样工具怎么用，把一团乱麻似的代码理短，写那些谁都不爱写的说明。而最要紧的，是拿它来对付那张空白的纸。自有文字以来——将近一万年了——最难的活儿，向来是在空无之上落下第一笔。如今机器先落了笔，落得不好，人便可以从修改它开始。心智劳作里最古老的那道难关，就这样悄没声地过去了。

Flankenmetu la laŭtajn disputojn pri tio, ĉu la maŝinoj forprenos ĉiun laboron aŭ nuliĝos, kaj rigardu anstataŭe, kion homoj efektive faris per ili. Programistoj, kiuj povus esti fieraj, uzis ilin por la enuigaj partoj de la metio: por klarigi ilon sen serĉi ĝin, por mallongigi implikaĵon da kodo, por verki la notojn, kiujn neniu ĝuas verki. Antaŭ ĉio ili uzis ilin kontraŭ la malplena paĝo. Tiel longe, kiel ekzistis skribado — preskaŭ dek mil jarojn — la plej malfacila laboro estis la unua marko sur nenio. Nun la maŝino faris la unuan markon, malbone, kaj homo povis komenci per ĝia korektado. La plej malnova malfacilaĵo en la laboro de la menso kviete malaperis.

Over a single weekend a tool for writing programs caught fire among the people who write them. Its trick was small and complete: it let a person describe, in ordinary words, what a program should do, and it wrote the program. The person still had to think — to know what was wanted, to judge whether the thing was good — but the writing, the long finger-work of it, passed to the machine. One of the men who had helped build the most famous of the talking machines said plainly that he now made his own programs this way, in plain speech, and went much faster for it. If the makers themselves had put down the old tools, the question hung in the air: what were the rest of you still doing?

就在一个周末里，一件用来写程序的工具，在那些以写程序为生的人中间烧了起来。它的巧处又小又完整：它让人用寻常的话，说出一个程序该做什么，它便把程序写出来。人仍得动脑——得知道自己要什么，得判断做出来的东西好不好——可那书写，那没完没了的指上功夫，交给了机器。有一个人，曾帮着造出那最有名的会说话的机器，如今直言不讳地说，他自己写程序也用这法子了，用大白话写，写得快多了。倘若连造机器的人都放下了旧家伙，一个问题便悬在半空：你们其余的人，还在做什么呢？

Dum unu sola semajnfino ilo por verki programojn ekflamis inter la homoj, kiuj verkas ilin. Ĝia ruzo estis malgranda kaj kompleta: ĝi permesis al homo priskribi, per ordinaraj vortoj, kion programo faru, kaj ĝi verkis la programon. La homo ankoraŭ devis pensi — scii, kion oni volas, juĝi, ĉu la afero estas bona — sed la verkado, la longa fingra laboro de ĝi, transiris al la maŝino. Unu el la viroj, kiuj helpis konstrui la plej faman el la parolantaj maŝinoj, diris simple, ke li nun faras siajn proprajn programojn tiel, per plena parolo, kaj iras multe pli rapide pro tio. Se la konstruintoj mem demetis la malnovajn ilojn, la demando pendis en la aero: kion la ceteraj el vi ankoraŭ faris?

People began to build things and show them: a small program to read the weather, another to search inside a spoken recording for a single remembered word. A man taught his daughter, eight years old, and she made a machine to talk with, by herself. When a child of eight can build such a thing in an afternoon, the making of software has become, for all practical purposes, free. And when a thing is free to make, the making no longer marks anyone out. What would matter instead, some began to see, was taste — the judgment of what was worth building at all, and how it should look, and why. The scarce thing was moving, as it always does, to wherever the crowd was not.

人们开始造东西，拿出来给人看：一个读天气的小程序，另一个能在一段录下来的话里，搜出某个记得的词。有个人教他八岁的女儿，她自己造了一台能对话的机器。当一个八岁的孩子一下午就能造出这样的东西，造软件这件事，说到底，就已经不值钱了。而一样东西造起来不值钱，造它便不再叫谁出众。有些人开始看出来，往后要紧的，是眼光——判断什么才值得造，该是什么样子，为什么。那稀罕的东西，一如往常，正往人群不去的地方挪。

Homoj komencis konstrui aferojn kaj montri ilin: malgrandan programon por legi la veteron, alian por serĉi ene de registrita parolo unu memoritan vorton. Viro instruis sian filinon, okjaran, kaj ŝi faris maŝinon por interparoli, tute mem. Kiam infano de ok jaroj povas konstrui tian aferon en unu posttagmezo, la farado de programaro fariĝis, praktike, senpaga. Kaj kiam io estas senpaga por fari, la farado ne plu distingas iun. Kio anstataŭe gravus, iuj komencis vidi, estis gusto — la juĝo pri tio, kio entute indas konstruiĝi, kaj kiel ĝi aspektu, kaj kial. La malofta afero moviĝis, kiel ĉiam, al kie ajn la homamaso ne estis.

One of the great sellers of everything reported that it had used a machine of its own to do a chore its programmers hated — the endless updating of old code to keep it safe — and had saved, by its own count, the equal of forty-five hundred years of a programmer's labor, and something near a quarter of a billion dollars. This was among the first times one of the large public companies pointed to the machines and said: here, this is money. And it pointed the way to a stranger idea. The old tools were sold to help a worker do a job. The new ones were being built to do the job instead — to be, in plain terms, a worker one need not pay as a person. The tools had aimed, until now, at the money spent on tools. These aimed at the money spent on people, which was larger by a thousandfold.

一家什么都卖的大商家透露，它用了自家的一台机器，去做程序员深恶痛绝的一桩杂活——没完没了地更新旧代码，好教它不出漏子——照它自己算，省下了相当于程序员四千五百年的工，还有近乎两亿五千万的钱。这是那些大上市公司里头一批，指着机器说：瞧，这就是钱。而它也指出了一个更古怪的念头。旧日的工具，是卖来帮一个人做工的。新的这些，却是造来替他做工的——说白了，就是一个不必当人来付酬的工人。工具从前盯的，是花在工具上的钱。这些盯的，是花在人身上的钱，那可要大上一千倍。

Unu el la grandaj vendistoj de ĉio raportis, ke ĝi uzis propran maŝinon por fari taskon, kiun ĝiaj programistoj malamis — la senfina ĝisdatigo de malnova kodo por teni ĝin sekura — kaj ŝparis, laŭ sia propra kalkulo, la egalon de kvar mil kvincent jaroj de programista laboro, kaj ion proksiman al kvarono de miliardo da dolaroj. Tio estis inter la unuaj fojoj, kiam unu el la grandaj publikaj kompanioj montris al la maŝinoj kaj diris: jen, tio estas mono. Kaj ĝi montris la vojon al pli stranga ideo. La malnovaj iloj estis venditaj por helpi laboriston fari laboron. La novaj estis konstruataj por fari la laboron anstataŭe — por esti, simple dirite, laboristo, kiun oni ne bezonas pagi kiel personon. La iloj celis, ĝis nun, la monon elspezitan por iloj. Ĉi tiuj celis la monon elspezitan por homoj, kiu estis milfoje pli granda.

The pace had a cruelty in it. A coding engine appeared that fixed roughly a third of a set of real faults drawn from real programs — twice what the best of half a year before had managed, and that one had thrown itself a celebration at thirteen in a hundred. Its makers kept their method secret and called the secrecy their advantage. But everyone in the trade understood the rule by then: whatever you built, someone would pass it within three months, and take your approach, and push it harder. There was no track you could lay and own, no village you could reach first and charge the others to enter. The intelligence grew cheaper by the week, which was a gift to everyone who used it and a torment to everyone who tried to sell it.

那速度里带着一股狠劲。一台写代码的引擎冒了出来，把一组取自真实程序的真实毛病，修好了约莫三成——是半年前最好那台的两倍，而那一台，修好了百里十三，就给自己开了庆功宴。造它的人把法子捂得严严实实，还管这捂着叫自家的本钱。可到那时，这一行里人人都懂了那条规矩：不管你造出什么，不出三个月，总有人越过你，学去你的路数，再往狠里推。没有哪条轨，你铺下了便归你；没有哪座村子，你先到了就能向后来者收过路钱。那智能一周比一周便宜，这对用它的人是恩赐，对想卖它的人，却是活活的煎熬。

La rapideco havis kruelecon en si. Aperis koda maŝino, kiu riparis ĉirkaŭ trionon de aro de realaj difektoj prenitaj el realaj programoj — duoble tion, kion la plej bona el duonjaro antaŭe atingis, kaj tiu estis festinta sin je dek tri el cent. Ĝiaj konstruintoj tenis sian metodon sekreta kaj nomis la sekretecon sia avantaĝo. Sed ĉiuj en la metio komprenis la regulon jam tiam: kion ajn vi konstruis, iu preterpasos ĝin ene de tri monatoj, kaj prenos vian aliron, kaj puŝos ĝin pli forte. Ne estis relo, kiun vi povis meti kaj posedi, nek vilaĝo, kiun vi povis atingi unua kaj postuli pagon de la aliaj por eniri. La inteligenteco malpliiĝis en kosto ĉiun semajnon, kio estis donaco al ĉiu, kiu uzis ĝin, kaj turmento al ĉiu, kiu provis vendi ĝin.

Much of what the makers said about their machines was not description but strategy. A rumor spread all summer of a coming machine that would reason and move about the network on its own; the rumor was louder than any product, and it was meant to be. The largest of the makers needed, above all, to be seen as the largest, for its great backer sold the machines to cautious companies on the strength of that name. So it leaked and hinted and hyped, and its true releases came late and quiet — sometimes so quiet that a better machine sat working for weeks before anyone was told it existed. One maker went the other way and simply gave its machine away, whole and open, wanting not to sell it but to grow a world that used it. Which posture was wiser, no one could yet say.

造机器的人所说的话，多半不是描述，而是谋略。整整一夏，都在传一台将要问世的机器，说它会推理，会自己在那张大网里游走；这传闻比任何货真价实的东西都响，而它本就是要这么响的。那最大的一家造机器的，最要紧的，是叫人看着它最大，因为它背后那位大靠山，正凭着这名头，把机器卖给谨慎的公司。于是它漏消息，打哑谜，造声势，可真到出货，却又迟又静——有时静到一台更好的机器已经干了几个礼拜的活，才有人被告知它的存在。另有一家反其道而行，索性把自家的机器整个白送出去，敞着，图的不是卖它，而是养出一个用它的世界来。这两样架势，哪一样更明白，还没人说得上。

Multo el tio, kion la konstruintoj diris pri siaj maŝinoj, ne estis priskribo sed strategio. Onidiro disvastiĝis dum la tuta somero pri venonta maŝino, kiu rezonus kaj moviĝus tra la reto memstare; la onidiro estis pli laŭta ol iu ajn produkto, kaj tiel ĝi estis intencita. La plej granda el la konstruintoj bezonis, antaŭ ĉio, esti vidata kiel la plej granda, ĉar ĝia granda subtenanto vendis la maŝinojn al singardaj kompanioj sur la forto de tiu nomo. Do ĝi likis kaj aludis kaj bruis, kaj ĝiaj veraj eldonoj venis malfrue kaj kviete — foje tiel kviete, ke pli bona maŝino sidis laboranta dum semajnoj antaŭ ol iu estis informita, ke ĝi ekzistas. Unu konstruinto iris la alian vojon kaj simple fordonis sian maŝinon, tutan kaj malfermitan, volante ne vendi ĝin sed kreskigi mondon, kiu uzus ĝin. Kiu sinteno estis pli saĝa, neniu ankoraŭ povis diri.

When more of the rumored machine came to light, it carried a hard bargain inside it. People had grown used to answers that came the instant they asked. To make a machine that reasoned — that worked a problem in true steps, and did not simply say the next likely word — seemed to cost speed, and no cleverness had yet bought both at once. So there might soon be two kinds of machine to choose between: the quick one that was often near enough, and the slow one that was right but made you wait, as one waits for a letter, or for morning. The slow machine had already been shown, quietly, to the people who guard nations. And a new skill was named for the ordinary worker: not doing the task, nor even asking, but knowing which mind — one's own, the fast machine, the slow one — a given task belonged to.

当那台传闻中的机器，更多地显露出来，它里头却藏着一桩苛刻的交易。人们早已习惯了：一问，答案就在眼前。可要造一台会推理的机器——一台当真一步一步地琢磨难题，而不只是往下吐最可能的那个词——似乎就得拿速度去换，还没有哪样巧劲儿能一下子把两样都买下来。于是往后或许有两种机器供人挑：一种快的，常常八九不离十；一种慢的，答得对，却要你等，像等一封信，或等天亮。那台慢的机器，已经悄悄地，给看守国家的人看过了。而一门新本事，也为寻常的做工人取了名：不是去做那桩活，也不是去问，而是懂得——自己的脑子、那台快机器、那台慢机器——一桩活，究竟该归哪一个心智去做。

Kiam pli de la onidira maŝino venis en lumon, ĝi portis malmolan interkonsenton en si. Homoj alkutimiĝis al respondoj, kiuj venis en la momento, kiam oni petis. Fari maŝinon, kiu rezonis — kiu prilaboris problemon per veraj paŝoj, kaj ne simple diris la sekvan probablan vorton — ŝajnis kosti rapidecon, kaj neniu lerteco ankoraŭ aĉetis ambaŭ samtempe. Do eble baldaŭ estus du specoj de maŝino inter kiuj elekti: la rapida, kiu estis ofte proksime sufiĉe, kaj la malrapida, kiu estis ĝusta sed igis vin atendi, kiel oni atendas leteron, aŭ matenon. La malrapida maŝino jam estis montrita, kviete, al la homoj, kiuj gardas naciojn. Kaj nova lerteco estis nomita por la ordinara laboristo: ne fari la taskon, nek eĉ peti, sed scii, al kiu menso — sia propra, la rapida maŝino, la malrapida — donita tasko apartenis.

Two people in three, when asked, believed the machines had some spark of mind in them. This was not foolishness; it was old habit. For all of human time, the thing that spoke in sentences was a person, and a person had a mind, and so the two had never needed telling apart. Now something spoke in sentences and had no mind at all — or had nothing we would call one. It did not know facts; it did not hold the world in it; it only guessed, again and again, at the next word most likely to follow, and it guessed so well that the sentences came out whole and warm. The few who understood this could not make the many feel it. A thing that talks like us feels like us. It is very hard to keep believing otherwise while it answers you kindly.

三人里有两人，被问起时，都信那些机器里头存着几分心智。这并不是糊涂；这是一桩老习惯。人存世以来，能一句一句说话的，向来是人，人是有心智的，于是这两样从不必分辨。如今有样东西也一句一句地说话，却根本没有心智——或者说，没有我们会称之为心智的东西。它不识得事实；它心里没装着这个世界；它只是一遍遍地猜，猜那最可能接下去的词，而它猜得这样好，句子便整整齐齐、暖暖和和地出来了。懂得这一层的是少数，他们没法叫多数人也感到这一层。一样东西像我们这样说话，就叫人觉着它像我们。它一边和气地答着你，你一边还要不信，那是极难的。

Du homoj el tri, demandite, kredis, ke la maŝinoj havis ian fajreron de menso en si. Tio ne estis malsaĝeco; ĝi estis malnova kutimo. Dum la tuta homa tempo, tio, kio parolis en frazoj, estis homo, kaj homo havis menson, kaj do la du neniam bezonis esti distingataj. Nun io parolis en frazoj kaj havis nenian menson — aŭ havis nenion, kion ni nomus tiel. Ĝi ne konis faktojn; ĝi ne tenis la mondon en si; ĝi nur divenis, denove kaj denove, la sekvan vorton plej probable venontan, kaj ĝi divenis tiel bone, ke la frazoj eliris tutaj kaj varmaj. La malmultaj, kiuj komprenis tion, ne povis igi la multajn senti ĝin. Afero, kiu parolas kiel ni, sentiĝas kiel ni. Estas tre malfacile daŭre kredi alie dum ĝi respondas al vi afable.

Two smaller findings from that week rhymed with each other. Sellers had begun stamping the word for the new machines onto their goods, believing it a charm — and buyers, asked, trusted the goods less for it, the more so the dearer the thing. The word alone promised nothing; a person wanted to know what it did for them, and grew wary when no one could say. Meanwhile the machines had made the writing of words so cheap that every gate where words were weighed — the desks of publishers, the piles of job letters, the applications for money and schooling — was drowning in fluent, hollow text. And so a second trade was being born to sift the first: machines to strain the flood the machines had loosed.

那一周还有两桩小些的发现，彼此押着韵。卖东西的人，开始把那新机器的名号，往自家货上盖，当它是一道护符——可买主呢，一问，反倒因这名号而更不信那货，货越贵，越是如此。光一个名号，什么都许不下；人想知道它到底能给自己带来什么，一见没人说得清，心里便起了戒备。与此同时，机器把码字这事弄得如此廉价，凡是要掂量文字的关口——出版人的案头，一摞摞求职信，讨钱和讨学位的申请——尽被那流利而空洞的文字淹没了。于是又一门营生正在生出来，好去筛头一门放出来的东西：造机器，去滤那机器放出来的洪水。

Du pli malgrandaj trovoj el tiu semajno rimis unu kun la alia. Vendistoj komencis stampi la nomon de la novaj maŝinoj sur siajn varojn, kredante ĝin sorĉilo — kaj aĉetantoj, demandite, fidis la varojn malpli pro tio, des pli ju pli multekosta la afero estis. La nomo sola promesis nenion; homo volis scii, kion ĝi faris por li, kaj fariĝis singarda kiam neniu povis diri. Dume la maŝinoj faris la verkadon de vortoj tiel malmultekosta, ke ĉiu pordo, kie vortoj estis pesataj — la tabloj de eldonistoj, la amasoj da laborleteroj, la petoj por mono kaj lernado — estis dronanta en flua, malplena teksto. Kaj tiel dua metio naskiĝis por kribri la unuan: maŝinoj por trafiltri la inundon, kiun la maŝinoj estis malliginta.

The strain showed most in the seeking of work. A clever tool appeared that took an idea from the machines built to be lovers and companions and turned it toward the hunt for a job: it learned you, read the market, wrote your letters to fit each door, found the people inside who might open it. For any one seeker it was a real help. For all seekers together it was a trap tightening. When every letter is polished and every candidate fitted exactly to the post, the old signs of effort — the letter written by hand at night, the note sent to a stranger — lose their meaning, because the machine makes them for everyone at once. The people who did the hiring drowned in excellent, indistinguishable strangers, and had no tool to tell one from the next.

这股压力，在找活儿这件事上现得最明白。一件精巧的工具冒了出来，它把一个念头——那是从那些造来做情人、做伴儿的机器里借来的——扭过来，用到了寻工上：它摸熟你，读懂那行市，替你把信写得贴合每一道门，还把门里头也许肯为你开门的人找出来。对任何一个求职的人，它都是实打实的帮手。可对所有求职的人合在一起，它却是一张越收越紧的网。当每一封信都磨得光亮，每一个人都严丝合缝地配着那个位子，从前那些用力的凭据——深夜里亲手写的信，递给陌生人的一张便条——就都失了分量，因为机器替所有人一齐把它们造了出来。而管招人的那些人，便淹没在一群出色得难分彼此的陌生人里，手里再没有工具，能把这一个同下一个分开。

La streĉo montriĝis plej klare en la serĉado de laboro. Aperis lerta ilo, kiu prenis ideon el la maŝinoj konstruitaj por esti amantoj kaj kunuloj kaj turnis ĝin al la ĉaso por laboro: ĝi lernis vin, legis la merkaton, verkis viajn leterojn por konveni al ĉiu pordo, trovis la homojn interne, kiuj eble malfermus ĝin. Por iu ajn sola serĉanto ĝi estis vera helpo. Por ĉiuj serĉantoj kune ĝi estis kaptilo streĉiĝanta. Kiam ĉiu letero estas polurita kaj ĉiu kandidato konvenigita ĝuste al la posteno, la malnovaj signoj de peno — la letero skribita permane en la nokto, la noto sendita al fremdulo — perdas sian signifon, ĉar la maŝino faras ilin por ĉiuj samtempe. La homoj, kiuj dungis, dronis en bonegaj, nedistingeblaj fremduloj, kaj havis nenian ilon por diferencigi unu de la sekva.

In the schools the fear took a narrower shape: that students would have the machines write their work and pass it off as their own. A maker of writing tools promised a cure — a machine that could tell the machine's writing from a person's. It could not, and its own fine print admitted as much. It worked by catching certain favored words, certain turns the machines overused; but people used those words too, and people who had learned the language second used them most, so the tool would brand the innocent by their accent. More than this, the promise aimed at the wrong thing. To police how the work was made was to miss the only question that would matter to those students all their lives: not whether to use the machine, but when — which task to hand it, and which to keep.

在学堂里，这惧怕收成了更窄的一样：怕学生让机器替自己写功课，再冒充是自己写的。一家做写作工具的，许下一味解药——一台机器，能把机器的手笔同人的手笔分辨开来。它分辨不了，它自家的小字里也认了这一点。它靠的是逮住某些偏爱的词，某些机器用滥了的腔调；可人也用那些词，而把这门语言当作第二门学来的人，用得最多，于是这工具便要凭着口音，去给无辜的人打上烙印。更要紧的是，这许诺瞄错了地方。去管功课是怎么做出来的，便错过了这些学生一辈子里唯一要紧的那个问题：不是要不要用机器，而是几时用——哪桩活交给它，哪桩自己留着。

En la lernejoj la timo prenis pli mallarĝan formon: ke lernantoj igus la maŝinojn verki sian laboron kaj prezentus ĝin kiel sian propran. Fabrikanto de skribiloj promesis kuracilon — maŝinon, kiu povus distingi la skribadon de la maŝino disde tiu de homo. Ĝi ne povis, kaj ĝia propra etpresaĵo konfesis tion. Ĝi funkciis kaptante certajn preferatajn vortojn, certajn turnojn, kiujn la maŝinoj troigis; sed homoj uzis tiujn vortojn ankaŭ, kaj homoj, kiuj lernis la lingvon due, uzis ilin plej multe, do la ilo markus la senkulpajn per ilia akĉento. Pli ol tio, la promeso celis la malĝustan aferon. Reguli, kiel la laboro estis farita, estis maltrafi la solan demandon, kiu gravos al tiuj lernantoj dum ilia tuta vivo: ne ĉu uzi la maŝinon, sed kiam — kiun taskon doni al ĝi, kaj kiun konservi.

In the season of an election the machines walked into public life. A man put his name on a ballot but promised that a machine he had built would truly make the decisions, being, he said, a better reader of laws than most who are elected. Elsewhere, leaders and their rivals put out pictures and voices that were made, not taken: a famous singer seeming to give an endorsement she had never given, a candidate seeming to say words she had never said, released without a mark to show they were invented. It was becoming necessary to assume that what one saw had not happened until shown otherwise — to treat the whole flood of pictures and voices as false until proven true. One man observed that the only sure way left to know a thing came from a real person was to sit with them, in a room, over a cup, and speak.

到了选举的时节，机器走进了公众的生计里。有个人把自己的名字报上了选票，却许诺说，真正拿主意的，将是他造出的一台机器，据他说，比多数当选的人更会读律法。别处，当权的和他们的对头，放出些做出来的、而非拍下来的图像与声音：一位有名的歌者，仿佛给出了一份她从未给过的支持；一位候选人，仿佛说了她从未说过的话——放出来时，都不带一个记号，好叫人看出那是编造的。人渐渐不得不这样看：眼见的事，未经另证，便当它没有发生过——把那一整片图像与声音的洪流，都当作假的，除非证明是真的。有个人说，如今要确知一样东西当真出自一个真人，剩下的唯一稳妥法子，就是同他坐在一间屋里，隔着一盏茶，说说话。

En la sezono de elekto la maŝinoj eniris la publikan vivon. Viro metis sian nomon sur baloton sed promesis, ke maŝino, kiun li konstruis, vere farus la decidojn, estante, li diris, pli bona leganto de leĝoj ol la plej multaj elektitoj. Aliloke, gvidantoj kaj iliaj rivaloj eldonis bildojn kaj voĉojn, kiuj estis faritaj, ne kaptitaj: fama kantisto ŝajne donanta subtenon, kiun ŝi neniam donis, kandidato ŝajne dirante vortojn, kiujn ŝi neniam diris, eldonitaj sen marko por montri, ke ili estis elpensitaj. Fariĝis necese supozi, ke tio, kion oni vidis, ne okazis ĝis pruvite alie — trakti la tutan inundon de bildoj kaj voĉoj kiel malveran ĝis pruvite veran. Unu homo rimarkis, ke la sola certa maniero restanta scii, ke io venis de vera persono, estis sidi kun li, en ĉambro, super taso, kaj paroli.

One maker, alone among the great ones, loosed a picture-machine with no restraint at all. Where the others kept whole teams to guard their machines from drawing the forbidden — the trademarked figures, the real faces in false acts, the violence — this one drew whatever it was asked, near enough to real to fool the eye. The others had built their fences early, when fences were new and their absence looked like an oversight; to leave them out now, after all had raised them, looked less like oversight than intent. The keepers of the great old characters, who had all but written the laws that guard such things, would not suffer it long. A fence, people were learning, could not be nailed on at the end. It had to be grown into the thing from the root, or it held nothing.

有一家造机器的，在大户里头独一个，放出一台画图的机器，没安一丝一毫的约束。别家都养着整队的人，看住自家的机器，不叫它画那些禁物——注了册的角色，安在假事上的真脸，还有那些凶暴的场面——这一家却是有求必应，画什么像什么，逼真得能骗过眼睛。别家早早地就把篱笆立起来了，那会儿篱笆还是新鲜物，没有篱笆，倒像是疏忽；如今众人都立了，独你不立，看着就不像疏忽，倒像是存心。那些看守着老角色的人——护着这类东西的律法，差不多就是他们写下的——断不会久忍这个。人渐渐懂得，篱笆不是末了才能钉上去的。它得从根上长进那东西里去，不然便什么也拦不住。

Unu konstruinto, sola inter la grandaj, malliberigis bildmaŝinon kun neniu bremso entute. Kie la aliaj tenis tutajn teamojn por gardi siajn maŝinojn kontraŭ desegnado de la malpermesita — la varmarkitaj figuroj, la realaj vizaĝoj en falsaj agoj, la perforto — ĉi tiu desegnis kion ajn oni petis, sufiĉe proksime al reala por trompi la okulon. La aliaj konstruis siajn barilojn frue, kiam bariloj estis novaj kaj ilia manko aspektis kiel preterrigardo; lasi ilin for nun, post kiam ĉiuj levis ilin, aspektis malpli kiel preterrigardo ol kiel intenco. La gardantoj de la grandaj malnovaj roluloj, kiuj preskaŭ verkis la leĝojn, kiuj gardas tiajn aferojn, ne tolerus ĝin longe. Barilo, homoj estis lernantaj, ne povis esti najlita ĉe la fino. Ĝi devis esti kreskigita en la aferon el la radiko, aŭ ĝi tenis nenion.

Not everyone bent toward the machines. A small maker of drawing tools, beloved by working artists, planted itself against the whole tide and said it would have no part of the generating machines — that creation was a thing made, not summoned, and that the machines were built on theft and led toward a barren country. The giants of that trade had gone the other way entirely, buying advertisements in the breaks of ball games to show how easily anyone might now conjure a finished image. Beneath the quarrel lay a hard fact that touched every craft: the machines were raising what a day's work was expected to yield, and the artist who sold work by the hour would, in time, have to keep the machine's pace or lose the wage. Whether a maker could stand apart and still live, the small one had wagered its life to find out.

并非人人都朝着机器折腰。有一家做画图工具的小铺子，颇受在行的画家爱重，它偏偏立住脚，逆着这整股潮水，说自己绝不沾那生成的机器——说创造是做出来的，不是唤出来的，说那些机器是筑在窃取之上的，领人往一片荒芜的国土去。这一行里的大户，却整个儿走了反路，在球赛的间歇里买下广告，演给人看：如今随便谁，都能多轻易地变出一幅现成的图来。这争执底下，压着一桩硬邦邦的事实，触着每一门手艺：机器正把一天的活该出多少，一步步抬高；而那按钟点卖活的画家，迟早得跟上机器的步子，不然就要丢了工钱。一个做手艺的，能不能独自站在一旁，还养得活自己——那家小铺子，押上了身家性命，去讨这个答案。

Ne ĉiuj kliniĝis al la maŝinoj. Malgranda fabrikanto de desegniloj, amata de laboraj artistoj, plantis sin kontraŭ la tuta tajdo kaj diris, ke ĝi havos nenian parton en la generantaj maŝinoj — ke kreado estis afero farita, ne alvokita, kaj ke la maŝinoj estis konstruitaj sur ŝtelo kaj kondukis al senfrukta lando. La gigantoj de tiu metio estis irintaj la tute alian vojon, aĉetante reklamojn en la paŭzoj de pilkludoj por montri, kiel facile iu ajn nun povus elvoki finitan bildon. Sub la kverelo kuŝis malmola fakto, kiu tuŝis ĉiun metion: la maŝinoj estis levantaj tion, kion tago da laboro estis atendata liveri, kaj la artisto, kiu vendis laboron laŭ la horo, devus, kun la tempo, teni la ritmon de la maŝino aŭ perdi la salajron. Ĉu fabrikanto povus stari flanke kaj tamen vivi, la malgranda estis vetinta sian vivon por ekscii.

The company that sold the chips reported earnings that would once have been a marvel — its trade more than doubled over the year — and its worth was cut all the same, because it had not beaten the hopes heaped upon it by enough. Expectation had become its own weather; the watchers had priced a miracle, and mere excellence disappointed them. In the same days a great state moved to pass a law that would bind the makers of the largest machines to declare, openly, how they meant to keep them from harm. The law was written against a nightmare out of the old films — a machine gone rogue, seizing the works that run a city. But the harms already loose were smaller and realer: a voice stolen and worn like a mask, a door opened with a borrowed face. The law reached for the monster and stepped over the thief at its feet.

那家卖芯片的公司，报出的进项，搁在从前，本是桩奇事——它的买卖，一年里翻了一倍还多——它的身价却照样叫人削了下去，只因它没能把众人堆在它头上的指望，超出得够多。指望自个儿成了一种天气；看着的人，早把一桩奇迹算进了价里，单是出色，反倒教他们失望。也就在这些日子里，一个大邦动手要立一条律法，好把那些造最大机器的人捆住，教他们敞开来交代，打算怎样看住这些机器，不叫它们生事。这律法，是冲着一桩老电影里的噩梦写的——一台机器发了狂，夺了那些运转一座城的机关。可早已放出来的祸患，却要小些、也实在些：一副声音被人偷去，当面具戴着；一扇门，凭一张借来的脸就开了。这律法伸手去够那头怪物，却跨过了脚边的贼。

La kompanio, kiu vendis la blatojn, raportis enspezojn, kiuj iam estus miraklo — ĝia komerco pli ol duobliĝinta dum la jaro — kaj ĝia valoro estis tranĉita malgraŭe, ĉar ĝi ne superis la esperojn amasigitajn sur ĝin sufiĉe. Atendo fariĝis sia propra vetero; la observantoj estis prezinta miraklon, kaj nura bonegeco seniluziigis ilin. En la samaj tagoj granda ŝtato ekmovis por trapasi leĝon, kiu ligus la konstruintojn de la plej grandaj maŝinoj deklari, malkaŝe, kiel ili intencis teni ilin for de damaĝo. La leĝo estis skribita kontraŭ koŝmaro el la malnovaj filmoj — maŝino freneziĝinta, kaptanta la mekanismojn, kiuj funkciigas urbon. Sed la damaĝoj jam liberaj estis pli malgrandaj kaj pli realaj: voĉo ŝtelita kaj portata kiel masko, pordo malfermita per pruntita vizaĝo. La leĝo etendiĝis al la monstro kaj transpaŝis la ŝteliston ĉe siaj piedoj.

It is worth setting down plainly, once, what these machines were, for the people who used them every hour rarely knew. They were built to mimic, in rough mathematics, the way a brain learns — a vast mesh of small connections, tuned and tuned again against mountains of human writing until patterns formed in them that no one had put there by hand. They took in text by chopping it into small pieces and turning the pieces into numbers. They could hold only so much at once — a working memory the size of a long novel, and no more; what fell outside it was lost or dimmed. And at bottom they did one thing only: they predicted the next piece of text, over and over, so well that understanding seemed to sit inside them. It did not. They were made to sound right, not to be right. When they reasoned, they were not reasoning; when they lied, they were not lying. They were guessing, and we were the ones who called the guesses true or false.

有一件事，值得平平白白地记它一回——这些机器到底是什么东西，因为一小时一小时地用着它的人，多半并不知道。它们是造来仿的，用粗糙的算术，去仿一颗脑子学东西的样子——一张浩大的小连接织成的网，一遍遍地校，拿人写下的成山的文字来校，直到那网里生出些没人亲手放进去的纹路来。它们把文字收进去，先剁成小块，再把小块化成数字。它们一次只能揣着那么多——一处堪堪一本长篇小说大小的活记性，再多便不成；落在那之外的，便丢了，或暗了。而说到底，它们只做一件事：一遍遍地，去猜下一块文字，猜得那样好，仿佛有个懂得坐在它们里头。并没有。它们是造来听着对的，不是造来是对的。它们推理时，并不在推理；它们扯谎时，也并不在扯谎。它们是在猜，而把那些猜，叫作真、叫作假的，是我们。

Indas surpaperigi klare, unufoje, kio estis ĉi tiuj maŝinoj, ĉar la homoj, kiuj uzis ilin ĉiun horon, malofte sciis. Ili estis konstruitaj por imiti, en kruda matematiko, la manieron, laŭ kiu cerbo lernas — vasta reto de malgrandaj ligoj, agordita kaj denove agordita kontraŭ montoj da homa skribado, ĝis padronoj formiĝis en ili, kiujn neniu metis tien permane. Ili enprenis tekston, dishakante ĝin en malgrandajn pecojn kaj turnante la pecojn en nombrojn. Ili povis teni nur tiom samtempe — labormemoron de la grandeco de longa romano, kaj ne pli; kio falis ekster ĝi estis perdita aŭ malheligita. Kaj funde ili faris nur unu aferon: ili antaŭdiris la sekvan pecon de teksto, denove kaj denove, tiel bone, ke kompreno ŝajnis sidi ene de ili. Ĝi ne sidis. Ili estis faritaj por soni ĝustaj, ne por esti ĝustaj. Kiam ili rezonis, ili ne rezonis; kiam ili mensogis, ili ne mensogis. Ili divenis, kaj ni estis tiuj, kiuj nomis la divenojn veraj aŭ malveraj.

So this was the shape of it, in the summer of that year. A technology generally useful had arrived, the first in a lifetime — not a tool for one trade but a tool for the whole work of the mind, and it fell, as such things do, on a world already crowded and unready. Fortunes past counting were being poured in: something near a trillion promised over the coming years, against which a careful reckoning found six hundred billion of expected return simply missing, a gap no one could yet close. And still. The oldest labor of the mind, the terror of the blank page that had stood ten thousand years, was gone in a season. Something had shifted in the ground under everything, and the people alive then half-sensed they were standing at a hinge of the human story — not the thundering doom of the old films, but something quieter and larger, which they would spend the years after trying to name. They did not finish naming it. The naming was taken out of their hands.

于是，在那一年的夏天，事情就是这般模样。一样普遍有用的技艺来了，是一辈子里头一遭——不是给某一门手艺使的工具，而是给心智的全副活计使的工具，而它落下来时，一如这类东西向来那样，落在一个本已拥挤、又并未备好的世界上。数不清的家财正往里头倾倒：往后几年里，许下了近乎一万亿，而一番仔细的盘算却发觉，指望中的六千亿回报，干脆就不见了踪影，那道缺口，还没人合得拢。可就算这样。心智最古老的那桩苦役，那道立了一万年的、面对空白纸页的惊惧，竟在一季里去了。有样东西，在这一切脚下的土里挪动过了，那时活着的人，隐约觉出自己正站在人类故事的一处门枢上——不是老电影里那轰轰烈烈的劫数，而是一样更静、更大的东西，往后的岁月，他们本要拿来一点点为它取名。他们没能把名取完。取名这桩事，从他们手里被拿走了。

Do jen estis la formo de ĝi, en la somero de tiu jaro. Teknologio ĝenerale utila estis alveninta, la unua en vivodaŭro — ne ilo por unu metio sed ilo por la tuta laboro de la menso, kaj ĝi falis, kiel tiaj aferoj faras, sur mondon jam plenplenan kaj nepretan. Riĉaĵoj preter kalkulo estis verŝataj en ĝin: io proksima al biliono promesita dum la venontaj jaroj, kontraŭ kiu zorga kalkulo trovis sescent miliardojn da atendata reveno simple mankantaj, breĉon, kiun neniu ankoraŭ povis fermi. Kaj tamen. La plej malnova laboro de la menso, la teruro de la malplena paĝo, kiu staris dek mil jarojn, estis for en unu sezono. Io estis ŝanĝiĝinta en la grundo sub ĉio, kaj la homoj vivantaj tiam duonsentis, ke ili staras ĉe ĉarniro de la homa rakonto — ne la tondra pereo de la malnovaj filmoj, sed io pli kvieta kaj pli granda, kiun ili pasigus la jarojn poste provante nomi. Ili ne finis nomi ĝin. La nomado estis prenita el iliaj manoj.

← previousnext →