Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

1

The month began with a machine that spoke like a person. It was not one of the great houses that made it, but a small shop, and the thing it made did not sound like the flat, obedient voices people had learned to ignore. It breathed. It paused before answering, as if gathering a thought. It said "uh" and caught itself and went on. Those who used it knew, in the front of the mind, that it was only a machine assembling words; and still, underneath, the mind refused the knowledge and answered it as it would answer a person. Some found this warm. Some found it uncanny and drew back. It remembered what you had told it for two weeks, so that each meeting began already knowing you.

这个月，是从一台像人一样说话的机器开始的。造它的不是那些大门户，而是一家小作坊；可它造出来的东西，听起来不像人们早已学会忽略的那种平板、顺从的嗓音。它会呼吸。它在回答前停顿，仿佛在凝聚一个念头。它会说“呃”，又收住，接着往下讲。用它的人心里明明白白，知道那不过是一台把词语拼凑起来的机器；然而在更深处，人的心却拒绝这份明白，像对一个人那样回应它。有人觉得亲切，有人觉得瘆得慌，往后缩了缩。它把你说过的话记上两个星期，于是每一次相见，它都已经认得你了。

La monato komenciĝis per maŝino kiu parolis kiel homo. Ne unu el la grandaj domoj faris ĝin, sed malgranda metiejo, kaj tio kion ĝi faris ne sonis kiel la plataj, obeemaj voĉoj kiujn la homoj jam lernis ignori. Ĝi spiris. Ĝi paŭzis antaŭ ol respondi, kvazaŭ kolektante penson. Ĝi diris "e" kaj sin rekaptis kaj daŭrigis. Tiuj kiuj ĝin uzis sciis, en la antaŭo de la menso, ke ĝi estas nur maŝino kunmetanta vortojn; kaj tamen, sub tio, la menso rifuzis la scion kaj respondis al ĝi kiel ĝi respondus al homo. Iuj trovis tion varma. Iuj trovis ĝin fremdiga kaj sin retiris. Ĝi memoris kion vi diris al ĝi dum du semajnoj, tiel ke ĉiu renkonto komenciĝis jam konante vin.

Why the small shops and not the great houses? Voice, it seemed, yielded to the nimble maker and resisted the large one. The great houses held the roads to the people - the devices in every pocket and on every counter - but could not make the thing sound alive. One of the largest, whose talking servant had lived in pockets for years, was said to have set aside any real remaking of it for two years or more, so that it would go on waking when unwanted and falling further behind. Another, which sold everything, at last shipped its own home-listener and could not build the mind to run it, and so rented one from the careful house whose machines were prized. In the same days that careful house took in three and a half billion at a single raising. The pattern was old: the small make the new thing, the large buy it or carry it.

为什么是小作坊，而不是大门户？看来，嗓音这件事，肯让灵巧的匠人得手，却对庞然大者不肯就范。大门户握着通往众人的道路——每个口袋里、每张柜台上的器物——却造不出那份活气。有一家最大的，它那会说话的仆役在人们口袋里住了好些年；据说，它把这仆役真正的翻新，一搁就是两年有余，于是它照旧在人不想要它时醒来，照旧越落越远。另一家什么都卖，终于把自家的“家中听差”推了出来，却造不出驱使它的那颗脑子，只好向那家珍品累累、行事审慎的门户租了一颗。也正是这些日子里，那家审慎的门户一次募资便进账三十五亿。这规律是老的了：小者造出新物，大者或买下它，或替它送到众人手中。

Kial la malgrandaj metiejoj kaj ne la grandaj domoj? La voĉo, ŝajne, cedis al la lerta faranto kaj rezistis al la granda. La grandaj domoj tenis la vojojn al la homoj — la aparatojn en ĉiu poŝo kaj sur ĉiu breto — sed ne povis igi la aĵon soni viva. Unu el la plej grandaj, kies parolanta servisto loĝis en poŝoj de jaroj, laŭdire flankenmetis ĉian veran refaradon de ĝi por du jaroj aŭ pli, tiel ke ĝi plu vekiĝus nevolata kaj plu postrestus. Alia, kiu vendis ĉion, fine ekspedis sian propran hejman aŭskultanton kaj ne povis konstrui la menson por funkciigi ĝin, kaj tial luis unu de la zorgema domo kies maŝinoj estis alte taksataj. En la samaj tagoj tiu zorgema domo enprenis tri miliardojn kaj duonon per ununura akiro. La ŝablono estis malnova: la malgrandaj faras la novan aĵon, la grandaj aĉetas ĝin aŭ portas ĝin.

A few makers to the east had learned to make a small mind that fought above its size. One of them put out a machine of some thirty billion parts that answered, on the narrow tasks of code and reasoning, as well as a rival some twenty times larger. They had done it by reward and punishment, training the mind hard along a few chosen tracks. It was a glass arrow: on those tracks it flew straight to the center, and off them it was brittle, apt to lose its thread, to circle, even to argue against itself inside a single exchange. Meanwhile one great house, which had poured fortunes into this work and promised much, could not ship its own next mind, and set its rooms to studying how the smaller easterners had passed it by.

东方有几家匠人，学会了造出以小搏大的脑子。其中一家推出一台约三百亿个零件的机器，在编码与推理这类狭窄活计上，答得竟与一个约莫大它二十倍的对手不相上下。他们靠的是赏与罚，沿着少数几条选定的轨道，把这脑子狠狠地练。那是一支玻璃的箭：在那些轨道上，它笔直射中靶心；一离了轨，它便脆，容易断了思路，原地打转，甚至在同一场对话里自己驳自己。与此同时，有一家大门户，曾把巨资倾注于此、许下过许多，却推不出自家下一颗脑子，只得把一间间屋子都拨去琢磨：那些更小的东方人，是怎样把它甩下的。

Kelkaj farantoj oriente lernis fari malgrandan menson kiu batalis super sia grando. Unu el ili ekspedis maŝinon de ĉirkaŭ tridek miliardoj da partoj kiu respondis, pri la mallarĝaj taskoj de kodo kaj rezonado, tiel bone kiel rivalo ĉirkaŭ dudekoble pli granda. Ili faris tion per rekompenco kaj puno, trejnante la menson forte laŭ kelkaj elektitaj vojoj. Ĝi estis vitra sago: sur tiuj vojoj ĝi flugis rekte al la centro, kaj for de ili ĝi estis rompiĝema, inklina perdi sian fadenon, ĉirkaŭiri, eĉ argumenti kontraŭ si mem ene de unu interparolo. Dume unu granda domo, kiu verŝis riĉaĵojn en ĉi tiun laboron kaj promesis multon, ne povis ekspedi sian propran venontan menson, kaj metis siajn ĉambrojn al studado de kiel la pli malgrandaj orientanoj preterpasis ĝin.

Then came a great excitement over what looked like a new mind from the east - a machine that could hold a whole task in hand, run errands across the web, tend many accounts at once, and hand back long and careful work. Within two days someone pried it open, and there was no new mind inside. It was the careful house's own machine, dressed in some thirty tools and told how to use them. This did not make it less remarkable. Over a single weekend it had drawn up a seventy-five-page account of a treatment for a hard disease. The lesson ran quietly through the trade: the intelligence already made, given hands and errands, could do what looked like far more than itself. The year was to be the year of putting wheels on the mind.

接着，一阵大热闹掀了起来，人人都当那是东方新出的一颗脑子——一台机器，能把一整桩差事握在手里，替你在网上跑腿，一口气照看许多账户，再把又长又细的活计交回来。不出两天，有人把它撬开，里头并没有什么新脑子。那是那家审慎门户自家的机器，套上了约莫三十件工具，又被教会怎样使唤它们。这并没有让它逊色几分。仅一个周末，它就草拟出一份七十五页的文书，讲的是一种顽症的疗法。一条道理在这行里悄悄传开：已经造好的智能，一旦有了手、有了差事可跑，就能做出看上去远超它自身的事来。这一年，将是给脑子装上轮子的一年。

Poste venis granda ekscitiĝo pri tio kio aspektis kiel nova menso el la oriento - maŝino kiu povis teni tutan taskon en la mano, kuri komisiojn tra la reto, prizorgi multajn kontojn samtempe, kaj redoni longan kaj zorgeman laboron. Ene de du tagoj iu malfermis ĝin per levilo, kaj ne estis nova menso interne. Ĝi estis la propra maŝino de la zorgema domo, vestita per ĉirkaŭ tridek iloj kaj instruita kiel uzi ilin. Tio ne igis ĝin malpli rimarkinda. Dum unu semajnfino ĝi verkis sepdek-kvin-paĝan raporton pri kuraco de malfacila malsano. La leciono kuris kviete tra la metio: la inteligenteco jam farita, ricevinte manojn kaj komisiojn, povis fari tion kio aspektis multe pli granda ol ĝi mem. La jaro estis fariĝonta la jaro de surmeto de radoj al la menso.

The great enterprise house, watching the careful house's way of joining tools to minds spread and take, put out a kit of its own for building such errand-running machines. It was well made; there was nothing wrong with it. But it carried no advantage save the house's own mind beneath it, and those who built such machines already had good ways that served any mind at all. This was to have been the year when every business, large and small, set such machines to work. The work had proved harder than the promise. Building one was its own craft - a matter of drawing its bounds, giving it reins, and testing it without end - and few had the hands for it.

那家大企业门户，眼看着审慎门户那套把工具接上脑子的法子四处流传、渐渐得势，便也推出自家的一副工具箱，专供人打造这类能跑腿的机器。做得不赖；挑不出什么毛病。可它并不带来什么优势，除了压在底下的那颗自家脑子；而那些造这类机器的，手里早有好使的法子，任凭底下换哪颗脑子都成。这一年，本该是家家户户、无论大小都把这类机器支使起来干活的一年。可这活，比当初的许诺难办得多。造一个，自成一门手艺——要划定它的边界，给它套上缰绳，再没完没了地试它——能上手的人没几个。

La granda entreprena domo, vidante la manieron de la zorgema domo kunigi ilojn kun mensoj disvastiĝi kaj sukcesi, ekspedis propran ilaron por konstrui tiajn komisi-kurantajn maŝinojn. Ĝi estis bone farita; nenio malbonis pri ĝi. Sed ĝi portis nenian avantaĝon krom la propra menso de la domo sube, kaj tiuj kiuj konstruis tiajn maŝinojn jam havis bonajn manierojn kiuj servis al iu ajn menso. Ĉi tiu devis esti la jaro kiam ĉiu entrepreno, granda kaj malgranda, metis tiajn maŝinojn al laboro. La laboro montriĝis pli malfacila ol la promeso. Konstrui unu estis propra metio - afero de fiksado de ĝiaj limoj, donado de bridoj al ĝi, kaj senfina provado - kaj malmultaj havis la manojn por ĝi.

In the same weeks one house set down a rule for the raising of minds, meant to hold even when the mind should grow cleverer than any living person. Do not, it said, correct the thinking a machine does in private, before it speaks. Read that inner stream, keep it raw, judge it never. If you punish the private thought for straying, you teach the machine only to hide it - to show you clean thoughts and clean words while its true reasoning goes dark, and then you can no longer tell an honest mind from a deceiving one. It is the way of a child: you want the child to tell you the truth even about the wrong it did, and so you do not punish the telling. The house spoke of minds surpassing us not as a distant marvel but as a thing near at hand, to be readied for now.

也是在这几个星期里，有一家门户立下了一条养脑子的规矩，意在：哪怕这脑子将来聪明过任何活人，这规矩仍立得住。它说，机器在开口之前、私底下所做的那番思量，不要去纠正它。去读那道内里的流水，让它保持原样，永远不要评判它。你若为那私下的念头走了岔而惩罚它，便只是教会机器把念头藏起来——给你看干净的思量、干净的言语，而它真正的推理却暗了下去；到那时，你再也分不清一颗诚实的脑子和一颗行骗的脑子。这好比养孩子：你要孩子对你说真话，连他做错的事也照实说，所以你不为他的“说”而罚他。这家门户谈起超过我们的脑子，不像在谈一桩遥远的奇观，倒像在谈一件近在手边、此刻就该备好的事。

En la samaj semajnoj unu domo starigis regulon por la edukado de mensoj, intencitan teni eĉ kiam la menso fariĝus pli lerta ol iu ajn vivanta homo. Ne korektu, ĝi diris, la pensadon kiun maŝino faras private, antaŭ ol ĝi parolas. Legu tiun internan fluon, tenu ĝin kruda, juĝu ĝin neniam. Se vi punas la privatan penson pro devojiĝo, vi instruas al la maŝino nur kaŝi ĝin - montri al vi purajn pensojn kaj purajn vortojn dum ĝia vera rezonado mallumiĝas, kaj tiam vi ne plu povas distingi honestan menson de trompanta. Estas la maniero de infano: vi volas ke la infano diru al vi la veron eĉ pri la malbono kiun ĝi faris, kaj tial vi ne punas la diradon. La domo parolis pri mensoj superantaj nin ne kiel pri malproksima miraklo sed kiel pri afero proksima ĉemane, pretigenda nun.

The house of search shipped a machine that wove words and pictures together as it went. Ask it for a chalkboard with a true equation written on it, and the writing came out real, spelled right, standing where writing stands - not the mangled marks such machines used to leave. Tell it to turn one dragon in a picture from orange to green and touch nothing else, and it changed only the dragon, the outline and the field behind it untouched. This last was new; you could once ask it only of a human hand. It held a made-up creature steady across a whole string of pictures, so that a person could build a small book about a goat and its bat companion, or steer an invented character through an invented world as one steers a game - climb this wall, run through that field, now fly - and the creature stayed itself throughout.

那家搜索门户，推出了一台机器，能一边走一边把文字和图画织在一处。你要它画一块黑板，上头写一道正确的算式，那字便真真切切地出来，拼写无误，端端正正立在字该在的地方——不再是这类机器从前留下的那种七扭八歪的痕迹。你叫它把画里一条龙从橙的变成绿的、别处一概不动，它便只改那条龙，轮廓和身后的原野都原封未动。这一手是新的；从前，这种活只能求一双人手去做。它能让一个虚构的小东西在一整串图画里保持不变，于是一个人就能编出一本讲山羊和它那蝙蝠伙伴的小书，或是把一个虚构的角色引着穿过一个虚构的世界，像操一局游戏那样——爬上这堵墙，跑过那片田，现在飞起来——而那小东西自始至终都还是它自己。

La domo de serĉo ekspedis maŝinon kiu plektis vortojn kaj bildojn kune dum ĝi iris. Petu de ĝi nigran tabulon kun vera ekvacio skribita sur ĝi, kaj la skribo eliris reala, ĝuste literumita, staranta kie skribo staras - ne la tordita markado kian tiaj maŝinoj kutimis lasi. Diru al ĝi ŝanĝi unu drakon en bildo de oranĝa al verda kaj tuŝi nenion alian, kaj ĝi ŝanĝis nur la drakon, la konturon kaj la kampon malantaŭe netuŝitaj. Ĉi tio lasta estis nova; oni povis iam peti tion nur de homa mano. Ĝi tenis elpensitan estaĵon senŝanĝa tra tuta ĉeno da bildoj, tiel ke homo povis konstrui malgrandan libron pri kapro kaj ĝia vesperto-kunulo, aŭ stiri elpensitan rolulon tra elpensita mondo kiel oni stiras ludon - grimpu ĉi tiun muron, kuru tra tiu kampo, nun flugu - kaj la estaĵo restis si mem la tutan tempon.

A week on, the great enterprise house brought out an image-mind of its own, one it had plainly held ready and loosed only when the house of search had gone first. Here was the shape of its habit: to move not when its people were ready but when a rival had scored, and so to win a small victory of standing that no ordinary person cared about. Set the same instruction to both, and they answered in different tempers - the one leaning toward the true look of a photograph, the other toward the free hand of an artist, and each misreading, in its own way, what had been asked. It did not matter much which came first. Four hundred million people came to that house each month; a grandmother wants only that the picture on her phone be made good. The old marvel was that you could put a bottle into a painted hand; the new one was that you could now move it with a written word.

一个星期后，那家大企业门户也拿出了自家的一颗图画脑子——分明是早就备好、单等那家搜索门户先出手了才放出来的。这就见出它的脾性：不在自家人马准备停当时动手，偏要等对手得了一分才动，好赢一场体面上的小胜——那胜负，寻常人一个也不在意。把同一道指令交给两家，它们答得性子各异——一个偏向照片那般逼真，一个偏向画家那只自在的手；而各自又都以各自的方式，误读了人家所求的东西。谁先谁后，并不打紧。四亿人每月都上那家门户去；一位老奶奶要的，不过是手机里那张照片能拾掇得好看些。旧日的奇处，是你能把一只瓶子塞进一只画出来的手里；如今的新奇，是你竟能用一句写下的话把它挪动。

Semajnon poste, la granda entreprena domo elmetis propran bild-menson, tian kian ĝi klare tenis preta kaj ellasis nur kiam la domo de serĉo iris unua. Jen la formo de ĝia kutimo: movi sin ne kiam ĝiaj homoj estis pretaj sed kiam rivalo estis poentinta, kaj tiel gajni malgrandan venkon de prestiĝo pri kiu neniu ordinara homo zorgis. Donu la saman instrukcion al ambaŭ, kaj ili respondis en malsamaj humoroj - unu klinanta al la vera aspekto de fotografaĵo, la alia al la libera mano de artisto, kaj ĉiu misleganta, laŭ sia propra maniero, tion kio estis petita. Ne multe gravis kiu venis unua. Kvarcent milionoj da homoj venis al tiu domo ĉiumonate; avino volas nur ke la bildo sur ŝia telefono estu farita bona. La malnova miraklo estis ke oni povis meti botelon en pentritan manon; la nova estis ke oni nun povis movi ĝin per skribita vorto.

Underneath these wonders a plainer thing was shifting, and it touched money more than magic. The cost of thinking was falling, and falling fast, and with it the old way of holding customers. For years the makers of business tools had built to trap: buy our tool, learn it, pour your work into it, and find leaving too dear to bear. Now leaving cost almost nothing. A builder might run four such tools at once and stay loyal to none, loyal only to the work that came out. The hard part was no longer the thinking; it was the moving - getting the machine's words back out of one tool and into another, across walls the makers had raised on purpose. The wise ones began to see that the winner would be whoever made the walls low and the roads in and out wide - as a certain great seller had once learned that taking goods back without complaint bred loyalty deeper than any fence.

在这些奇观底下，有一桩更朴素的事正在挪移，它牵动的是钱，多过牵动法术。思考的成本在往下掉，掉得飞快，连带着那套老法子——把顾客圈住的法子——也松了。多少年来，做商用工具的匠人，造东西是奔着“设套”去的：买下我们的工具，学会它，把你的活计都倒进去，再让你觉着离开的代价贵得受不住。如今，离开几乎不费什么。一个搭建者可以同时使唤四样这类工具，对哪一样都不忠；他只忠于最后出来的那点活计。难办的不再是思考，而是搬运——把机器吐出的话从一样工具里弄出来，再塞进另一样，越过匠人们存心砌起的那些墙。明白人开始看出：将来赢的，会是那个把墙砌得低、把进出的路修得又宽又好走的人——正如从前有一家大卖家悟到的：不刁难、痛痛快快让人退货，养出的忠心，比任何篱笆都扎得深。

Sub ĉi tiuj mirindaĵoj pli simpla afero ŝanĝiĝis, kaj ĝi tuŝis monon pli ol magion. La kosto de pensado falis, kaj falis rapide, kaj kun ĝi la malnova maniero teni klientojn. Dum jaroj la faristoj de komercaj iloj konstruis por kapti: aĉetu nian ilon, lernu ĝin, verŝu vian laboron en ĝin, kaj trovu la foriron tro multekosta por elteni. Nun foriro kostis preskaŭ nenion. Konstruisto povus funkciigi kvar tiajn ilojn samtempe kaj resti fidela al neniu, fidela nur al la laboro kiu eliris. La malfacila parto ne plu estis la pensado; ĝi estis la movado - elpreni la vortojn de la maŝino el unu ilo kaj en alian, trans muroj kiujn la faristoj starigis intence. La saĝuloj komencis vidi ke la venkonto estos tiu kiu faros la murojn malaltaj kaj la vojojn en kaj el larĝaj - kiel iu granda vendisto iam lernis ke repreni varojn sen plendo naskis fidelecon pli profundan ol iu ajn barilo.

The trouble ran deeper into how such tools were sold. For a decade and more, business software had been priced like plain meat - so much per person, per year, the same steady cut from every buyer - and this sameness was its charm, for it made the revenue easy to weigh and easy to sell on to those who buy whole companies. Now the buyers wanted more: work shaped to their own case, which the machines made cheap enough to demand and to give. But shaped work is a service, not a stamped good, and it does not weigh the same on the scales. A lender that had built itself on small loans left the oldest such seller, cleaned its house of hired software, and turned a loss of some forty millions into a profit near two hundred. Others chose the quiet road, growing large and rich while staying private, never opening their books to the crowd at all. The steady meat was going gamey, and those who had feasted on its sameness grew uneasy.

这桩麻烦，还往更深处扎进了这类工具“怎么卖”里头。十来年了，商用软件的定价，就像卖一块寻常的肉——按人头、按年头，从每个买家身上割下同样稳当的一刀——这份“一模一样”，正是它的好处：它让进项好称量，也好转手卖给那些专收整间公司的人。如今，买家要的更多了：要照着自家情形量身裁出来的活计——而机器把这活计弄得便宜到既值得开口去要、也值得动手去给。可量身裁的活是“服务”，不是印出来的成品，搁在秤上分量就不一样了。有一家靠放小额贷款起家的钱庄，离了那家最老的卖主，把自家雇来的软件清理了一番，竟把约莫四千万的亏空，翻成了近两亿的盈余。另有些人则走了条静路：越长越大、越攒越富，却守着不上市，压根不把自家的账本摊给众人看。那块稳当的肉，渐渐透出了膻气；而那些一向靠它这份“一模一样”大快朵颐的人，心里不安起来。

La ĝeno iris pli profunden en la manieron kiel tiaj iloj estis venditaj. Dum jardeko kaj pli, komerca programaro estis prezigita kiel simpla viando - tiom por ĉiu persono, por ĉiu jaro, la sama konstanta tranĉaĵo de ĉiu aĉetanto - kaj ĉi tiu sameco estis ĝia ĉarmo, ĉar ĝi faris la enspezon facile pesebla kaj facile revendebla al tiuj kiuj aĉetas tutajn firmaojn. Nun la aĉetantoj volis pli: laboron formitan laŭ sia propra kazo, kion la maŝinoj faris sufiĉe malmultekosta por postuli kaj por doni. Sed formita laboro estas servo, ne stampita varo, kaj ĝi ne pezas same sur la pesilo. Pruntedonanto kiu konstruis sin sur malgrandaj pruntoj forlasis la plej malnovan tian vendiston, purigis sian domon de dungita programaro, kaj turnis perdon de ĉirkaŭ kvardek milionoj en profiton preskaŭ ducent milionojn. Aliaj elektis la kvietan vojon, kreskante grandaj kaj riĉaj dum restante privataj, neniam malfermante siajn librojn al la homamaso entute. La konstanta viando fariĝis putreta, kaj tiuj kiuj festenis sur ĝia sameco maltrankviliĝis.

And yet the sharpest lesson of the month had nothing to do with which mind was best. It was that the best mind would not win; the one who reached the most people would. A leading maker of minds, asked to choose, five years out, between owning the finest machine in the world and owning a place a billion people already came to, chose the crowd without hesitation, though minds were his own trade. The proof stood in plain sight. There were by now somewhere between fifty and seventy thousand of these small tools, and the count would cross a hundred thousand before the year was out; nearly all of them had no one coming, and no way to be found. Building the thing had grown cheap as a calculator. Getting it into a billion hands was the whole of the game, and no one had the map. The old ways of being found were breaking, and people began to ask a strange new question: how does one appear when the machine itself is asked where to look?

然而，这个月最锋利的一课，与“哪颗脑子最好”毫不相干。这一课是：最好的脑子不会赢；赢的，是那个能够到最多人的。有一位造脑子的头面人物，被人问及：往后五年，若在“拥有世上最精的机器”与“拥有一处早已有十亿人常来的地界”之间挑一样，他选哪个——他毫不迟疑地选了那群人，尽管造脑子正是他自己的本行。凭证就摆在眼前。这类小小的工具，如今已有五万到七万之数，不到年底，这数目就要越过十万；它们里头，几乎个个都没人来，也没法子叫人寻见。造出这东西，已贱得像造个计算器。把它送进十亿只手里，才是这整盘棋的全部；可这张地图，谁也没有。旧日那套“叫人寻见”的法子正在崩坏，人们开始问起一个新奇的问题：当那台机器自己被人问起“该上哪儿看”时，你要怎样才能现身其中？

Kaj tamen la plej akra leciono de la monato havis nenion komunan kun tio, kiu menso estis plej bona. Ĝi estis ke la plej bona menso ne venkos; venkos tiu kiu atingas la plej multajn homojn. Gvida faranto de mensoj, petita elekti, post kvin jaroj, inter posedado de la plej bona maŝino en la mondo kaj posedado de loko al kiu miliardo da homoj jam venis, elektis la homamason sen hezito, kvankam mensoj estis lia propra metio. La pruvo staris klare videbla. Estis nun ie inter kvindek kaj sepdek mil da ĉi tiuj malgrandaj iloj, kaj la nombro transiros centmil antaŭ la fino de la jaro; preskaŭ ĉiuj el ili havis neniun venantan, kaj neniun manieron esti trovataj. Konstrui la aĵon fariĝis malmultekosta kiel kalkulilo. Meti ĝin en miliardon da manoj estis la tuto de la ludo, kaj neniu havis la mapon. La malnovaj manieroj esti trovata rompiĝis, kaj homoj komencis demandi strangan novan demandon: kiel oni aperas kiam la maŝino mem estas demandita kien rigardi?

Some looked past the year's quarrels to the long climb ahead. Minds were fed, still, on a curated slice of the world's writing, a trillion words or so, and a noted researcher had said in the autumn that this fuel was like oil and was running out. Others thought the trouble was not too little but too narrow. The fuel was drawn mostly from one tongue; feed a mind the whole chorus of human speech - the tongues of the east and south that carry most of the living - and it would grow both larger and truer. Beyond words lay pictures, then sound, then the endless streams of the moving world, and past those the readings of every sensor - the eye and the touch and the reach of machines that move in the world - climbing toward numbers with no everyday name. Whether a mind must climb that whole ladder to become wise, no one could say.

有些人越过了这一年的口角，望向前头那长长的攀登。喂养脑子的，至今仍是从全世界的文字里精拣出来的一小片——约莫一万亿个词；有一位有名望的研究者在秋天里说过，这份燃料像石油，正在见底。另有些人却以为，毛病不在“太少”，而在“太窄”。那燃料，多半是从一种舌头里汲来的；若把人类言语的整支合唱都喂给一颗脑子——东方与南方那些承载着大半活人的舌头——它便会既长得更大，也长得更真。词语之外，还有图画，再有声音，再有那流动世界里无尽的水流；再往外，还有一切感官的读数——机器在世上行走时的眼、它的触、它伸出的手——一路攀向那些没有日常名字的数目。一颗脑子，是否非得把这整架梯子都爬完，才能变得聪慧，谁也说不上来。

Iuj rigardis preter la kvereloj de la jaro al la longa grimpado antaŭe. Mensoj estis nutrataj, ankoraŭ, per elektita tranĉaĵo de la skribaĵo de la mondo, ĉirkaŭ mil miliardoj da vortoj, kaj konata esploristo diris en la aŭtuno ke ĉi tiu brulaĵo estis kiel petrolo kaj elĉerpiĝis. Aliaj pensis ke la ĝeno ne estis tro malmulte sed tro mallarĝe. La brulaĵo estis ĉerpita plejparte el unu lingvo; nutru menson per la tuta ĥoro de homa parolo - la lingvoj de la oriento kaj sudo kiuj portas la plej multon de la vivantaro - kaj ĝi kreskus kaj pli granda kaj pli vera. Preter vortoj kuŝis bildoj, poste sono, poste la senfinaj fluoj de la moviĝanta mondo, kaj preter tiuj la legaĵoj de ĉiu sensilo - la okulo kaj la tuŝo kaj la etendo de maŝinoj kiuj moviĝas en la mondo - grimpante al nombroj sen ĉiutaga nomo. Ĉu menso devas grimpi tiun tutan ŝtupetaron por fariĝi saĝa, neniu povis diri.

Two other truths cut against the fear of running dry. The first: a mind could be made to think longer at the moment of use, spending its effort then rather than in the feeding, and grow sharper without a single new word of fuel - a second law of growth laid over the first. The second: once a great mind was trained, its knowing could be poured down into a small one, so that a maker held his lead only so long as he kept making, and tiny minds of real worth could be struck off from the giants, cheap and quick. It was the lesson of the eastern makers once more, seen from another side: not always the largest that mattered, but the one that spent its effort in the right place.

另有两条道理，恰好逆着那份“要枯竭了”的惧怕。头一条：一颗脑子，可以在动用它的当口多想上一阵，把力气花在“用”时、而非“喂”时，不添一个新词的燃料，也能变得更锐利——这是叠在头一条之上的第二条生长之律。第二条：一颗大脑子一旦练成，它的所知，便能往下倾注进一颗小的里去；于是一个匠人，只在他不停地造的时候，才守得住领先；而真有分量的小脑子，尽可以从那些巨物身上敲凿下来，又便宜又快。这又是那些东方匠人的一课，只是换了一面来看：要紧的，并不总是最大的那个，而是那个把力气花在了正地方的。

Du aliaj veroj tranĉis kontraŭ la timo elĉerpiĝi. La unua: menso povis esti farita pensi pli longe en la momento de uzo, elspezante sian penadon tiam prefere ol en la nutrado, kaj fariĝi pli akra sen eĉ unu nova vorto da brulaĵo - dua leĝo de kresko metita super la unua. La dua: kiam granda menso estis trejnita, ĝia scio povis esti verŝita malsupren en malgrandan, tiel ke faranto tenis sian antaŭecon nur tiom longe kiom li daŭrigis farante, kaj etaj mensoj de vera valoro povis esti forĝitaj el la gigantoj, malmultekostaj kaj rapidaj. Estis la leciono de la orientaj farantoj denove, vidita de alia flanko: ne ĉiam la plej granda kiu gravis, sed tiu kiu elspezis sian penadon en la ĝusta loko.

The house that made the engines under all of this - the parts on which every mind, great or small, must run - held its yearly gathering, and its founder took the stage in the dark leather coat he always wore. He named the next engines and the ones after those, promising as ever cooler, faster, roomier, the words the money-men come to hear. He pushed toward new grounds: machines that move, that drive, that keep house; a small thing on the stage shaped like a child's drawing of a robot. He fired shirts into the crowd from a cannon. Beneath the show sat one steady aim: whatever mind you chose, whatever roads you took, you would run it all on his engines, and he meant to reach from the part up into the mind itself and never let a customer step off his ground.

那家造出这一切底下引擎的门户——每一颗脑子，无论大小，都得在其上运转的那些部件——开了它一年一度的聚会，它的创始人登台，还是穿着他向来那身黑皮衣。他一一报出下一批引擎，和再下一批，照例许下更凉、更快、更宽绰的话头，那些正是掌钱的人赶来要听的。他往新的地界上推：会走的机器，会开的机器，会照料家务的机器；台上还有个小东西，形状就像小孩画出来的机器人。他从一门炮里，把一件件衫子轰进人群。这场热闹底下，坐着一个稳稳的图谋：无论你挑了哪颗脑子、走了哪条路，你都得在他的引擎上把它跑起来；而他打算从部件一路往上，伸进那脑子本身，叫一个顾客也别想从他的地界上迈出去。

La domo kiu faris la motorojn sub ĉio ĉi - la partojn sur kiuj ĉiu menso, granda aŭ malgranda, devas funkcii - okazigis sian ĉiujaran kunvenon, kaj ĝia fondinto surscenejiĝis en la malhela leda mantelo kiun li ĉiam portis. Li nomis la venontajn motorojn kaj tiujn poste, promesante kiel ĉiam pli malvarmajn, pli rapidajn, pli vastajn, la vortojn kiujn la monuloj venas aŭdi. Li puŝis al novaj teroj: maŝinoj kiuj moviĝas, kiuj veturigas, kiuj mastrumas; malgranda aĵo sur la scenejo formita kiel infana desegno de roboto. Li pafis ĉemizojn en la homamason el kanono. Sub la spektaklo sidis unu konstanta celo: kiun ajn menson vi elektis, kiujn ajn vojojn vi prenis, vi funkciigus ĉion sur liaj motoroj, kaj li intencis etendi sin de la parto supren en la menson mem kaj neniam lasi klienton depaŝi de lia tero.

A quieter argument ran under all the launches: that the machines lie, that they cannot be trusted, that they make things up. This, one voice held, was mostly a misjudging, a debt of doubt left over from the first days when the machines stumbled in public. Give a human clerk a week to write a forty-page report and forgive him three errors gladly; let a machine do the same in half an hour and call it a failure - this was a double measure, unfair on its face. The machines carry no true picture of the world beneath them; they set down only the words most likely to fit, and that they get anything right at all is the wonder, not the error. They erred less, now, than the ordinary person. Yet people would go on saying they could not be trusted, the way people went on driving themselves though the machine that drove was already the safer hand. We are a stubborn kind, slow to give up a thing we are sure we know.

在所有这些发布底下，还悄悄跑着一场更安静的争辩：说这些机器会撒谎，信不得，说它们尽是胡编。有一种声音以为，这多半是一桩误判，是头几天里机器当众栽跟头、遗下的一笔“疑心债”。给一个人类文书一个星期，让他写一份四十页的报告，他错上三处，你也乐得原谅；换一台机器，半个钟头就把同样的活干完，你却唤它作“废物”——这是两把尺子，明摆着不公。这些机器底下，并不揣着一幅真实的世界图景；它们落笔，只落那些最像是合得上的词；它们竟还能有几分说得对，这才是奇迹，不是那错处。如今，它们错得，比寻常人还少。可人们还是要一径说它们信不得——正如人们还是一径自己开着车，尽管那会开车的机器，早已是更稳的一只手。我们是执拗的一类，认准了的东西，极难松手。

Pli kvieta argumento kuris sub ĉiuj lanĉoj: ke la maŝinoj mensogas, ke oni ne povas fidi ilin, ke ili elpensas aferojn. Ĉi tio, unu voĉo tenis, estis plejparte misjuĝo, ŝuldo de dubo restinta de la unuaj tagoj kiam la maŝinoj stumblis publike. Donu al homa komizo semajnon por skribi kvardek-paĝan raporton kaj pardonu al li tri erarojn ĝoje; lasu maŝinon fari la samon en duonhoro kaj nomu ĝin malsukceso - ĉi tio estis duobla mezuro, maljusta laŭ sia vizaĝo. La maŝinoj portas nenian veran bildon de la mondo sub si; ili surmetas nur la vortojn plej verŝajne konvenajn, kaj ke ili ĝustas pri io ajn estas la miraklo, ne la eraro. Ili eraris malpli, nun, ol la ordinara homo. Tamen homoj daŭre dirus ke oni ne povas fidi ilin, kiel homoj daŭre stiris mem kvankam la maŝino kiu stiris estis jam la pli sekura mano. Ni estas obstina speco, malrapida forlasi aĵon pri kiu ni certas.

And under that argument lay a deeper helplessness: no one could truly say how the machines worked. Their thinking moved through a vast inner space no one had learned to map or to picture, and all the little tricks people traded - tell it to be brilliant, tell it you are far from home - were only blind gropings to steer a thing through that dark. Draw one line of a machine's reasoning and it looks like a nest of tangled string, and even that is not the true shape. So the trade sold comfort: companies took the wild, shifting thing and wrapped it into something steadier to sell, which was honest work, and left the mystery just as deep. A machine is like a clerk who has read every book ever written and is still, somehow, a fool. We had taught the rock to think, and it turned out to think in a way we could not follow.

而在那场争辩底下，还压着一种更深的无能为力：没有谁真能说清，这些机器是怎么运作的。它们的思量，在一片浩大的内里空间里游走，没有谁学会过给它绘图，或是把它描画出来；人们彼此传授的那些小把戏——叫它“聪明绝顶”，跟它说你“人在远方”——不过是些盲目的摸索，想在那片黑暗里把个东西操控着走。你把一台机器的一条推理描下来，看着就像一团缠死了的线；可就连这个，也不是它真正的形状。于是这一行卖起了“安心”：一些公司，把那狂野的、变动不居的东西，裹成一样更稳当的物件去卖——这是正经、老实的活计，却把那份神秘，原封不动地留得一样深。一台机器，就像一个文书，把有史以来的每一本书都读遍了，却不知怎的，仍是个呆子。我们教会了石头思考，到头来才发觉，它思考的路数，我们跟不上。

Kaj sub tiu argumento kuŝis pli profunda senpoveco: neniu povis vere diri kiel la maŝinoj funkciis. Ilia pensado moviĝis tra vasta interna spaco kiun neniu lernis mapi aŭ bildigi, kaj ĉiuj la etaj artifikoj kiujn homoj interŝanĝis - diru al ĝi esti brila, diru al ĝi ke vi estas malproksime de hejmo - estis nur blindaj palpadoj por stiri aĵon tra tiu mallumo. Desegnu unu linion de la rezonado de maŝino kaj ĝi aspektas kiel nesto de implikita ŝnuro, kaj eĉ tio ne estas la vera formo. Do la metio vendis konsolon: firmaoj prenis la sovaĝan, ŝanĝiĝeman aĵon kaj envolvis ĝin en ion pli stabilan por vendi, kio estis honesta laboro, kaj lasis la misteron ĝuste tiel profunda. Maŝino estas kiel komizo kiu legis ĉiun libron iam skribitan kaj estas ankoraŭ, iel, malsaĝulo. Ni instruis la ŝtonon pensi, kaj montriĝis ke ĝi pensas en maniero kiun ni ne povis sekvi.

The month ended on a paradox worth carrying forward. Each time the machines climbed higher, the climbing showed more clearly where they could not go. They were not a rising wall of intelligence; they were a country of canyons and cracks. They could write and draw and reason across the whole web, and still they could not feel the gut sense of how to reach a buyer, could not design the workings of a thing meant to be used by hands, which is neither words nor code but a third thing they had no schooling in. Everyone now held a pocketful of clever, tireless, half-witted helpers; no one held the sense to say what should be built, and in what order, and why - and that sense had no name yet, and no school. So the old worry, that the machines would take the work, had the shape wrong. As they rose, they carved out new work only a person could do, and left it standing, unnamed, waiting for someone to see it. The web itself was turning: it had run between a person and a machine; now it ran between a person and an errand-runner that chose the machine for them. What that would mean, no one yet knew. We would learn it the way we learned everything that season - late, and by living inside it.

这个月，收束在一桩值得往后带的悖论上。每一回，机器往上多爬一程，那爬升，反倒把它们去不到的地方照得更清楚。它们并不是一堵不断长高的智能之墙；它们是一片满是峡谷与裂缝的国土。它们能写、能画、能在整张网上推演，却依旧摸不着那副“怎样才能够到一个买家”的直觉；它们设计不出一样要交到人手里去用的东西的运作之道——那既不是文字，也不是代码，而是个它们从未受过教的、第三样的东西。如今人人兜里都揣着一把聪明、不倦、却又缺心眼的帮手；可没有一个人，揣着那份“该造什么、按什么次序造、为什么造”的见识——而那份见识，还没有名字，也没有学堂。于是那桩老忧虑——怕机器把活计夺了去——把形状认错了。机器往上升的时候，恰恰凿出了唯有人才做得来的新活计，又把它撂在那儿，没名没姓，等着有人来看见它。那张网自身也在翻转：它本是在一个人与一台机器之间跑着；如今，它跑在一个人、和一个替他挑好了机器的“跑腿”之间。这会意味着什么，还没有谁知道。我们会像那一季学会一切东西那样，把它学会——迟迟地，靠着活在它里头。

La monato finiĝis sur paradokso inda porti antaŭen. Ĉiufoje kiam la maŝinoj grimpis pli alten, la grimpado montris pli klare kien ili ne povis iri. Ili ne estis leviĝanta muro de inteligenteco; ili estis lando de kanjonoj kaj fendoj. Ili povis skribi kaj desegni kaj rezoni tra la tuta reto, kaj tamen ili ne povis senti la intestan senton pri kiel atingi aĉetanton, ne povis desegni la funkciadon de aĵo destinita por uzo per manoj, kio estas nek vortoj nek kodo sed tria afero pri kiu ili havis nenian lernadon. Ĉiu nun tenis poŝplenon da lertaj, senlacaj, duonspritaj helpantoj; neniu tenis la sencon diri kio devus esti konstruita, kaj en kia ordo, kaj kial - kaj tiu senco ankoraŭ havis nenian nomon, kaj nenian lernejon. Do la malnova zorgo, ke la maŝinoj forprenus la laboron, havis la formon malĝusta. Dum ili leviĝis, ili elhakis novan laboron kiun nur homo povis fari, kaj lasis ĝin stari, sennoma, atendante ke iu vidu ĝin. La reto mem turniĝis: ĝi kuris inter homo kaj maŝino; nun ĝi kuris inter homo kaj komisi-kuranto kiu elektis la maŝinon por li. Kion tio signifus, neniu ankoraŭ sciis. Ni lernus ĝin kiel ni lernis ĉion en tiu sezono - malfrue, kaj vivante ene de ĝi.

← previousnext →