Ajzek Azimov. Dvuhsotletnij chelovek 1 - Blagodaryu vas, - skazal |ndryu Martin i sel na predlozhennyj stul. On ne vyglyadel kak chelovek, dovedennyj do poslednej cherty, no delo obstoyalo imenno tak. Na ego lice ne chitalos' nikakih osobennyh emocij, lish' spokojnoe bezrazlichie, razve chto v glazah ugadyvalas' pechal'. U nego byli gladkie chernye volosy, dovol'no gustye, na kozhe lica volos ne bylo sovsem. On vyglyadel nedavno i tshchatel'no vybritym. Odezhda byla yavno staromodnoj, no akkuratnoj, v nej preobladal barhatistyj krasnovato-purpurnyj ottenok. Hirurg sidel za stolom licom k nemu, i imennaya tablichka na stole soderzhala polnost'yu identificiruyushchuyu ego seriyu bukv i cifr, na kotoruyu |ndryu ne obratil vnimaniya. Vpolne dostatochno nazyvat' ego "doktor". - Kogda mozhet byt' vypolnena operaciya, doktor? - sprosil on. Hirurg otvetil myagko, s toj yavno otchuzhdayushchej notkoj uvazheniya, kotoruyu vsegda primenyali roboty, obrashchayas' k lyudyam: - YA ne sovsem uveren, ser, chto ponyal, kak i na kom dolzhna byt' vypolnena podobnaya operaciya. Tut na lice hirurga moglo by poyavit'sya vyrazhenie pochtitel'noj nepreklonnosti, esli by roboty ego tipa, sdelannye iz nerzhaveyushchej stali s ottenkom bronzy, mogli menyat' vyrazhenie lica. |ndryu Martin razglyadyval pravuyu, rezhushchuyu ruku robota, kotoraya sovershenno nepodvizhno lezhala na stole. Pal'cy byli dlinnye i stol' artisticheski izognutye, chto legko bylo predstavit', kak oni derzhat skal'pel', kotoryj na vremya stanovilsya s nimi edinym celym. V ego rabote ne budet neuverennosti, kolebanij, drozhi pal'cev, ne budet oshibok. |to, razumeetsya, prihodit so specializaciej, kotoruyu chelovechestvo zhelalo stol' uporno, chto lish' nemnogie roboty teper' snabzhalis' nezavisimym mozgom. Hirurg, razumeetsya, dolzhen imet' takoj mozg. I vse zhe etot robot, nesmotrya na mozg, nastol'ko ogranichen v svoih sposobnostyah, chto ne uznal |ndryu - veroyatno, on i ne slyshal o nem. - Tebe nikogda ne hotelos' stat' chelovekom? - sprosil |ndryu. Hirurg na mgnovenie pomedlil s otvetom, slovno vopros zateryalsya v ego pozitronnyh shemah. - No ya robot, ser. - Ne luchshe li bylo by byt' chelovekom? - Luchshe, ser, bylo by stat' bolee opytnym hirurgom. YA ne mogu stat' takim, buduchi chelovekom, zato mogu stat' bolee usovershenstvovannym robotom. Mne bylo by priyatno stat' bolee usovershenstvovannym robotom. - A tebya ne oskorblyaet, chto ya mogu tebe prikazyvat'? CHto ya mogu zastavit' tebya vstat', sest', pojti napravo ili nalevo prosto velev tebe tak sdelat'? - Mne nravitsya vypolnyat' vashi pozhelaniya, ser. Esli vashi prikazy pomeshayut moemu funkcionirovaniyu po otnosheniyu k vam ili lyubomu drugomu cheloveku, ya ne stanu ih vypolnyat'. Pervyj zakon, kasayushchijsya moih obyazannostej po otnosheniyu k chelovecheskoj bezopasnosti, stanet preobladat' nad vtorym zakonom, svyazannym s podchineniem. V lyubom drugom sluchae podchinenie dostavlyaet mne udovol'stvie... No na kom ya dolzhen provesti operaciyu? - Na mne, - skazal |ndryu. - No eto nevozmozhno. Operaciya yavno naneset vam vred. - |to ne imeet znacheniya, - spokojno proiznes |ndryu. - YA ne dolzhen nikomu nanosit' vreda, - skazal hirurg. - Ne dolzhen po otnosheniyu k cheloveku, - skazal |ndryu. - No ya tozhe robot. 2 |ndryu vyglyadel gorazdo bol'she pohozhim na robota, kogda byl vpervye... sdelan. Vneshne on byl takim zhe robotom, kak i lyuboj drugoj, izyashchno skonstruirovan i funkcionalen. On horosho spravlyalsya so svoimi obyazannostyami v dome, v kotoryj byl privezen v te dni, kogda roboty v domashnem hozyajstve, da i voobshche na planete, byli redkost'yu. V dome zhili chetvero: Ser, Mem, Miss i Malen'kaya Miss. Konechno, on znal ih imena, no nikogda ih ne upotreblyal. Sera zvali Dzheral'd Martin. Ego serijnyj nomer byl NDR..., a cifry on zabyl. Konechno, proshlo mnogo vremeni, no esli by on hotel pomnit' svoj nomer, to ne smog by ego zabyt'. On ne hotel pomnit'. Malen'kaya Miss pervoj nazvala ego |ndryu, potomu chto ne mogla vygovarivat' vse bukvy. A zatem tak stali postupat' i ostal'nye. Malen'kaya Miss... Ona prozhila devyanosto let i davno uzhe mertva. Odnazhdy on popytalsya nazvat' ee Mem, no ona ne pozvolila. Ona tak i ostalas' Malen'koj Miss do svoego poslednego dnya. |ndryu dolzhen byl vypolnyat' obyazannosti dvoreckogo, kamerdinera i gornichnoj. |to byli ispytatel'nye dni dlya nego, i, v obshchem-to, dlya vseh robotov, ne zanyatyh na zavodah i issledovatel'skih stanciyah Zemli. Martinam on ochen' nravilsya, i polovinu vremeni on ne byl v sostoyanii zanimat'sya rabotoj, potomu chto Miss i Malen'kaya Miss hoteli s nim igrat'. Miss pervaya ponyala, kak eto mozhno ustroit'. Ona skazala emu: - My prikazyvaem tebe igrat' s nami, i ty dolzhen vypolnyat' prikaz. - Mne ochen' zhal', Miss, no ya uzhe poluchil ot Sera bolee rannij prikaz, kotoryj, nesomnenno, dolzhen imet' preimushchestvo. - Papa vsego lish' skazal, chto nadeetsya, chto ty zajmesh'sya uborkoj, - vozrazila ona. - |to vovse ne prikaz. A ya tebe _p_r_i_k_a_z_y_v_a_yu. Ser ne vozrazhal. Ser lyubil Miss i Malen'kuyu Miss dazhe bol'she, chem sama Mem, i |ndryu ih tozhe lyubil. Po krajnej mere effekt, kotoryj oni okazyvali na ego dejstviya, byl takim zhe, kakoj v sluchae cheloveka byl by nazvan rezul'tatom lyubvi. |ndryu dumal ob etom, kak o lyubvi, potomu chto ne znal, kak eto nazvat' po-drugomu. Imenno dlya Malen'koj Miss |ndryu vyrezal derevyannyj kulon. Ona prikazala emu ego sdelat'. Miss podarili na den' rozhdeniya kulon iz slonovoj kosti, ukrashennyj rez'boj, a Malen'kuyu Miss eto po-zhenski rasstroilo. U nee byl tol'ko kusochek dereva, kotoryj ona dala |ndryu vmeste s malen'kim kuhonnym nozhichkom. On sdelal ego bystro, i Malen'kaya Miss skazala: - On takoj krasivyj, |ndryu. YA pokazhu ego pape. Ser ne poveril ni edinomu ee slovu. "Skazhi chestno, gde ty ego vzyala, Mendi?" On tak nazyval Malen'kuyu Miss - Mendi. Kogda Malen'kaya Miss zaverila ego, chto govorit pravdu, on povernulsya k |ndryu: - |to sdelal ty, |ndryu? - Da, ser. - I formu tozhe sam pridumal? - Da, ser. - S kakogo obrazca ty ego skopiroval? - |to to geometricheskoe voploshchenie, ser, kotoroe podhodit k strukture drevesiny. Na sleduyushchij den' Ser prines emu drugoj kusok dereva, pobol'she, i elektricheskij vibronozh. - Sdelaj iz nego chto-nibud', |ndryu, - skazal on. - To, chto tebe zahochetsya. |ndryu nachal delat', a Ser smotret', i potom dolgo razglyadyval to, chto poluchilos'. S teh por |ndryu bol'she ne prisluzhival za stolom. Vmesto etogo emu bylo prikazano chitat' knigi po mebel'nomu dizajnu, i on nauchilsya delat' stoliki i shkafchiki. - Ty delaesh' velikolepnye veshchi, |ndryu, - skazal Ser. - YA naslazhdayus', kogda delayu ih, ser, - otvetil |ndryu. - Naslazhdaesh'sya? - |to zastavlyaet toki v moem mozge kakim-to obrazom prohodit' po putyam s men'shim soprotivleniem. YA slyshal, kak vy upotreblyaete slovo "naslazhdat'sya", i obstoyatel'stva ego ispol'zovaniya sovpadayut s tem, chto ya ispytyvayu. YA naslazhdayus', kogda delayu ih, ser. 3 Dzheral'd Martin otvez |ndryu v regional'nyj ofis "YU.S.Robots end Mekenikl Men Korporejshn". Kak chlen regional'noj legislatury, on bezo vsyakih problem popal na priem k glavnomu robopsihologu. Bolee togo, on stal vladel'cem robota imenno potomu, chto byl chlenom regional'noj legislatury - v te davnie vremena, kogda roboty byli redki. Togda |ndryu eshche nichego ne ponimal, no pozdnee, priobretya bolee glubokie poznaniya, smog zanovo vspomnit' tu davnyuyu scenu i ponyat' ee istinnoe znachenie. Robopsiholog, Merton Manski, slushal s zastyvshej na lice ulybkoj i neodnokratno pytalsya uderzhat' svoi pal'cy ot postukivaniya po kryshke stola. Nevyrazitel'nye cherty lica i pokrytyj morshchinami lob pridavali emu takoj vid, slovno on mog byt' molozhe, chem vyglyadel. - Robotehnika ne yavlyaetsya tochnym iskusstvom, mister Martin, - skazal on. - YA ne mogu ob®yasnit' vse v detalyah, no matematika, pri pomoshchi kotoroj sozdayutsya pozitronnye shemy, slishkom slozhna, chtoby vydavat' chto-libo tochnee, chem priblizitel'nye resheniya. |to estestvenno, potomu chto my vse sozdaem na osnove treh zakonov, kotorye neosporimy. My, konechno, zamenim vashego robota... - Ni v koem sluchae, - skazal Ser. - V ego ispravnosti ne imeetsya nikakih somnenij. On prekrasno spravlyaetsya s obyazannostyami, dlya kotoryh prednaznachen. Delo v tom, chto krome vsego etogo on eshche i vyrezaet iz dereva izyskannye veshchicy, i nikogda ne povtoryaetsya. On sozdaet proizvedeniya iskusstva. Manski smutilsya. - Stranno. Konechno, sejchas my sozdaem uzhe bolee usrednennye shemy... Tak vy schitaete, chto on dejstvitel'no tvorit? - Posmotrite sami. - Ser protyanul emu nebol'shoj derevyannyj shar, na kotorom byli vyrezany igrayushchie mal'chiki i devochki, takie malen'kie, chto ih s trudom mozhno bylo razlichit', no tem ne menee figurki byli proporcional'ny i tak estestvenno podhodili k strukture drevesiny, chto ona tozhe kazalas' vyrezannoj. - |to sdelal o n? - sprosil Manski. - On protyanul shar obratno i pokachal golovoj. - Emu vypal schastlivyj zhrebij. CHto-to proyavilos' v ego sheme. - Vy mozhete eto povtorit'? - Veroyatno, net. Ni o chem pohozhem nam ne soobshchali. - Prekrasno! YA sovershenno ne protiv, esli |ndryu tak i ostanetsya nepovtorimym. - Mne kazhetsya, - skazal Manski, - chto kompanii zahochetsya vernut' vashego robota dlya issledovaniya. - Ni za chto, - skazal Ser s vnezapnoj nepreklonnost'yu. - Zabud'te ob etom. - On povernulsya k |ndryu. - A teper' pojdem domoj. - Kak pozhelaete, ser, - otvetil |ndryu. 4 Miss nachala naznachat' svidaniya mal'chikam i malo byvala doma. Teper' uzhe Malen'kaya Miss, uzhe ne takaya malen'kaya, kak ran'she, zapolnyala zaboty |ndryu. Ona ne zabyvala, chto pervuyu svoyu veshchicu |ndryu vyrezal dlya nee, i nosila ee na shee na serebryanoj cepochke. Ej pervoj ne ponravilos', chto Ser prosto razdaet podelki |ndryu. - Poslushaj, papa, - skazala ona, - esli oni komu-to nuzhny, to pust' za nih platyat. Oni togo stoyat. - Ty vrode by nikogda ne byla zhadnoj, Mendi, - skazal Ser. - YA dumayu ne o nas, papa. O hudozhnike. |ndryu ran'she ne slyshal etogo slova, i kogda u nego vydalas' svobodnaya minutka, on zaglyanul v slovar'. Potom byla eshche odna poezdka k yuristu Sera. - CHto ty ob etom skazhesh', Dzhon? - sprosil u nego Ser. YUrista zvali Dzhon Fejngold. U nego byli sedye volosy i okruglyj zhivot, a obodki kontaktnyh linz podkrasheny v yarkij zelenyj cvet. On posmotrel na malen'kuyu brosh', kotoruyu emu dal Ser. - Velikolepnaya veshchica... no ya uzhe v kurse. |to vyrezaet tvoj robot. Tot, s kotorym ty priehal. - Da, ih vyrezaet |ndryu. Verno, |ndryu? - Da, ser, - otozvalsya |ndryu. - Skol'ko ty by za nee zaplatil, Dzhon? - sprosil Ser. - Trudno skazat'. YA ne kollekcioner. - Mozhesh' li ty poverit', chto mne predlagali dvesti pyat'desyat dollarov za etu malen'kuyu shtuchku? |ndryu sdelal stul'ya, kotorye ya prodal po pyat'sot dollarov kazhdyj. Ego izdeliya uvelichili moj schet v banke na dvesti tysyach. - CHert poberi, on zhe delaet tebya bogachom, Dzheral'd! - Napolovinu bogachom, - vozrazil Ser. - Polovina etih deneg lezhit na schetu na imya |ndryu Martina. - Robota? - Vot imenno. I mne hotelos' by znat', zakonno li eto. - Zakonno li? - Fejngold otkinulsya na spinku zaskripevshego stula. - Takih precedentov ne bylo, Dzheral'd. A kakim obrazom tvoj robot podpisyval nuzhnye bumagi? - On mozhet napisat' svoe imya, i ya prines v bank podpisannye im bumagi. Sam on tam ne byl. Nado li sdelat' chto-libo eshche? - Gm. - Fejngold nenadolgo zadumalsya, potom skazal. - Horosho, my mozhem oformit' doverennost' na upravlenie vsej summoj ot ego imeni, i eto sozdast izoliruyushchij sloj mezhdu nim i vrazhdebnym mirom. Krome togo, ya ne sovetuyu tebe nichego predprinimat'. Poka chto tebya nikto ne ostanavlival. Esli kto-to stanet vozrazhat', to pust' _o_n_i_ podayut v sud. - A ty voz'mesh' takoe delo, esli budet podan isk? - Konechno. No za voznagrazhdenie. - Za skol'ko? - Za chto-nibud' vrode etogo, - i Fejngold pokazal na derevyannuyu brosh'. - Dostatochno chestno, - skazal Ser. Fejngold povernulsya k robotu i usmehnulsya. - |ndryu, tebe nravitsya, chto u tebya est' den'gi? - Da, ser. - I chto ty sobiraesh'sya s nimi delat'? - Platit' za te veshchi, ser, za kotorye inache dolzhen byl zaplatit' Ser. |to umen'shit ego rashody, ser. 5 Takie sluchai voznikali. Zamena detalej stoila dorogo, a tehnicheskie osmotry eshche dorozhe. S godami sozdavalis' novye modeli robotov, i Ser sledil za tem, chtoby |ndryu pol'zovalsya preimushchestvami kazhdogo novogo prisposobleniya, poka tot ne stal obrazcom metallicheskogo sovershenstva. Za vse platil |ndryu. On nastoyal na etom. Lish' ego pozitronnyj mozg ostalsya neprikosnovennym. Na etom nastoyal Ser. - Novye roboty ne tak horoshi kak ty, |ndryu, - skazal on. - Oni bespolezny. Kompaniya nauchilas' bolee tochno sozdavat' ih mozg, ogranichivshis' uzkimi zadachami i celyami. Novye roboty negibkie. Oni vypolnyayut to, dlya chego sozdany, i ni na shag v storonu. Ty mne bol'she nravish'sya. - Spasibo, ser. - I eto tvoya zasluga, |ndryu, ne zabyvaj ob etom. YA uveren, chto Manski polozhil konec sozdaniyu nespecializirovannyh shem, kak tol'ko horoshen'ko k tebe priglyadelsya. Emu ne nravitsya nepredskazuemost'... Znaesh', skol'ko raz on prosil razreshit' zabrat' tebya na issledovanie? Devyat' raz! Odnako ya emu etogo ne pozvolil, i teper', kogda on na pensii, my mozhem zhit' spokojno. I vot volosy Sera stanovilis' vse rezhe i svetlee, kozha na lice dryabloj, a |ndryu vyglyadel gorazdo luchshe chem togda, kogda vpervye poyavilsya v sem'e. Mem uehala v koloniyu hudozhnikov gde-to v Evrope, a Miss stala poetessoj v N'yu-Jorke. Inogda ona pisala pis'ma, no redko. Malen'kaya Miss vyshla zamuzh i zhila nepodaleku. Ona skazala, chto ne hochet pokidat' |ndryu, i kogda rodilsya ee rebenok, Malen'kij Ser, ona razreshila |ndryu derzhat' butylochku i kormit' ego. Posle rozhdeniya vnuka, reshil |ndryu, u Sera est' kem zamenit' togo, kto ujdet. I ne budet nechestnym obratit'sya k nemu s pros'boj. - Ser, - skazal |ndryu, - vy byli ochen' dobry, pozvolyaya mne tratit' den'gi tak, kak ya hotel. - |to byli tvoi den'gi, |ndryu. - Oni byli moimi tol'ko po vashej vole, ser. Ne dumayu, chto zakon zapretil by vam istratit' ih vse. - Zakon ne mozhet zastavit' menya postupit' nechestno, |ndryu. - Za vychetom vseh rashodov i nalogov, ser, u menya est' pochti shest'sot tysyach dollarov. - YA znayu eto, |ndryu. - YA hochu otdat' ih vam, ser. - YA ne voz'mu ih, |ndryu. - V obmen na to, chto vy mozhete dat' mne, ser. - Vot kak? I chto zhe eto, |ndryu? - Moya svoboda, ser. - Tvoya... - YA hochu kupit' svoyu svobodu, ser. 6 Vse okazalos' vovse neprosto. Ser rasserdilsya, proiznes "bozhe moj!", povernulsya i ushel. I opyat' imenno Malen'kaya Miss privela ego v sebya, rezko i reshitel'no - i pri |ndryu. Vse tridcat' let nikto ne stesnyalsya govorit' v prisutstvii |ndryu, kasalos' li delo ego samogo, ili net, On byl vsego lish' robot. - Papa, - skazal ona, - pochemu ty vosprinimaesh' ego slova kak lichnoe oskorblenie? On zhe vse ravno ostanetsya zdes'. On budet tak zhe poslushen. On ne mozhet vesti sebya po-drugomu. On tak sdelan. Vse, chego on hochet - lish' slova. On hochet nazyvat'sya svobodnym. CHto zdes' takogo uzhasnogo? Razve on ne zasluzhil etogo? Gospodi, da my s nim ob etom uzhe godami govorim. - Godami govorite? - Da, i on snova i snova otkladyval etot razgovor, potomu chto boyalsya, chto tebe budet bol'no eto slyshat'. YA _z_a_s_t_a_v_i_l_a_ ego vyskazat'sya. - On ne znaet, chto takoe svoboda. On robot. - Papa, ty ego ne znaesh'. On prochital vse knigi v biblioteke. Ne znayu, chto on chuvstvuet, no ne znayu i togo, chto chuvstvuesh' t y. Kogda s nim govorish', on reagiruet na abstraktnye ponyatiya tak zhe, kak ty i ya, a chto zhe eshche nado? Esli ch'i-to reakcii te zhe, chto i u tebya, chego zhe tebe eshche zhelat'? - Zakonu na eto naplevat', - serdito skazal Ser. - Poslushaj, ty! - on obratilsya k |ndryu s nevol'nym razdrazheniem v golose. - YA mogu oficial'no osvobodit' tebya tol'ko po resheniyu suda, a esli delo dojdet do suda, ty ne tol'ko ne poluchit' svobodu, no pozvolish' zakonu oficial'no uznat' o svoih den'gah. Oni skazhut, chto robot ne imeet prava vladet' den'gami. Razve etot vzdor stoit poteri tvoih deneg? - Svoboda bescenna, ser, - skazal |ndryu. - Dazhe shans na svobodu stoit etih deneg. 7 Sud tozhe mog prijti k mneniyu, chto svoboda bescenna i reshit', chto ni za kakuyu cenu, dazhe bol'shuyu, robot ne mozhet ee kupit'. Poverennyj, predstavlyavshij teh, kto osushchestvlyal klassovuyu akciyu protiv svobody, zayavil prosto: - Slovo "svoboda" ne imeet smysla po otnosheniyu k robotu. Svobodnym byt' mozhet tol'ko chelovek. On proiznosil eto neskol'ko raz, kogda schital moment podhodyashchim, medlenno, podcherkivaya slova ritmichnym postukivaniem ruki o stol. Malen'kaya Miss poprosila razresheniya vystupit' na storone |ndryu. Ee nazvali polnym imenem, kotorogo |ndryu nikogda ran'she ne slyshal: - Amanda Laura Martin CHarni mozhet predstat' pered sudom. - Blagodaryu vas, vasha chest', - skazala ona. - YA ne yurist, i ne znayu, kak nado pravil'no stroit' frazy, no nadeyus', vy vse prislushaetes' k smyslu, ne obrashchaya vnimaniya na slova. Poprobuem ponyat', chto oznachaet v sluchae s |ndryu byt' svobodnym. V nekotoryh smyslah on u zh e svoboden. Dumayu, chto proshlo let dvadcat' s teh por, kak kto-nibud' iz sem'i Martinov prikazyval emu sdelat' to, chto, kak my chuvstvovali, emu ne hotelos' by sdelat' po sobstvennomu zhelaniyu. No my mozhem, esli zahotim, prikazat' emu sdelat' vse, chto ugodno, upravlyat' im tak grubo, kak pozhelaem, potomu chto on prinadlezhashchaya nam mashina. No zachem nam tak postupat', esli on tak dolgo i tak verno prosluzhil u nas i zarabotal nam tak mnogo deneg? Bol'she on nam nichego ne dolzhen. Dolg lezhit polnost'yu na drugoj storone. Dazhe esli nam zakonom budet zapreshcheno siloj zastavlyat' |ndryu sluzhit' nam, on vse ravno stanet sluzhit dobrovol'no. Sdelat' ego svobodnym budet oznachat' lish' manipulyaciyu slovami, no dlya nego eto budet znachit' ochen' mnogo. |to dast emu vse, i ne budet nam stoit' nichego. Na mgnovenie sud'ya popytalsya sderzhat' ulybku. - YA ponyal vashe mnenie, missis CHarni. No delo v tom, chto ne imeetsya ni blizkogo po smyslu zakona, ni sootvetstvuyushchego sluchayu precedenta. Est', odnako, nevyskazannoe predpolozhenie, chto lish' chelovek mozhet nasladit'sya svobodoj. YA mogu sformulirovat' sejchas novyj zakon, kotoryj mozhet byt' otmenen v bolee vysokom sude, no ya ne mogu s legkost'yu vystupit' protiv upomyanutogo polozheniya. YA hochu obratit'sya k robotu. |ndryu? - Da, vasha chest'. |ndryu vpervye zagovoril na sude, i sud'ya na mgnovenie udivilsya chelovecheskomu tembru ego golosa. On sprosil: - Pochemu ty hochesh' byt' svobodnym, |ndryu? Kakim obrazom eto imeet dlya tebya znachenie? - Vy hoteli by byt' rabom, vasha chest'? - sprosil |ndryu. - No ty ne rab. Ty prekrasnyj robot, mozhno dazhe skazat', genial'nyj robot, kak mne dali ponyat', sposobnyj k proyavleniyu artistizma, ravnomu kotorogo net nigde. CHto by ty eshche sdelal, esli by stal svobodnym? - Vozmozhno, ne bol'she, chem delayu sejchas, no s bol'shej radost'yu. Zdes' v sude uzhe bylo skazano, chto tol'ko chelovek mozhet byt' svobodnym. No mne kazhetsya, chto svobodnym mozhet byt' tol'ko tot, kto zhelaet svobody. A ya hochu svobody. I imenno eta fraza dala namek sud'e. Glavnoe predlozhenie v sudebnom reshenii zvuchalo tak: "Ne imeetsya prava na otricanie svobody dlya lyubogo, chej razum razvit v dostatochnoj stepeni, chtoby osoznat' etu koncepciyu i vyrazit' svoe zhelanie". I v konechnom itoge eto sudebnoe reshenie bylo utverzhdeno Vsemirnym sudom. 8 Ser ostalsya nedovolen, i ego rezkij golos vyzval v |ndryu pochti takoe zhe chuvstvo, slovno u nego proizoshlo korotkoe zamykanie. - Mne ne nuzhny tvoi chertovy den'gi, |ndryu, - skazal on. - YA voz'mu ih lish' potomu, chto inache ty ne stanesh' chuvstvovat' sebya svobodnym. S etogo momenta ty mozhesh' sam vybirat' sebe zanyatie i delat' vse tak, kak tebe nravitsya. YA ne stanu otdavat' tebe prikazaniya, krome odnogo, poslednego - delaj chto hochesh'. No ya prodolzhayu nesti za tebya otvetstvennost' - eto vhodit v reshenie suda. Nadeyus', ty eto ponimaesh'. - Ne kipyatis', papa, - prervala ego Malen'kaya Miss. - Otvetstvennost' - ne takoe uzh tyazhkoe bremya. Ty zhe znaesh', chto tebe nichego ne pridetsya delat'. Ob etom pozabotyatsya tri zakona robotehniki. - Tak kak zhe on mozhet byt' svoboden? - A razve lyudi ne svyazany svoimi zakonami, ser? - sprosil |ndryu. - YA ne nameren sporit', - skazal Ser. On ushel, i s teh por |ndryu redko ego videl. Malen'kaya Miss chasto zahodila navestit' |ndryu v postroennyj i obstavlennyj dlya nego nebol'shoj domik. V nem, konechno zhe, ne bylo kuhni i vannoj. Bylo vsego lish' dve komnaty: v odnoj biblioteka, a drugom kombinaciya masterskoj i kladovoj. |ndryu poluchal mnogo zakazov, i kak svobodnyj robot rabotal eshche bol'she, chem ran'she, poka stoimost' domika ne byla polnost'yu vyplachena i on oficial'no ne stal ego vladel'cem. Odnazhdy prishel Malen'kij Ser... net, Dzhordzh! Malen'kij Ser nastoyal na etom posle togo, kak sud vynes reshenie. - Svobodnyj robot nikogo ne dolzhen nazyvat' Malen'kim Serom, - skazal Dzhordzh. - YA zovu tebya |ndryu, ty dolzhen zvat' menya Dzhordzhem. |to prozvuchalo kak prikaz, poetomu |ndryu nazyval ego Dzhordzhem, no Malen'kaya Miss ostalas' Malen'koj Miss. V tot den' Dzhordzh prishel odin i skazal, chto Ser umiraet. S nim ostalas' Malen'kaya Miss, no Ser zahotel, chtoby |ndryu tozhe byl ryadom. Golos Sera byl eshche silen, hotya on ne byl v sostoyanii mnogo dvigat'sya. On s trudom podnyal ruku. - |ndryu, - skazal on, - |ndryu... ne pomogaj mne, Dzhordzh. YA vsego lish' umirayu, ya ne invalid... |ndryu, ya rad, chto ty svoboden. YA prosto hotel tebe eto skazat'. |ndryu ne znal, chto otvetit'. On eshche nikogda ne byl ryadom s umirayushchim, no znal, chto takim obrazom lyudi perestayut funkcionirovat'. |to bylo nezavisimoj ot nih i neispravimoj polomkoj, i |ndryu ne znal, kakie slova podhodyat v takih sluchayah. On smog tol'ko prodolzhat' stoyat', sovershenno molchalivyj i nepodvizhnyj. Kogda vse konchilos', Malen'kaya Miss skazala emu: - Znaesh', |ndryu, moglo pokazat'sya, chto v konce svoej zhizni on otnosilsya k tebe s nepriyazn'yu, no ved' on byl star, i emu bylo obidno, chto ty zahotel stat' svobodnym. I togda |ndryu nashel nuzhnye slova. - YA nikogda ne stal by svoboden bez nego, Malen'kaya Miss, - skazal on. 9 |ndryu nachal nosit' odezhdu tol'ko posle smerti Sera. Snachala on odel starye bryuki, kotorye emu dal Dzhordzh. Teper' Dzhordzh byl zhenat i stal yuristom. On vstupil v firmu Fejngolda. Staryj Fejngold davno uzhe umer, no ego delo prodolzhila ego doch', i v konce koncov firma stala nazyvat'sya "Fejngold i CHarni". Nazvanie ne izmenilos' dazhe togda, kogda doch' Fejngolda otoshla ot del i nikto iz ee sem'i ne zanyal ee mesto. V to vremya, kogda |ndryu vpervye nadel odezhdu, familiya CHarni byla tol'ko chto dobavlena k nazvaniyu firmy. Dzhordzh popytalsya ne ulybat'sya, kogda |ndryu vpervye odel bryuki, no ego ulybka ne ukrylas' ot |ndryu. Dzhordzh pokazal emu, kak pol'zovat'sya zastezhkoj so staticheskim zaryadom, kak pravil'no obernut' bryuki vokrug nizhnej poloviny tela i zastegnut'. Dzhordzh prodemonstriroval eto na svoih bryukah, no |ndryu byl uveren, chto emu potrebuetsya nemalo vremeni, chtoby vosproizvesti plavnoe dvizhenie ruki Dzhordzha. - Nu zachem tebe bryuki, |ndryu? - sprosil Dzhordzh. - Tvoe telo nastol'ko funkcional'no sovershenno, chto ego prosto stydno skryvat' - osobenno raz tebe net nuzhdy bespokoit'sya o kontrolirovanii temperatury ili o prilichiyah. K tomu zhe na metalle oni ploho zastegivayutsya. - A razve tela lyudej ne funkcional'no sovershenny, Dzhordzh? - vozrazil |ndryu. - Tem ne menee vy odevaetes'. - Radi tepla, dlya chistoty, dlya zashity, dlya ukrasheniya. Nichto iz etogo ne otnositsya k tebe. - Bez odezhdy ya chuvstvuyu sebya golym, - skazal |ndryu. - Kakim-to drugim, Dzhordzh. - Drugim! |ndryu, sejchas na Zemle milliony robotov. V nashej okruge po poslednej perepisi pochti stol'ko zhe robotov, skol'ko lyudej. - Znayu. |ti roboty vypolnyayut vsevozmozhnye raboty. - I nikto iz nih ne nosit odezhdu. - No nikto iz nih ne svoboden, Dzhordzh. SHag za shagom |ndryu popolnyal svoj garderob. Ego sderzhivali ulybka Dzhordzha i vzglyady lyudej, zakazyvayushchih emu rabotu. On mog byt' svobodnym, no v nego byla vstroena tshchatel'no detalizirovannaya programma ego otnoshenij s lyud'mi, i emu udavalos' prodvigat'sya vpered lish' ochen' nebol'shimi shagami. Otkrytoe neodobrenie otbrasyvalo ego na mesyacy nazad. Ne vse vosprinimali |ndryu kak svobodnogo. On ne byl volen vozmushchat'sya, no vse zhe, kogda on ob etom dumal, ego myslennye processy zamedlyalis'. Bolee togo, on obychno ne odevalsya - ili nadeval sovsem malo odezhdy, kogda predpolagal, chto ego mozhet navestit' Malen'kaya Miss. ona byla uzhe stara i pochti vse vremya provodila v mestah s bolee teplym klimatom, no kogda vozvrashchalas', pervym delom prihodila k nemu v gosti. Vo vremya odnogo iz ee priezdov Dzhordzh unylo proiznes: - Ona menya dokonala. YA vstupayu v sleduyushchem godu v legislaturu. Kak ded, govorit ona, tak i vnuk. - Kak ded... - |ndryu v neuverennosti umolk. - YA hotel skazat', chto ya, Dzhordzh, vnuk, stanu kak Ser, moj ded, kotoryj kogda-to byl chlenom legislatury. - Bylo by priyatno, Dzhordzh, - skazal |ndryu, - esli by Ser byl vse eshche... - On zapnulsya, potomu chto ne hotel proiznosit' "V rabochem sostoyanii". Slova kazalis' nepodhodyashchimi. - ZHiv, - podskazal Dzhordzh. - Da, ya tozhe inogda vspominayu starikana. Potom |ndryu dumal ob etom razgovore. On uzhe zametil v razgovorah s Dzhordzhem neuklyuzhest' svoej rechi. S teh por kak v |ndryu vlozhili pervonachal'nyj slovar', yazyk kakim-to obrazom izmenilsya. K tomu zhe Dzhordzh ispol'zoval bytovye oboroty rechi, a Ser i Malen'kaya Miss - net. S chego eto on nazval Sera starikanom, kogda yasno, chto eto slovo nepodhodyashchee? Knigi ne mogli emu pomoch'. oni byli starye i posvyashcheny v osnovnom rez'be po derevu, voprosam iskusstva i mebel'nogo dizajna. Knig zhe o yazyke i povedenii lyudej u nego ne bylo. On tut zhe reshil, chto dolzhen poiskat' nuzhnye knigi, a kak svobodnyj robot pochuvstvoval, chto ne obyazan sprashivat' na eto razreshenie Dzhordzha. On pridet v gorod i otyshchet biblioteku. |to bylo pobedonosnoe reshenie, i on pochuvstvoval, kak ego elektropotencial podnimaetsya vse vyshe, i emu prishlos' sbrosit' izbytok na katushku soprotivleniya. On odel svoj polnyj kostyum, ne pozabyv dazhe derevyannuyu cepochku na pleche. On predpochel by blestyashchij plastik, no Dzhordzh skazal, chto derevo gorazdo bolee podhodyashchij material, i chto polirovannyj kedr k tomu zhe znachitel'no dorozhe. On otoshel ot doma na sotnyu futov, kogda vse narastayushchee soprotivlenie zastavilo ego ostanovit'sya. On otklyuchil ot cepi katushku soprotivleniya, a kogda etogo pokazalos' nedostatochno, vernulsya v svoj dom i na listke bumagi chetko napisal: "YA ushel v biblioteku", a zatem polozhil zapisku na vidnoe mesto na rabochem stole. 10 |ndryu tak i ne nashel biblioteku. On izuchil kartu. On znal dorogu, no ne to, kak vse vyglyadit v dejstvitel'nosti. Okruzhayushchee sovsem ne shodilos' s simvolami na karte, i on v nereshitel'nosti ostanovilsya. V konce koncov on prishel k vyvodu, chto, dolzhno byt', poshel nepravil'nym putem, potomu chto vse vokrug vyglyadelo stranno i neponyatno. On proshel mimo neskol'kih ulichnyh robotov, no k tomu vremeni, kogda on reshil razuznat' dorogu, ni odnogo iz nih poblizosti ne okazalos'. Mashina proehala, ne ostanovivshis'. On stoyal v zadumchivosti, chto vneshne vyglyadelo kak spokojnaya nepodvizhnost', i tut uvidel, kak cherez ploshchad' v ego storonu idut dvoe lyudej. On povernulsya im navstrechu, i oni tozhe izmenili napravlenie, chtoby podojti k nemu. Za sekundu do etogo oni gromko razgovarivali i on slyshal ih golosa, no teper' oni shli molcha. U nih byl tot vid, kotoryj |ndryu associiroval u lyudej s neuverennost'yu. Oni byli molody, no ne ochen'. Let dvadcat', navernoe? |ndryu ne umel ocenivat' vozrast. - Ne ukazhete li vy mne put' v gorodskuyu biblioteku, sery? - sprosil |ndryu. Odin iz nih, kotoryj byl povyshe, i ch'ya vysokaya shlyapa udlinyala ego eshche bol'she, pridavaya pochti grotesknyj vid, skazal, no ne |ndryu, a drugomu: - |to robot. U drugogo byli myasistyj nos i tyazhelye veki. On otvetil, no ne |ndryu, a pervomu: - On nosit odezhdu. Vysokij shchelknul pal'cami: - |to svobodnyj robot. U sem' CHarni est' takoj robot, chto nikomu ne prinadlezhit. Inache pochemu on odet? - Sprosi ego, - skazal nosatyj. - Ty robot sem'i CHarni? - sprosil vysokij. - YA |ndryu Martin, ser, - otvetil |ndryu. - Prekrasno. Togda razden'sya. Roboty ne nosyat odezhdu. - On povernulsya k drugomu: - Otvratitel'noe zrelishche. Ty tol'ko posmotri na nego. |ndryu zamer. On tak davno ne slyshal prikaza, da eshche vyskazannogo takim tonom, chto ego shemy vtorogo zakona momental'no zablokirovalis'. - Snimaj odezhdu, - skazal vysokij. - YA tebe prikazyvayu. |ndryu nachal medlenno razdevat'sya. - Brosaj ee na zemlyu, - skazal vysokij. - Esli on nichej, - skazal nosatyj, - to on mozhet stat' nashim stol' zhe prosto, kak i ch'im-to. - V lyubom sluchae, - otozvalsya vysokij, - kto stanet vozrazhat' protiv togo, chto my delaem. My zhe nich'yu sobstvennost' ne portim... Vstan' na golovu, - velel on. - Golova ne prednaznachena dlya togo... - nachal |ndryu. - |to prikaz. Esli ne znaesh', kak eto sdelat', vse ravno poprobuj. |ndryu snova pomedlil, zatem naklonilsya i postavil golovu na zemlyu. On popytalsya zadrat' nogi, no tut zhe tyazhelo upal. - A teper' lezhi, - skazal vysokij. - My mozhem razobrat' ego na chasti, - predlozhil on drugomu. - Nikogda ne dovodilos' robotov razbirat'? - A on pozvolit? - A kak on mozhet ne pozvolit'? |ndryu nikak ne smog by im pomeshat', esli by oni dostatochno strogo prikazali emu ne soprotivlyat'sya. Vtoroj zakon povinoveniya imel preimushchestvo nad tret'im zakonom samosohraneniya. V lyubom sluchae on ne mog zashchitit' sebya, opasayas' sluchajno nanesti im vred, a eto oznachalo narushenie pervogo zakona. Pri mysli ob etom vse ego podvizhnye chasti slegka szhalis', i on vzdrognul. Vysokij podoshel i pnul ego nogoj. - Tyazhelyj. Pohozhe, bez instrumentov nam ne obojtis'. - Mozhno prikazat' emu samogo sebya razobrat', - skazal nosatyj. - Veseloe budet zrelishche. - Da, - zadumchivo proiznes vysokij, - tol'ko pust' snachala otojdet v storonu ot dorogi. Esli kto-nibud' pojdet mimo... No oni opozdali. Kto-to dejstvitel'no shel mimo, i eto byl Dzhordzh. S togo mesta, gde on lezhal, |ndryu videl, kak Dzhordzh podnyalsya v otdalenii na nebol'shoj holmik. Emu hotelos' kak-to podat' Dzhordzhu znak, no poslednij prikaz byl "lezhat'". Tut Dzhordzh pobezhal i vskore byl ryadom, nemnogo zapyhavshis'. Molodye lyudi nemnogo otoshli i vyzhidatel'no ostanovilis'. - |ndryu, u tebya kakaya-to neispravnost'? - s trevogoj sprosil Dzhordzh. - YA v rabochem sostoyanii, Dzhordzh. - Togda vstan'. CHto s tvoej odezhdoj? - |tot tvoj robot, dyadya? - sprosil vysokij. Dzhordzh rezko obernulsya. - |to nichej robot. CHto zdes' proishodit? - My vezhlivo poprosili ego snyat' odezhdu. A tebe kakoe delo, raz on ne tvoj? - CHto oni s toboj sdelali, |ndryu? - sprosil Dzhordzh. - V ih namereniya vhodilo kakim-to obrazom razobrat' menya, - otvetil |ndryu. - Oni sobiralis' otvesti menya v ukromnoe mesto i prikazat' razobrat' samogo sebya. Dzhordzh posmotrel na parnej. Ego podborodok zadrozhal. Parni bol'she ne pyatilis'. Oni ulybalis'. Vysokij veselo sprosil: - I chto zhe ty sobiraesh'sya sdelat', staryj kozel? Napast' na nas? - Net, - skazal Dzhordzh, - samomu mne delat' nichego ne nado. |tot robot zhil v moej sem'e bol'she semidesyati let. On znaet nas, i my dlya nego gorazdo dorozhe, chem kto-libo drugoj. YA prosto skazhu emu, chto vy ugrozhaete moej zhizni i sobiraetes' menya ubit'. YA poproshu ego zashchitit' menya. Vybiraya mezhdu vami i mnoj, on vyberet menya. Znaete, chto ot vas ostanetsya, kogda on do vas doberetsya? Parni neuverenno popyatilis'. - |ndryu, - rezko proiznes Dzhordzh. - YA v opasnosti, mne ugrozhayut eti dvoe parnej. Podojdi k nim! |ndryu shagnul vpered, parni ne stali zhdat' i rvanuli proch'. - Vse v poryadke, |ndryu, uspokojsya. - skazal Dzhordzh. On sil'no perevolnovalsya. On davno uzhe pereshagnul tot vozrast, kogda byl v sostoyanii vyyasnyat' otnosheniya s odnim protivnikom, ne govorya uzhe o dvuh. - YA ne mog prichinit' im vreda, Dzhordzh, - skazal |ndryu. - YA zhe videl, chto oni ne napadali. - A ya i ne prikazyval tebe atakovat' ih. YA vsego lish' velel tebe podojti k nim. Vse ostal'noe sdelal strah. - Kak mogut lyudi boyat'sya robotov? - |to zastarelaya bolezn' chelovechestva, odna iz teh, ot kotoryh ono eshche ne izbavilos'. No eto pustyaki. Kakoj d'yavol tebya syuda zanes, |ndryu? YA uzhe sobiralsya vernut'sya i nanyat' vertolet, no vovremya uvidel tebya. Kak tebe moglo prijti v golovu otpravit'sya v biblioteku? YA prines by lyubye nuzhnye knigi. - No ya zhe... - nachal |ndryu. - Svobodnyj robot. Da, da. Nu, horosho, i chto zhe ty sobiralsya vzyat' v biblioteke? - Mne hotelos' bol'she uznat' o lyudyah, o mire, obo vsem. I o robotah, Dzhordzh. YA hochu napisat' istoriyu robotov. - Ladno, pojdem domoj... - skazal Dzhordzh. - Tol'ko podberi snachala svoyu odezhdu. |ndryu, est' million knig po robotehnike, i v kazhdoj opisana istoriya etoj nauki. Mir uzhe perepolnen ne tol'ko robotami, no i informaciej o robotah. |ndryu pokachal golovoj, vosproizvodya nedavno usvoennyj chelovecheskij zhest. - Ne istoriyu robotehniki, Dzhordzh. Istoriyu _r_o_b_o_t_o_v, napisannuyu robotom. YA hochu ob®yasnit', chto dumayut roboty o tom, chto sluchilos' s teh por, kak pervye iz nih stali zhit' i rabotat' na Zemle. Brovi Dzhordzha pripodnyalis', no on nichego ne otvetil. 11 Malen'koj Miss nedavno ispolnilos' vosem'desyat tri goda, no ee energiya i reshitel'nost' s godami ne ubavilis'. Ona chashche razmahivala svoej trost'yu, chem opiralas' na nee. Ona vyslushala rasskaz s yarostnym negodovaniem. - |to uzhasno, Dzhordzh, - skazala ona. - Kto eti molodye bandity? - Ne znayu. Kakoe eto imeet znachenie? V konce koncov oni ego ne povredili. - No mogli. Ty yurist, Dzhordzh, i esli ty otoshel ot del sostoyatel'nym chelovekom, to lish' blagodarya talantu |ndryu. |to o n zarabotal te den'gi, chto zalozhili osnovu vsego, chto u nas est'. On obespechil celostnost' nashej sem'i, i ya ne pozvolyu obrashchat'sya s nim, kak s naduvnoj igrushkoj. - Tak chto zhe ty ot menya hochesh', mama? - sprosil Dzhordzh. - YA ved' skazala, chto ty yurist. Razve ty ne slyshal? Ty dolzhen kak-to organizovat' sudebnoe razbiratel'stvo i vynudit' regional'nye sudy ob®yavit' o pravah robotov, provesti cherez legislaturu neobhodimye zakonoproekty i ne ostavlyat' dela vplot' do Vsemirnogo suda, esli potrebuetsya. YA stanu sledit' za etim, Dzhordzh, i ne poterplyu nikakih uvertok. Ona ne shutila, i to, chto nachalos' kak sposob uspokoit' razgnevannuyu staruyu ledi, razroslos' v delo, dostatochno yuridicheski zaputannoe, chtoby sdelat' ego interesnym. Kak starshij partner firmy "Fejngold i CHarni", Dzhordzh razrabatyval strategiyu, no ostavlyal chernovuyu rabotu mladshim partneram, v tom chisle solidnuyu ee chast' svoemu synu Polu, kotoryj tozhe byl chlenom firmy, i pochti ezhednevnoj obyazannost'yu kotorogo stalo dokladyvat' obo vsem babushke. Ta, v svoyu ochered', kazhdyj den' obsuzhdala dela s |ndryu. Sam |ndryu tozhe byl gluboko vovlechen. Ego rabota nad knigoj o robotah byla snova otlozhena, potomu chto teper' on prodiralsya skvoz' debri razlichnyh tolkovanij zakonov, i dazhe inogda daval robkie sovety. Odnazhdy on skazal: - Dzhordzh govoril mne v tot den', chto lyudi vsegda boyalis' robotov. Poka takaya boyazn' ostanetsya, sud'i i yuristy vryad li budut starat'sya v ih pol'zu. Ne sleduet li chto-nibud' sdelat' dlya sozdaniya nuzhnogo obshchestvennogo mneniya? S etogo momenta Pol rabotal s sud'yami, a Dzhordzh vzyalsya za publiku. |to davalo emu preimushchestva neoficial'nogo lica, i on dazhe zashel nastol'ko daleko, chto neskol'ko raz oblachalsya v novomodnuyu prostornuyu odezhdu, kotoruyu obozval drapirovkoj. Pol skazal emu: - Tol'ko ne poyavlyajsya v nej na lyudyah, papa. - Poprobuyu etogo ne delat', - unylo otozvalsya Dzhordzh. Pri sluchae on obratilsya k uchastnikami ezhegodnogo sbora redaktorov golograficheskogo televideniya, i, v chastnosti, skazal: - Esli, soglasno vtoromu zakonu, my mozhem trebovat' ot lyubogo robota neogranichennogo podchineniya vo vseh otnosheniyah, krome naneseniya vreda cheloveku, to v takom sluchae _l_yu_b_o_j_ chelovek imeet opasnuyu vlast' nad l_yu_b_y_m_ robotom. Krome togo, poskol'ku vtoroj zakon prioritetnee tret'ego, _l_yu_b_o_j_ chelovek mozhet ispol'zovat' zakon podchineniya dlya preodoleniya zakona samosohraneniya. On mozhet prikazat' lyubomu robotu povredit' ili dazhe unichtozhit' sebya po lyubomu povodu, ili dazhe bezo vsyakogo povoda. Razve eto spravedlivo? Razve my obrashchaemsya tak s zhivotnymi? Dazhe neodushevlennyj predmet, kotoryj horosho nam sluzhit, imeet pravo na berezhnoe obrashchenie. A robot ne beschuvstvennyj predmet, i dazhe ne zhivotnoe. On dostatochno horosho myslit, chtoby s nami razgovarivat', sporit' i shutit'. Mozhem li my obrashchat'sya s nimi, kak c druz'yami, mozhem li rabotat' vmeste s nimi, i ne predostavit' im hotya by chast' plodov etoj druzhby, chast' vygody ot sotrudnichestva? Esli chelovek imeet pravo dat' robotu prikaz, kotoryj ne podrazumevaet prichinenie vreda drugomu cheloveku, to on dolzhen obladat' i takim dostoinstvom, chtoby ne otdavat' robotu prikaz, nanosyashchij vred robotu, esli tol'ko etogo absolyutno ne trebuet bezopasnost' cheloveka. S bol'shej vlast'yu prihodit i bol'shaya otvetstvennost', i esli u robotov est' tri zakona, zashchishchayushchie lyudej, razve chrezmerna pros'ba o tom, chtoby i u lyudej byli odin-dva zakona, zashchishchayushchie robotov? |ndryu okazalsya prav. Imenno bor'ba za obshchestvennoe mnenie okazalas' klyuchevym momentom pri rassmotrenii dela v sude i legislature, i v konce etogo rassmotreniya byl prinyat zakon, zapreshchayushchij pri opredelennyh usloviyah otdavat' prikazy, vredyashchie robotam. V nego vse vremya vnosilis' beskonechnye popravki, a nakazanie za ego narushenie sovershenno ne sootvetstvovalo posledstviyam, no princip byl ustanovlen. Okonchatel'noe rassmotrenie zakona vo Vsemirnom sude prohodilo v den' smerti Malen'koj Miss. |to ne bylo sovpadeniem. Malen'kaya Miss otchayanno borolas' za zhizn', poka shli poslednie debaty, i skonchalas' lish' posle togo, kak uznala o pobede. Ee poslednyaya ulybka byla obrashchena k |ndryu. Ee poslednie slova byli: "My lyubili tebya, |ndryu". Ona umerla, derzha ego za ruku, a ee syn, nevestka i vnuki stoyali v pochtitel'nom otdalenii. 12 Sekretar' vyshel vo vnutrennee pomeshchenie ofisa, i |ndryu prinyalsya terpelivo zhdat'. Sekretar' mog by vospol'zovat'sya golograficheskim videofonom, no dlya nego, nesomnenno, bylo by ne po-chelovecheski (ili, vozmozhno, ne po-robotski) imet' delo v drugim robotom, a ne s chelovekom. |ndryu ubival vremya, obdumyvaya etot vopros. Mozhno li vyrazhenie "po-robotski" ispol'zovat' kak analog vyrazheniya "Po-chelovecheski", esli "po-chelovecheski" stalo metaforicheskim terminom, sil'no otlichayushchimsya ot svoego ishodnogo bukval'nogo smysla po otnosheniyu k robotam - ili, skazhem, k zhenshchinam? Podobnye problemy chasto voznikali pri rabote nad knigoj o robotah. Obdumyvanie predlozhenij dlya vyrazheniya vseh slozhnyh myslej, nesomnenno, obogatilo ego slovar'. Vremya ot vremeni kto-nibud' zahodil v komnatu posmotret' na nego, i on ne otvodil glaz. On spokojno glyadel na voshedshego, i kazhdyj iz nih posle etogo nachinal smotret' v storonu. Nakonec k nemu vyshel Pol CHarni. On vyglyadel udivlennym, vernee, dolzhen byl by vyglyadet', esli by |ndryu mog uverenno razlichat' vyrazheniya lic. Pol obil'no pol'zovalsya kosmetikoj, upotreblenie kotoroj moda diktovala dlya oboih polov, i hot