nnyh sovsem ne tak, kak u nas. K tomu zhe pochti navernyaka robot stanet podhodit' k probleme, kotoruyu emu sleduet reshit', sovershenno inache. Razumnost' robota i cheloveka mogut nastol'ko otlichat'sya drug ot druga, chto na svet, vpolne vozmozhno, poyavitsya novaya nauka - "robopsihologiya". Vot tut-to i pridet vremya S'yuzen Kelvin. Imenno ona i ee kollegi smogut razobrat'sya v problemah, reshit' kotorye obychnye psihologi budut ne v silah. |ta oblast' znanij mozhet okazat'sya samoj vazhnoj vo vsej robotehnike, poskol'ku, esli my sumeem detal'no izuchit' dva sovershenno raznyh intellekta, vozmozhno, my nauchimsya ponimat', chto takoe intellekt v gorazdo bolee fundamental'nom i shirokom smysle, chem eto vozmozhno sejchas. I chto samoe glavnoe, my sumeem luchshe ponyat', chto predstavlyaet soboj intellekt cheloveka, a eto prakticheski nevozmozhno sdelat', izuchaya tol'ko ego. |sse No 10. Robot kak vrag? ----------------------------------------------------- Scan & OCR: Gucu Anatolij (Atlantis) ----------------------------------------------------- V 1942 godu ya izobrel Tri zakona robotehniki. Samym vazhnym iz nih yavlyaetsya, estestvenno, Pervyj zakon. On glasit: "Robot ne mozhet prichinit' vred cheloveku ili svoim bezdejstviem dopustit', chtoby cheloveku byl prichinen vred". V svoih rasskazah ya vsegda staralsya podcherknut', chto zakony, osobenno Pervyj, yavlyayutsya neot®emlemoj chast'yu robota, i on ne mozhet ih narushit'. Krome togo, ya staralsya, hotya, vozmozhno, i ne tak nastojchivo, dat' ponyat' svoim chitatelyam, chto eti zakony ne yavlyayutsya vrozhdennymi. Material, iz kotoryh sdelan robot, ne soderzhit v sebe etih zakonov. Oni sovershenno soznatel'no vnosyatsya v mozg gotovogo robota, inymi slovami, v komp'yutery, kotorye kontroliruyut ego deyatel'nost'. Mozhet tak poluchit'sya, chto kakoj-to opredelennyj robot okazhetsya ne nadelen znaniem Treh zakonov, poskol'ku ego primitivnaya konstrukciya ne pozvolyaet vnesti v nego povedencheskie shemy, dostatochno slozhnye, chtoby on byl vynuzhden im podchinyat'sya, ili poskol'ku chelovek, kotoryj sozdaet robota, reshit soznatel'no ne vnosit' v ego mozg znanie Treh zakonov. Poka - i, vozmozhno, tak budet eshche dostatochno dolgo - my imeem delo s pervoj prichinoj. Roboty slishkom primitivny, chtoby predvidet', chto kakoj-to ih postupok mozhet prichinit' vred cheloveku, i izmenit' svoe povedenie, chtoby etogo ne proizoshlo. V nastoyashchij moment u nas imeyutsya lish' komp'yuterizirovannye ustrojstva, kotorye sposobny vypolnyat' nabor opredelennyh dejstvij i ne mogut otojti v storonu ot dannyh im instrukcij. V rezul'tate roboty uzhe stali prichinoj smerti lyudej (kak, vprochem, i obychnye mashiny). |to uzhasno, no vpolne ob®yasnimo, i my mozhem predpolagat', chto po mere sozdaniya robotov s bolee slozhnoj sistemoj vospriyatiya i sposobnost'yu gibkogo reagirovaniya na izmenenie situacii uvelichitsya veroyatnost' togo, chto v nih budut vneseny zashchitnye bloki, ekvivalentnye Trem zakonam. A kak naschet vtoroj al'ternativy? Stanut li lyudi soznatel'no sozdavat' robotov, ne nadelyaya ih znaniem Zakonov robotehniki? Boyus', chto takaya vozmozhnost' tozhe sushchestvuet. Uzhe idut razgovory o robotah-ohrannikah. Roboty mogut patrulirovat' kakie-nibud' territorii ili dazhe ohranyat' vestibyuli. V ih zadachu budet vhodit' obshchenie s lyud'mi, kotorye poyavlyayutsya na dannoj territorii ili v zdanii. Veroyatno, tot, kto imeet pravo vojti ili priglashen, poluchit kartochku, identificiruyushchuyu ego lichnost', i togda robot ego propustit. V nashe vremya, kogda stol'ko vnimaniya udelyaetsya voprosam bezopasnosti, takie idei mogut pokazat'sya vpolne razumnymi, poskol'ku oni yavyatsya nadezhnym sposobom bor'by s vandalizmom i terrorizmom, - poluchaetsya, chto robot budet vypolnyat' rol' dressirovannoj storozhevoj sobaki. Odnako stremlenie k bezopasnosti porozhdaet uslozhnenie sistemy. Robot sumeet ostanovit' neproshennogo gostya, no signala trevogi mozhet okazat'sya nedostatochno. Lyudyam zahochetsya nadelit' ego sposobnost'yu izgnat' posetitelya, dazhe esli pri etom robot prichinit emu vred - sobaka ved' tozhe mozhet uvusit' vas za nogi ili peregryzt' glotku. YA chto proizojdet, esli, naprimer, glava firmy zabudet svoyu kartochku v drugih bryukah i, rasstroivshis', ne uspeet pokinut' zdanie dostatochno bystro? Ili rebenok sluchajno vojdet na ohranyaemuyu territoriyu? YA podozrevayu, chto esli robot prichinit vred cheloveku, kotoryj ne imeet nikakih durnyh namerenij, mgnovenno podnimetsya shum i uchenye poluchat zadanie vnesti sootvetstvuyushchie izmeneniya, chtoby oshibka ne povtorilas'. Rasmotrim druguyu krajnost' - razgovory ob oruzhii. Komp'yuterizirovannye samolety, tanki, artilleriya i tomu podobnoe, kotorye s nechelovecheskim uporstvom budut bez ustali srazhat'sya s vragom. V kachestve dovoda v zashchitu podobnogo oruzhiya mozhno skazat', chto takim obrazom my sohranim zhizn' soldatam. Ustroivshis' so vsemi udobstvami u sebya doma, my predostavim mashinam voevat' za nas. Esli kakie-to iz nih budut unichtozheny - nu, eto zhe vsego lish' mashiny. Takoj podhod k vedeniyu voennyh dejstvij mozhet okazat'sya osobennogo poleznym, esli u vas takie mashiny est', a u vraga - net. No dazhe i v etom sluchae, mozhem li my byt' absolyutno uvereny v tom, chto mashiny sumeyut bezoshibochno otlichat' vragov ot druzej? V situacii, kogda vse nashe oruzhie kontroliruyut ruki i mozgi lyudej, sushchestvuet problema "druzhestvennogo ognya". Amerikanskoe oruzhie mozhet sluchajno ubit' amerikanskih soldat ili grazhdanskih lyudej, chto neredko proishodilo v proshlom. Rech' idet ob oshibkah, kotorye dopuskali lyudi, odnako ot etogo ne legche. A chto, esli nashe robotizirovannoe oruzhie otkroet "druzhestvennyj ogon'" i nachnet unichtozhat' amerikancev ili dazhe amerikanskuyu sobstvennost'? Prinyat' takoe budet eshche trudnee (v osobennosti esli vrag razrabotaet special'nye strategicheskie meropriyatiya, napravlennye na to, chtoby sbit' programmy nashih robotov i povernut' ih ogon' protiv nas). Net, ya uveren, chto popytki primeneniya robotov bez special'nyh zashchitnyh sistem provalyatsya i v konce koncov my vse ravno vernemsya k Trem zakonam. |sse No 11. Razumy, dejstvuyushchie sovmestno ----------------------------------------------------- Scan & OCR: Gucu Anatolij (Atlantis) ----------------------------------------------------- V esse "Nashi razumnye instrumenty" ya upomyanul o tom, chto mozhet slozhit'sya situaciya, kogda roboty stanut takimi umnymi, chto v konce koncov nas zamenyat. YA predpolozhil s nekotorym cinizmom, chto, uchityvaya povedenie lyudej, podobnaya zamena mozhet okazat'sya ochen' dazhe poleznoj. S teh por proshlo vremya, i roboty nachali zanimat' vse bolee vazhnoe mesto v promyshlennosti, i hotya oni prodolzhayut ostavat'sya dovol'no tupymi (esli govorit' ob urovne intellektual'nogo razvitiya), oni ochen' bystro razvivayutsya. V takom sluchae, pozhaluj, nam sleduet eshche raz vzglyanut' na vozmozhnost' vozniknoveniya situacii, kogda roboty (ili komp'yutery, kotorye v dejstvitel'nosti upravlyayut robotami) nas zamenyat. Rezul'tat, razumeetsya, zavisit ot togo, naskol'ko razumny budut komp'yutery i stanut li oni nastol'ko umnee nas, chto nastupit vremya, kogda oni budut otnosit'sya k nam kak k domashnim zhivotnym (v luchshim sluchae) ili parazitam (v hudshem). Poluchaetsya, chto stepen' razumnosti - shtuka nastol'ko prostaya, chto ee mozhno izmerit' kakim-nibud' priborom vrode linejki ili gradusnika libo pri pomoshchi testa, a potom vyrazit' ciframi. Esli umstvennoe razvitie srednego cheloveka mozhno oboznachit' cifroj 100 po shkale intellektual'nogo razvitiya, poluchaetsya, chto, kak tol'ko komp'yuter minuet etu otmetku, u nas poyavyatsya problemy. Vprochem, tak li vse prosto? Vne vsyakogo somneniya, takaya slozhnaya veshch', kak intellekt, dolzhna harakterizovat'sya mnozhestvom faktorov i imet' massu raznoobraznyh vidov - esli mozhno tak skazat'. Mne predstavlyaetsya, chto nuzhno obladat' do opredelennoj stepeni razvitym intellektom, chtoby napisat' logichno vystroennoe esse, vybrat' pravil'nye slova i postavit' ih v pravil'nom poryadke. YA takzhe polagayu, chto chelovek, izuchayushchij slozhnoe ustrojstvo, dolzhen byt' nadelen razvitym intellektom, inache on ne pojmet, kak ono rabotaet i chto sleduet sdelat', chtoby ego usovershenstvovat' - ili pochinit', esli ono vdrug slomalos'. CHto kasaetsya literaturnogo truda, ya obladayu chrezvychajno vysokorazvitym intellektom; a vot v rabote s raznogo roda mashinami i ustrojstvami ya absolyutno nichego ne ponimayu. V takom sluchae, kto ya - genij ili idiot? Otvet takov: ni to ni drugoe. Prosto kakie-to veshchi poluchayutsya u menya horosho, a kakie-to ploho. |to mozhno skazat' pro lyubogo iz nas. V takom sluchae davajte nemnogo porazmyshlyaem o prirode intellekta cheloveka i komp'yutera. Mozg cheloveka sostoit iz proteina i nukleinovyh kislot; on razvivalsya v techenie treh milliardov let putem prob i oshibok; glavnymi silami, tolkavshimi ego vpered, byli prisposoblenie i vyzhivanie. S drugoj storony, komp'yutery sostoyat iz metalla i elektronnyh shem; oni yavlyayutsya produktom eksperimentov i razrabotok, kotorymi lyudi zanimayutsya vot uzhe sorok let; glavnoj siloj, zastavlyayushchej lyudej usovershenstvovat' komp'yutery, yavlyaetsya ih zhelanie sozdat' mashinu, kotoraya oblegchila by zhizn' cheloveku. Esli sami lyudi otlichayutsya drug ot druga urovnem i kachestvom svoego intellekta, razve ne estestvenno, chto intellekty cheloveka i mashiny budut kategoricheski otlichat'sya drug ot druga v silu togo, chto oni voznikli i razvivalis' v absolyutno raznyh usloviyah, sdelany iz raznyh materialov i ih usovershenstvovanie obuslavlivayut takie raznye sily? Mozhet pokazat'sya, chto komp'yutery, dazhe samye prostye, isklyuchitel'no effektivny v opredelennyh voprosah i oblastyah. Oni obladayut solidnoj pamyat'yu, reagiruyut prakticheski mgnovenno i demonstriruyut sposobnost' sovershat' beskonechnoe chislo povtoryayushchihsya arifmeticheskih dejstvij bez oshibok i vidimoj ustalosti. Esli eto mozhno schitat' merilom intellekta, v takom sluchae komp'yutery uzhe stali namnogo umnee nas. Blagodarya tomu, chto oni nastol'ko nas prevoshodyat, my ispol'zuem ih millionami raznyh sposobov i otlichno znaem, chto nasha ekonomika razvalitsya, esli vse komp'yutery odnovremenno perestanut rabotat'. Odnako eta sposobnost' komp'yutera ne yavlyaetsya edinstvennym opredelitelem razumnosti. Po pravde govorya, my schitaem ee takoj neznachitel'noj, chto, vne zavisimosti ot skorosti i slozhnosti resheniya, otnosimsya k komp'yuteru kak k gromadnoj logarifmicheskoj linejke, ne obladayushchej voobshche nikakim razumom. Kogda rech' idet o cheloveke, nadelennom razvitym intellektom, my imeem v vidu ego sposobnost' uvidet' problemu v celom, intuitivno najti ee reshenie, razglyadet' novye kombinacii, postroit' neobychnye predpolozheniya i tvorcheskie dogadki. Mozhem li my zaprogrammirovat' komp'yuter, chtoby on vel sebya tak zhe? Vryad li, poskol'ku my ne znaem, kak eto u nas poluchaetsya. V takom sluchae skladyvaetsya vpechatlenie, chto komp'yutery budut s kazhdym dnem stanovit'sya vse effektivnee v vypolnenii prostyh odnoobraznyh zadach s blizhnej perspektivoj i ih "mozg" stanet razvivat'sya imenno v etom napravlenii. A chelovek (blagodarya nakopleniyu znanij i vse luchshemu ponimaniyu togo, chto predstavlyaet soboj chelovecheskij mozg, a takzhe blagodarya uspeham gennoj inzhenerii) sumeet razvivat' do beskonechnosti svoi tvorcheskie sposobnosti. Oba etih vida intellekta imeyut svoi preimushchestva, i v sochetanii mozg cheloveka i komp'yutera - dopolnyaya i kompensiruya nedostatki drug druga - smogut prodvigat'sya vpered gorazdo bystree, chem po odinochke. Sopernichestvo ili zamena budut tut sovershenno ni pri chem, dva razuma stanut rabotat' vmeste; dobivayas' bolee znachitel'nyh rezul'tatov, chem esli by oni dejstvovali kazhdyj sam po sebe v sootvetstvii so svoej prirodoj. |sse No 12. Moi roboty ----------------------------------------------------- Scan & OCR: Gucu Anatolij (Atlantis) ----------------------------------------------------- YA napisal svoj pervyj rasskaz "Robbi" v mae 1939 goda, kogda mne bylo vsego devyatnadcat' let. Moj rasskaz otlichalsya ot uvidevshih svet ran'she tem, chto ya tverdo reshil ne delat' iz svoih robotov simvolov. Oni ne dolzhny byli stat' simvolami vysokomeriya cheloveka. Oni ne dolzhny byli stat' primerom chelovecheskih ambicij, pokushayushchihsya na vladeniya Vsevyshnego. Oni ne dolzhny byli stat' novoj Vavilonskoj bashnej, trebuyushchej nakazaniya. Krome togo, ya ne hotel, chtoby robotov schitali simvolom men'shinstva. Oni ne dolzhny byli stat' zhalkimi sushchestvami, kotoryh nespravedlivo obizhayut, chto posluzhilo by mne povodom dlya zavualirovannyh namekov na pritesneniya, kotorym podvergayutsya evrei, chernokozhie i prochie stradayushchie chleny nashego obshchestva. Estestvenno, menya takoe polozhenie gluboko vozmushchaet, o chem ya mnozhestvo raz govoril v mnogochislennyh stat'yah i esse - no ne v rasskazah o robotah. V takom sluchae, chem zhe yavlyayutsya moi roboty? Oni vsego lish' ustrojstva. Instrumenty. Mashiny, kotorye prizvany sluzhit' lyudyam. I ya nadelil ih znaniem Treh zakonov. Inym slovami, robot ne mog ubit' svoego sozdatelya. Ob®yaviv etot chrezvychajno populyarnyj syuzhet vne zakona, ya poluchil vozmozhnost' rassmotret' drugie, bolee racional'nye posledstviya svoego postupka. Poskol'ku ya nachal pisat' rasskazy o robotah v 1939 godu, v nih net upominanij ob elektronnyh komp'yuterah, kotorye togda eshche ne byli izobreteny, a ya ne predvidel ih poyavleniya. Vprochem, ya predpolagal, chto mozg robota dolzhen do opredelennoj stepeni byt' "elektronnym", i samo ponyatie ne kazalos' prinadlezhashchim dalekomu budushchemu. Pozitron - subatomnaya chastica, pohozhaya na elektron, no imeyushchaya protivopolozhnyj elektricheskij zaryad, - byl obnaruzhen vsego za chetyre goda do togo, kak ya napisal svoj pervyj rasskaz o robotah. Vse eti otkrytiya zvuchali ochen' fantastichno, i potomu ya nadelil svoih robotov "pozitronnymi mozgami" i predstavil sebe, chto ih mysli sostoyat iz potokov pozitronov, kotorye mgnovenno voznikayut i tak zhe mgnovenno perestayut sushchestvovat'. V rezul'tate seriya takih rasskazov poluchila nazvanie "rasskazy o pozitronnyh robotah", no v nih ne pridavalos' osobogo znacheniya predpochteniyu pozitronov po sravneniyu s elektronami. Snachala ya ne staralsya sistematizirovat' ili dazhe voobshche opisyvat' zashchitnye ustrojstva, kotorymi, po moim predstavleniyam, dolzhny byli byt' snabzheny roboty. Odnako poskol'ku mne ne hotelos' sozdavat' dlya robotov situacii, v kotoryh oni mogut ubit' svoego sozdatelya, ya udelyal osoboe vnimanie tomu faktu, chto robot ne v sostoyanii prichinit' vred cheloveku, postoyanno podcherkivaya, chto etot zakon vnedren v ego pozitronnyj mozg. I potomu v samoj pervoj uvidevshej svet versii rasskaza "Robbi" odin iz geroev govorit: "On prosto ne mozhet ne byt' vernym, lyubyashchim, dobrym. On prosto ustroen tak". Napisav rasskaz "Robbi", kotoryj Dzhon Kempbell iz "|staunding sajens fikshn" otkazalsya napechatat', ya sochinil neskol'ko drugih rasskazov, kotorye Kempbell prinyal. I 21 dekabrya 1940 goda ya prishel k nemu s ideej o robote, umeyushchem chitat' mysli (tak poyavilsya "Lzhec"), no Dzhona ne ustroili nikakie moi ob®yasneniya po povodu togo, pochemu robot vel sebya imenno tak, a ne inache. On hotel poluchit' chetko sformulirovannye zakony, kotorye zashchishchali by lyudej ot robotov, chtoby my smogli luchshe ponimat' ih povedenie. I togda my s nim vmeste razrabotali koncepciyu, kotoraya pozdnee stala nazyvat'sya "Tri zakona robotehniki". Ideya prinadlezhala mne i byla vzyata iz uzhe napisannyh rasskazov, no konkretnye formulirovki (esli ya vse pravil'no pomnyu) my razrabotali vmeste. Tri zakona byli logichny i zvuchali vpolne razumno. Prezhde vsego, kogda ya nachal pisat' rasskazy o svoih robotah, ya podumal, chto sleduet pozabotit'sya o bezopasnosti cheloveka. Bolee togo, ya prekrasno ponimal, chto, dazhe ne starayas' soznatel'no prichinit' cheloveku vred, svoej bezdeyatel'nost'yu robot mozhet navlech' na nego bedu. YA nikak ne mog zabyt' cinichnogo proizvedeniya Artura H'yu Klou "Poslednij dekalog", v kotorom desyat' zapovedej perepisany v satiricheskom stile Makiavelli. CHashche vsego citiruetsya takaya: "Ne ubij, no i ne slishkom starajsya sohranit' drugomu zhizn'". Imenno po etoj prichine ya nastaival na tom, chto Pervyj zakon (bezopasnost') dolzhen sostoyat' iz dvuh pozicij: 1. Robot ne mozhet prichinit' vred cheloveku ili svoim bezdejstviem dopustit', chtoby cheloveku byl prichinen vred. Pozabotivshis' o bezopasnosti, my reshili perejti ko Vtoromu zakonu (sluzhba). Estestvenno, sleduya neobhodimosti vypolnyat' prikazy lyudej, robot ne dolzhen zabyvat' ob ih bezopasnosti. Znachit, Vtoroj zakon glasit: 2. Robot dolzhen povinovat'sya vsem prikazam, kotorye otdaet chelovek, krome teh sluchaev, kogda eti prikazy protivorechat Pervomu zakonu. I nakonec, nam trebovalsya tretij zakon (ostorozhnost'). Robot - dorogaya mashina, znachit, neobhodimo ee berech'. No ne v ushcherb bezopasnosti i sluzhbe cheloveku. Itak, Tretij zakon vyglyadit sleduyushchim obrazom: 3. Robot dolzhen zabotit'sya o svoej bezopasnosti v toj mere, v kakoj eto ne protivorechit Pervomu i Vtoromu zakonam. Razumeetsya, eti zakony sformulirovany v slovah, chto yavlyaetsya v opredelennoj stepeni nesovershenstvom. V pozitronnom mozgu oni vyrazheny v slozhnyh matematicheskih formulah (v kotoryh ya nichego ne ponimayu). Odnako dazhe pri etom oni dostatochno dvusmyslenny. CHto schitat' vredom dlya cheloveka? Dolzhen li robot podchinyat'sya prikazam, kotorye otdaet emu rebenok, ili sumasshedshij, ili chelovek s durnymi namereniyami? Dolzhen li on otdat' svoe dorogostoyashchee i poleznoe sushchestvovanie, chtoby predotvratit' neznachitel'nyj vred, kotoryj mozhet byt' prichinen malovazhnomu cheloveku? CHto est' "neznachitel'nyj" i chto est' "malovazhnyj"? Po mneniyu avtora, eta dvusmyslennost' ne yavlyaetsya nedorabotkoj Treh zakonov. Esli by Tri zakona byli ideal'nymi i ne vyzyvali nikakih somnenij, razve mogli by my pisat' nashi rasskazy? Imenno v hitroumnyh zakoulkah somnenij i lezhat syuzhety, kotorye stanovyatsya fundamentom - uzh prostite za kalambur - "Goroda robotov". YA ne staralsya oblech' v slova Tri zakona v svoem rasskaze "Lzhec", kotoryj poyavilsya v mae 1941 goda. Odnako v sleduyushchem rasskaze pod nazvaniem "Horovod", poyavivshemsya v marte 1942 goda, ya udelil im samoe pristal'noe vnimanie. V etom nomere na sed'moj stroke stranicy sto, odin iz geroev govorit: "Teper' slushaj. Nachnem s Treh osnovnyh zakonov robotehniki - treh pravil, kotorye prochno zakrepleny v pozitronnom mozgu", i dal'she ya ih citiruyu. Naskol'ko mne izvestno, eto pervoe poyavlenie v pechati slova "robotehnika", kotoroe ya izobrel. S teh por v techenie bolee chem soroka let, kogda ya napisal mnozhestvo rasskazov i romanov o robotah, ni razu ne vozniklo takoj situacii, chtoby mne prishlos' modificirovat' Tri zakona. Odnako vremya shlo, moi roboty stanovilis' bolee slozhnymi i raznostoronnimi, i ya pochuvstvoval, chto mozhno vnesti koe-kakie izmeneniya. Takim obrazom, v "Robotah i Imperii", romane, opublikovannom v 1985 godu, ya zagovoril o tom, chto v dostatochnoj stepeni prodvinutyj robot mozhet pochuvstvovat' sebya obyazannym predotvratit' vred, kotoryj, vozmozhno, budet prichinen vsemu chelovechestvu v celom, a ne kakomu-to otdel'nomu individuumu. YA nazval ego "Nulevym zakonom robotehniki" i vse eshche prodolzhayu nad nim rabotat'. Izobretenie Treh zakonov robotehniki - pozhaluj, samyj krupnyj vklad, vnesennyj mnoj v nauchnuyu fantastiku. Teper' ih chasto citiruyut dazhe te, kto ne imeet nikakogo otnosheniya k dannoj oblasti literatury, i uzh tochno mozhno skazat', chto istoriya robotehniki ne budet schitat'sya polnoj bez upominaniya Treh zakonov. V 1985 godu izdatel'stvo "Dzhon Uajli i synov'ya" opublikovalo "Rukovodstvo po promyshlennoj robotehnike" pod redakciej Sajmona J. Nofa, i po pros'be glavnogo redaktora ya napisal vstuplenie, kasayushcheesya Treh zakonov. Sejchas avtory proizvedenij nauchnoj fantastiki proizveli na svet celoe more samyh raznoobraznyh idej, dostupnyh ostal'nym pisatelyam. Imenno po etoj prichine ya nikogda ne vozrazhal protiv togo, chtoby moi kollegi, posvyashchayushchie svoi proizvedeniya robotam, pol'zovalis' moimi Tremya zakonami. Odnako ya kategoricheski vystupal protiv pryamogo ih citirovaniya drugimi avtorami. Otnosites' k Trem zakonam kak k dannosti, no ne povtoryajte ih - takova moya poziciya. Ponyatiya prinadlezhat vsem, a slova - tol'ko mne! |sse No 13. Zakony nauki o cheloveke ----------------------------------------------------- Scan & OCR: Gucu Anatolij (Atlantis) ----------------------------------------------------- Tri moih pervyh romana o robotah byli v osnove svoej posvyashcheny tainstvennym ubijstvam, v roli detektiva vystupal Ilajdzha Bejli. Iz etih treh vo vtorom romane - "Obnazhennoe solnce" - mestom prestupleniya yavlyaetsya zapertaya komnata, v kotoroj nahodyat trup i nikakogo oruzhiya, hotya s samogo nachala yasno, chto spryatat' ili vynesti oruzhie bylo nevozmozhno. Mne udalos' pridumat' vpolne udovletvoritel'noe reshenie, no ya bol'she nikogda ne pisal nichego podobnogo. CHetvertyj roman o robotah - "Roboty i Imperiya" - iznachal'no ne yavlyaetsya istoriej o zagadochnom ubijstve. Ilajdzha Bejli umer sobstvennoj smert'yu v preklonnom vozraste, a dal'she povestvovanie povorachivaet v storonu vselennoj "Osnovaniya", tak chto stanovitsya yasno, chto obe moi izvestnye serii - o robotah i "Osnovanie" - slivayutsya vmeste v edinoe, rasshirennoe celoe. (Net, ya sdelal eto ne sluchajno. Mnoyu dvigala neobhodimost', voznikshaya posle napisaniya v 1980-h godah prodolzheniya serij, sozdannyh v 1940-h i 1950-h.) V "Robotah i Imperii" geroj-robot po imeni ZHiskar, kotorogo ya ochen' lyublyu, rassuzhdaet o "Zakonah nauki o cheloveke", mogushchej, po moemu mneniyu, vposledstvii polozhit' nachalo nauke psihoistorii, igrayushchej sushchestvennuyu rol' v serii "Osnovanie". Strogo govorya, Zakony nauki o cheloveke dolzhny yavlyat'sya opisaniem (v szhatoj forme) povedeniya cheloveka. Estestvenno, takogo opisaniya v prirode ne sushchestvuet. Dazhe psihologi, izuchayushchie dannye problemy s nauchnoj tochki zreniya (po krajnej mere, ya na eto ochen' nadeyus'), ne mogut predstavit' nikakih "zakonov" i otdelyvayutsya lish' dlinnymi i zaputannymi rassuzhdeniyami na temu o tom, chto lyudi delayut, po ih mneniyu. Kogda psiholog govorit, chto chelovek reagiruet opredelennym obrazom na opredelennyj stimulyator, on imeet v vidu, chto tak proishodit s nekotorymi lyud'mi v nekotoryj moment. Drugie v drugoj moment mogut vesti sebya inache ili vovse nikak ne reagirovat'. Esli my budem dejstvitel'no dozhidat'sya poyavleniya nekih pravil povedeniya cheloveka s cel'yu sozdaniya nauki psihoistorii, ya polagayu, my budem vynuzhdeny zhdat' ochen' dolgo. V takom sluchae, chto nam delat' s Zakonami nauki o cheloveke? Dumayu, nuzhno potihon'ku nachat' i postepenno razvivat' ih - esli u nas, konechno, poluchitsya. Takim obrazom, v "Robotah i Imperii" poyavlyaetsya robot ZHiskar, kotoryj podnimaet eti voprosy. Buduchi robotom, on dolzhen smotret' na vse proishodyashchee s tochki zreniya Treh zakonov robotehniki, kotorye zhestko predpisyvayut emu, kak on dolzhen sebya vesti, poskol'ku on obyazan im podchinyat'sya i ne mozhet ih narushit'. 1. Robot ne mozhet prichinit' vred cheloveku ili svoim bezdejstviem dopustit', chtoby cheloveku byl prichinen vred. 2. Robot dolzhen povinovat'sya vsem prikazam, kotorye otdaet chelovek, krome teh sluchaev, kogda eti prikazy protivorechat Pervomu zakonu. 3. Robot dolzhen zabotit'sya o svoej bezopasnosti v toj mere, v kakoj eto ne protivorechit Pervomu i Vtoromu zakonam. Mne kazhetsya, robot ne mozhet ne dumat' o tom, chto chelovecheskim sushchestvam sleduet vesti sebya takim obrazom, chtoby robotam stalo legche vypolnyat' eti Tri zakona. Po pravde govorya, ya schitayu, chto lyudi, priderzhivayushchiesya eticheskih norm, dolzhny starat'sya oblegchit' zhizn' robotam, kak na ih meste postupili by roboty. Dannye razmyshleniya stali temoj rasskaza "Dvuhsotletnij chelovek", opublikovannogo v 1976 godu. Odin geroj-chelovek govorit: "Raz chelovek imeet pravo otdat' robotu lyuboj prikaz, lish' by on ne byl vo vred drugomu cheloveku, to prostaya poryadochnost' ne dolzhna pozvolyat' emu otdavat' robotu rasporyazheniya vo vred etomu robotu, za isklyucheniem teh sluchaev, kogda etogo bessporno trebuet spasenie chelovecheskoj zhizni. CHem bol'she vlast', tem bol'she i otvetstvennost', i esli roboty podchineny Trem zakonam, garantiruyushchim bezopasnost' lyudej, neuzheli tak uzh mnogo - poprosit', chtoby lyudi vveli zakon-drugoj dlya zashchity robotov?" Naprimer, Pervyj zakon sostoit iz dvuh chastej. Pervaya: "robot ne mozhet prichinit' vred cheloveku" - odnoznachna, i s nej nichego ne nuzhno delat'. Vtoraya: "ili svoim bezdejstviem dopustit', chtoby cheloveku byl prichinen vred", - daet nam nekotorye vozmozhnosti dlya poleta fantazii. CHelovek mozhet postradat' ot kakogo-to neodushevlennogo predmeta. Na nego upadet chto-nibud' tyazheloe, ili on poskol'znetsya i svalitsya v ozero, ili s nim sluchitsya lyuboj iz tysyach neschastnyh sluchaev, predvidet' kotorye nevozmozhno. V takoj situacii robot dolzhen popytat'sya spasti cheloveka: vytashchit' v bezopasnoe mesto, podderzhat' i tomu podobnoe. Ili cheloveku budet ugrozhat' kakoe-nibud' zhivoe sushchestvo, naprimer lev, i togda robot tozhe obyazan prijti emu na pomoshch'. A chto, esli cheloveku ugrozhaet drugoj chelovek? Zdes' robotu pridetsya prinimat' reshenie, chto emu delat'. Smozhet li on spasti odnogo cheloveka, ne prichiniv vred drugomu? Ili esli izbezhat' etogo nevozmozhno, kakie dejstviya sleduet predprinyat', chtoby vred byl minimal'nym? Robotam zhilos' by namnogo legche, esli by lyudi tak zhe bespokoilis' o blagopoluchii drugih lyudej, kak dolzhny eto delat' roboty. I razumeetsya, lyuboj kodeks morali potrebuet ot cheloveka zabotit'sya o drugih i starat'sya sdelat' vse, chtoby im ne byl prichinen vred. CHto, v konce koncov, i yavlyaetsya mandatom, kotoryj lyudi dali robotam. Poluchaetsya, chto Pervyj zakon nauki o cheloveke s tochki zreniya robotov dolzhen zvuchat' tak: 1. CHelovek ne mozhet dopustit' vred cheloveku ili svoim bezdejstviem dopustit', chtoby cheloveku byl prichinen vred. Esli etot zakon budet vypolnyat'sya, robotam ostanetsya lish' oberegat' lyudej ot neschastnyh sluchaev s neodushevlennymi predmetami i zhivymi sushchestvami (ne lyud'mi), chto osvobodit ih ot resheniya eticheskih problem. Razumeetsya, robot dolzhen oberegat' cheloveka ot vreda, kotoryj mozhet neosoznanno prichinit' emu drugoe chelovecheskoe sushchestvo. Krome togo, on obyazan byt' gotov prijti emu na pomoshch', esli drugoj chelovek po ob®ektivnym prichinam ne v sostoyanii okazat' emu etu pomoshch' dostatochno bystro. Odnako dazhe robot mozhet neosoznanno navredit' cheloveku, i dazhe robot mozhet ne proyavit' dostatochnoj snorovki i ne uspet' popast' k mestu dejstviya, da i umenij emu mozhet ne hvatit', chtoby predprinyat' neobhodimye mery. Nichto v nashem mire ne ideal'no. Takim obrazom, my podhodim ko Vtoromu zakonu robotehniki, kotoryj trebuet, chtoby robot povinovalsya vsem prikazam, otdannym emu chelovekom, esli oni ne vstupayut v konflikt s Pervym zakonom. |to oznachaet, chto chelovek imeet pravo prikazyvat' robotu vse, chto ugodno, bez ogranichenij, esli tol'ko ego zhelaniya ne prichinyat vred drugomu cheloveku. No ved' chelovek mozhet prikazat' robotu nechto nevypolnimoe ili ego volya postavit robota pered dilemmoj, kotoraya mozhet povredit' pozitronnyj mozg. V rasskazhe "Lzhec", opublikovannom v 1940 godu, chelovek sovershenno soznatel'no postavil pered robotom zadachu, kotoraya sozhgla ego mozg, i mashina perestala sushchestvovat'. My mozhem dazhe predstavit' situaciyu, kogda poyavyatsya dostatochno razumnye roboty, kotorye budut v sostoyanii izbezhat' gibeli, esli ih vynudyat delat' nechto bessmyslenno slozhnoe ili zlostnoe. Sledovatel'no, Vtoroj zakon nauki o cheloveke dolzhen glasit': 2. CHelovek dolzhen otdavat' robotu prikazy, kotorye ne vredyat sushchestvovaniyu robota, esli tol'ko eti prikazy ne yavyatsya prichinoj vreda ili neudobstva dlya drugih lyudej. Cel'yu Tret'ego zakona robotehniki bylo zashchitit' robotov, no s tochki zreniya robota on mozhet pokazat'sya ne slishkom nadezhnym. Robot dolzhen pozhertvovat' soboj, esli togo potrebuyut Pervyj i Vtoroj zakony. Kogda rech' idet o Pervom zakone, tut ne mozhet byt' nikakih vozrazhenij. Robot obyazan zabyt' o sobstvennoj bezopasnosti, esli eto edinstvennyj put' zashchitit' cheloveka ili predotvratit' opasnost', kotoraya emu ugrozhaet. Esli my priznaem, chto lyuboe chelovecheskoe sushchestvo vazhnee lyubogo robota (po pravde govorya, ya priznayu eto ne vpolne ohotno), to takaya formulirovka neizbezhnoa. S drugoj storony, dolzhen li robot zhertvovat' soboj, vypolnyaya kakoj-nibud' nesushchestvennyj ili dazhe vredonosnyj prikaz? V "Dvuhsotletnem cheloveke" huligany soznatel'no prikazyvayut robotu razobrat' sebya na chasti isklyuchitel'no radi sobstvennogo razvlecheniya. Poluchaetsya, chto Tretij zakon nauki o cheloveke dolzhen zvuchat' sleduyushchim obrazom: 3. CHelovek ne dolzhen prichinyat' vreda robotu ili svoim bezdejstviem dopustit', chtoby robotu byl prichinen vred, krome teh sluchaev, kogda robot vynuzhden pozhertvovat' soboj, chtoby spasti cheloveka ili vypolnit' zhiznenno vazhnyj prikaz. Estestvenno, my ne mozhem navyazat' eti zakony, kak v situacii s zakonami robotehniki. My ne v silah zaprogrammirovat' mozg cheloveka, kak mozg robota. Odnako eto nachalo, i ya iskrenne schitayu, chto, esli nam predstoit upravlyat' umnymi robotami, my dolzhny byt' za nih otvetstvenny, kak skazal moj geroj iz rasskaza "Dvuhsotletnij chelovek". |sse No 14. Kiberneticheskij organizm ----------------------------------------------------- Scan & OCR: Gucu Anatolij (Atlantis) ----------------------------------------------------- Robot - eto robot, a organizm - eto organizm. Organizm, kak nam izvestno, sostoit iz kletok. S molekulyarnoj tochki zreniya, glavnymi yavlyayutsya nukleinovye kisloty i proteiny. Oni nahodyatsya v zhidkoj srede, kotoruyu podderzhivaet kostnaya struktura. Bessmyslenno prodolzhat' rassuzhdat' na dannuyu temu, poskol'ku my vse znakomy so stroeniem organizmov i sami yavlyaemsya odnoj iz ego raznovidnostej. S drugoj storony, robot (kak ego prinyato opisyvat' v nauchno-fantasticheskoj literature) eto ob®ekt, otnositel'no pohozhij na cheloveka, postroennyj iz nadezhnogo metalla, ne podverzhennogo rzhavleniyu. Fantasty redko opisyvayut vnutrennee stroenie robotov, poskol'ku eto ne imeet principial'nogo znacheniya dlya syuzheta, da oni i ne osobenno razbirayutsya v tehnicheskih detalyah. Odnako iz rasskazov chasto skladyvaetsya vpechatlenie, chto vnutri robota imeetsya massa provodov, po kotorym provoditsya elektrichestvo, i nikakih trubok dlya toka krovi. Istochnik pitaniya, kak pravilo, ne nazyvaetsya, ili stanovitsya yasno, chto on imeet otnoshenie k atomnoj energii. A kak naschet mozga? Kogda ya napisal svoi pervye rasskazy o robotah v 1939 i 1940 godah, ya predstavil sebe "pozitronnyj mozg" gubchatogo tipa iz splava platiny i iridiya. YA vybral imenno takoj material, potomu chto on osobenno inercionen i men'she vsego podverzhen himicheskim reakciyam. Gubchatyj on dlya togo, chtoby obespechit' bol'shuyu poverhnost', na kotoroj mogut sozdavat'sya i razrushat'sya elektricheskie shemy. "Pozitronnyj" - poskol'ku za chetyre goda do moego pervogo rasskaza o robotah byl otkryt pozitron kak protivoves elektronu, i potomu "pozitronnyj" vmesto "elektronnyj" neploho zvuchalo s tochki zreniya fantastiki. Razumeetsya, segodnya moj pozitronnyj mozg iz splava platiny i iridiya beznadezhno ustarel. Dazhe cherez desyat' let posle ego izobreteniya on kazalsya arhaichnym. K koncu 1940-h godov my uzhe ponimali, chto mozg robota dolzhen byt' chem-to vrode komp'yutera. Dejstvitel'no, esli robot nastol'ko slozhen, kakim on opisyvaetsya v moih bolee svezhih romanah, ego mozg dolzhen byt' pohozh na mozg cheloveka i sostoyat' iz kroshechnyh mikrochipov, ne krupnee kletok mozga. A teper' davajte predstavim sebe nechto ne yavlyayushcheesya ni organizmom, ni robotom, a kombinaciej i togo i lrugogo. Vozmozhno, my imeem pravo rassmatrivat' ego kak organizm-robot ili "orbot". Vne vsyakogo somneniya, eto ne slishkom udachnoe nazvanie, posokl'ku my vsego lish' perestavili dve bukvy. Skazat' "orgabot" - znachit pridumat' dovol'no urodlivoe slovo. My mozhem nazvat' eto sozdanie robot-organizm, ili "robotanizm" (chto, nesomnenno, eshche huzhe), ili "roborg". Lichno mne kazhetsya, chto "roborg" zvuchit ne tak uzh ploho, no i eto imya ne goditsya. Davnym-davno Norbert Viner nazval nauku o komp'yuterah kibernetikoj, i potomu, esli my budem rassmatrivat' nechto srednee mezhdu organizmom i robotom, kiberneticheskim ustrojstvom po svoej prirode, u nas mozhet poluchit'sya "kiberneticheskij organizm", ili "kiborg". |to slovo dejstvitel'no prekrasno prizhilos' i postoyanno ispol'zuetsya. CHtoby ponyat', kakim dolzhen byt' kiborg, davajte nachnem s chelovecheskogo organizma i postepenno podojdem k robotu. A kogda my s etim pokonchim, povtorim tot zhe process - tol'ko v obratnom napravlenii. CHtoby perejti ot chelovecheskogo organizma k robotu, my dolzhny nachat' s zameny chastej chelovecheskogo organizma na chasti robota. V nekotoryh oblastyah my uzhe k etomu pereshli. Naprimer, bol'shinstvo moih zubov sdelano iz metalla, kotoryj yavlyaetsya glavnym stroitel'nym materialom dlya robotov. Estestvenno, chasti, kotorye my budem zamenyat', ne obyazatel'no dolzhny byt' mehanicheskimi. Koe-kakie iz moih zubov sdelany iz keramiki, i ih nevozmozhno otlichit' ot nastoyashchih. Odnako dazhe nesmotrya ne to, chto keramika vneshne (i do opredelennoj stepeni po svoemu himicheskomu sostavu) ne otlichaetsya ot prirodnogo materiala, iz kotorogo sostoyat moi zuby, ona ne neset v sebe nikakih priznakov zhivoj materii. Pojdem dal'she. Moya grudina, kotoraya byla raspilena v dlinu dlya provedeniya operacii mnogo let nazad, soedinena metallicheskimi skobami. U moej nevestki iskustvennyj bedrennyj sustav. YA znayu lyudej, u kotoryh iskustvennye ruki ili nogi, i takie konechnosti s kazhdym godom stanovyatsya vse slozhnee po svoej konstrkucii, tak chto ih vladel'cy mogut imi pol'zovat'sya pochti kak nastoyashchimi. My znaem pro lyudej, kotorye prozhili neskol'ko dnej ili dazhe mesyacev s iskustvennym serdcem, i takih, ch'ya zhizn' prodlena na gody pri pomoshchi elektrokardiostimulyatora. My mozhem predstavit' sebe vremena, kogda ta ili inaya chast' chelovecheskogo organizma budet zamenena neorganicheskimi materialami ili ustrojstvami, sozdannymi inzhenerami. Sushchestvuet li hotya by chto-nibud', chto nevozmozhno zamenit' - po krajnej mere, v nashem voobrazhenii? YA dumayu, otvet ocheviden. Zamenite lyubuyu chast' chelovecheskogo tela ili organizma - konechnosti, serdce, pechen', kosti i tomu podobnoe, no chelovek vse ravno ostanetsya chelovekom. S iskustvennymi chastyami tela, no vse ravno chelovekom. A kak naschet mozga? Vne vsyakogo somneniya, edinstvennoe, chto delaet nas lyud'mi, eto mozg. A individual'nostyami nas delaet isklyuchitel'no slozhnoe ego stroenie, chuvstva, znaniya, pamyat'. Vy ne mozhete vzyat' i zamenit' mozg myslyashchim ustrojstvom, izgotovlennym na zavode. Neobhodimo vnesti nechto takoe, chto vklyuchaet v sebya vse, izvestnoe chelovecheskomu mozgu, obladaet ego pamyat'yu i polnost'yu povtoryaet shemu ego raboty. Iskustvennaya konechnost' mozhet dejstvovat' ne identichno nastoyashchej, no, odnako, vypolnyat' nekotorye neobhodimye funkcii. To zhe samoe my skazhem ob iskustvennoj pochke, legkom ili pecheni. Iskustvennyj mozg dolzhen stat' tochnoj kopiej mozga, kotoryj on zamenyaet, ili chelovek perestanet byt' tem chelovecheskim sushchestvom, kotorym on byl. Znachit, samym slozhnym v perehode ot chelovecheskogo organizma k robotu yavlyaetsya mozg. A naoborot? V "Dvuhsotletnem cheloveke" ya opisal prevrashchenie moego geroya-robota, |ndryu Martina, v cheloveka. Ochen' medlenno, ponemnogu on menyal sebya, poka vneshne ne stal neotlichim ot cheloveka. On demonstriroval intellekt, ravnyj chelovecheskomu (ili dazhe prevoshodyashchij ego). On byl istorikom, hudozhnikom, uchenym, administratorom. Sumel provesti zakony, garantiruyushchie robotam opredelennye prava, i zavoeval vseobshchee uvazhenie i voshishchenie. Odnako emu tak i ne udalos' dobit'sya togo, chtoby ego schitali chelovekom. I glavnaya prichina zdes' tozhe zaklyuchalas' v probleme mozga. On ponyal, chto dolzhen reshit' etu zadachu, prezhde chem odolet' poslednij bar'er. I tut my podhodim k dihotomii tela i mozga. Nastoyashchim kiborgom sleduet schitat' takogo, u kotorgo telo i mozg ne sootvetstvuyut drug drugu. Znachit, my imeem dve gruppy sovershennyh kiborgov: a) mozg robota v tele cheloveka; b) mozg cheloveka v tele robota. Sovershenno ochevidno, chto my ocenivaem chelovecheskoe sushchestvo (ili robota) po pervomu vneshnemu vpechatleniyu, kotoroe on proizvodit. YA legko mogu predstavit' sebe muzhchinu, kotoryj, uvidev zhenshchinu porazitel'noj krasoty, s blagogoveniem zamret na meste. "Kakaya krasavica!" - skazhet ili podumaet on. I bez problem predstavit sebe, kak vlyublyaetsya v nee s pervogo vzglyada. V romanah tak proishodit dovol'no regulyarno. Razumeetsya, zhenshchina, uvidevshaya potryasayushche krasivogo muzhchinu, otreagiruet na nego tochno tak zhe. Esli vy teryaete golovu ot voshititel'no krasivogo cheloveka, vryad li vy stanete zadavat' sebe vopros, nadelila li ego (ili ee) priroda razvitym intellektom, horoshim harakterom, zdravym smyslom, dobrotoj i blagorodstvom. Esli v konce koncov vyyasnyaetsya, chto krasota - edinstvennoe dostoinstvo dannogo cheloveka, vy vse ravno najdete etomu massu opravdanij i budete ostavat'sya zhertvoj (po krajnej mere, nekotoroe vremya) uslovnogo refleksa, kotoryj vyzyvaet eroticheskie reakcii. Razumeetsya, nastupit moment, kogda vy ustanete ot prekrasnoj vneshnosti bez kakogo-libo vnutrennego soderzhaniya, no kto znaet, skol'ko dolzhno projti vremeni, chtoby eto proizoshlo? S drugoj storony, chelovek s ogromnym kolichestvom polozhitel'nyh kachestv, no vpolne zauryadnoj vneshnost'yu mozhet ne obratit' na sebya vashe vnimanie, esli tol'ko vy ne obladaete dostatochno razvitym intellektom, chtoby uvidet' eti kachestva i ponyat', chto s dannym chelovekom vas zhdet dolgaya i schastlivaya zhizn'. YA hochu skazat', chto kiborg s mozgom robota v tele cheloveka budet prinyat bol'shinstvom, esli ne vsemi, kak chelovecheskoe sushchestvo, v to vremya kak kiborg s mozgom cheloveka v tele robota budet rassmatrivat'sya bol'shinstvom, esli ne vsemi, kak robot. V konce koncov, my vse, po krajnej mere dlya bol'shinstva, to, chem my kazhemsya vneshne. Odnako eti dva diametral'no protivopolozhnyh kiborga postavyat pered lyud'mi sovershenno raznye problemy. Predstav'te sebe mozg robota v tele cheloveka i zadajte vopros, zachem nuzhen takoj perenos. Mozg robota budet chuvstvovat' sebya namnogo luchshe v tele robota, poskol'ku telo cheloveka menee nadezhno. Voz'mem, naprimer, telo molodogo zdorovogo cheloveka, mozg kotorgo povrezhden v rezul'tate travmy ili bolezni. Vy mozhete podumat': "Zachem propadat' takomu prekrasnomu telu? Davajte snabdim ego mozgom robota, i on smozhet prozhit' polnocennuyu zhizn'". Esli vy tak postupite, chelovecheskoe sushchestvo, poluchivsheesya v rezul'tate, ne budet imet' nichego obshchego s iznachal'nym. Vy budete imet' sovsem drugogo cheloveka. Vy sohranite ne individual'nost', a lish' opredelennoe bezdushnoe telo. A chelovecheskoe telo, kakoe ugodno prekrasnoe, bez mozga, kotoryj emu sootvetstvuet, - veshch' deshevaya. Kazhdyj den' na svet poyavlyaetsya polmilliona novyh tel. Net nikakoj nuzhdy sohrantya' kakoe-to iz nih, esli povrezhden mozg. S drugoj storony, kak naschet chelovecheskogo mozga v tele robota? Nash mozg ne vechen, no on mozhet sushchestvovat' do devyanosta let, ne stanovyas' sovershenno bespoleznym. Prichem izvestno mnozhestvo sluchaev, kogda i v devyanosto let lyudi sohranyali ostrotu uma i byli sposobny producirovat' razumnye i lyubopytnye mysli. Odnako my znaem i takie sluchai, kogda velikolepnyj mozg pogibal posle dvadcati ili tridcati let sushchestvovaniya, potomu chto telo, v kotorom on nahodilsya, umiralo v rezul'tate travmy ili bolezni. V takom sluchae vyhodit, chto u nas est' ser'eznye osnovaniya dlya perenosa absolyu'no zdorovogo (ili genial'nogo) mozga v telo robota, chtoby prodlit' ego poleznoe sushchestvovanie. Takim obrazom, kogda my govrim "kiborg", m