SUMMA TEHNOLOGII

GLAVA CHETVERTAYA

INTELLEKTRONIKA

             
(m)  PRIZRAK V MASHINE   
     
     "Prizrakom v mashine" - the ghost in the machine- nekotorye anglijskie
psihologi (naprimer,  Rajl)  nazyvayut  ubezhdenie  v  dvojstvennoj  prirode
cheloveka, yakoby slagayushchegosya iz "materii" i "dushi".
     Soznanie ne yavlyaetsya tehnologicheskoj problemoj, tak kak  konstruktora
ne interesuet, chuvstvuet li mashina; dlya  nego  vazhno,  dejstvuet  li  ona.
Poetomu "tehnologiya soznaniya" mozhet vozniknut', tak  skazat',  tol'ko  kak
pobochnyj effekt, esli okazhetsya,  chto  opredelennyj  klass  kiberneticheskih
ustrojstv obladaet sub®ektivnym mirom psihicheskih perezhivanij.
     Kakim putem, odnako, mozhno ustanovit' nalichie soznaniya v mashine? |tot
vopros imeet ne  tol'ko  abstraktno-filosofskoe  znachenie:  esli  v  nekoj
mashine, prednaznachennoj na  slom  iz-za  nerentabel'nosti  remonta,  budet
obnaruzheno soznanie, to nash akt razrusheniya material'nogo  predmeta,  vrode
grammofona, prevratitsya v akt unichtozheniya lichnosti, soznayushchej svoyu gibel'.
Mozhno bylo by snabdit' grammofon pereklyuchatelem  i  takoj  gramplastinkoj,
chto pri popytke prikosnut'sya k nemu  my  uslyshali  by  vozglasy:  "Umolyayu,
poshchadi moyu zhizn'!" Kak otlichit'  takoj  nesomnenno  bezdushnyj  apparat  ot
myslyashchej mashiny? Tol'ko putem razgovora s nej. Anglijskij  matematik  Alan
T'yuring v  rabote  "Mozhet  li  mashina  myslit'?" 1  predlagaet  v  kachestve
reshayushchego kriteriya "igru v imitaciyu",  sostoyashchuyu  v  tom,  chto  my  zadaem
Komu-to proizvol'nye voprosy i  na  osnovanii  poluchennyh  otvetov  dolzhny
reshit', yavlyaetsya li etot  Kto-to  chelovekom  ili  mashinoj.  Esli  otlichit'
mashinu ot cheloveka ne udaetsya, sleduet priznat', chto mashina vedet sebya kak
chelovek, to est' obladaet soznaniem. Otmetim, chto  igru  mozhno  uslozhnit'.
Myslimy dva  vida  mashin.  Pervyj  -  "obychnaya"  cifrovaya  mashina  toj  zhe
slozhnosti, chto i chelovecheskij mozg; s nej mozhno igrat' v shahmaty, govorit'
o knigah, o mire, na lyubye temy voobshche. Otkryv ee, my uvideli by  ogromnoe
kolichestvo elektricheskih cepej, soedinennyh v  shemy,  podobnye  nejronnym
setyam mozga, zatem bloki pamyati i t.p.
     Vtoroj tip mashin sovershenno inoj. |to uvelichennyj do razmerov planety
(ili kosmosa) Grammofon. V  nem  ochen'  mnogo,  naprimer  sto  trillionov,
zapisannyh otvetov na vsevozmozhnye voprosy. Kogda my zadaem vopros,  takaya
mashina, konechno, "nichego ne ponimaet", no  sama  forma  voprosa,  to  est'
posledovatel'nost'  kolebanij  nashego  golosa,  zapuskaet  rele,   kotoroe
privodit v dejstvie plastinku ili  lentu  s  zapisannym  otvetom.  Voprosy
tehnicheskogo  roda  ostavim  v  storone.   Ponyatno,   chto   takaya   mashina
neekonomichna, chto ee nikto ne budet stroit', potomu chto eto nevozmozhno,  a
glavnoe,  neponyatno,  zachem  ee  nado  bylo  by  stroit'.  Nas  interesuet
teoreticheskaya  storona.  Esli  ne  vnutrennee  ustrojstvo,  a  odno   lish'
povedenie reshaet vopros o nalichii soznaniya v mashine, to ne pospeshim li  my
s vyvodom, budto u "kosmicheskogo grammofona" est' soznanie, - i tem  samym
vyskazhem zavedomyj nonsense (ili, tochnee, lozh')?
     Udastsya  li,  odnako,  zaprogrammirovat'   vse   vozmozhnye   voprosy?
Razumeetsya, chelovek v srednem za svoyu zhizn'  ne  otvechaet  i  na  milliard
voprosov. My zhe mogli by zapisat' na vsyakij sluchaj vo  mnogo  raz  bol'she.
Kak postupit' v etom sluchae? Neobhodimo vesti  igru  s  dostatochno  gibkoj
strategiej. My zadaem vopros: lyubite li vy anekdoty? Mashina,  predpolozhim,
otvechaet,  chto  ona,  konechno,  lyubit  anekdoty,  tol'ko  ostroumnye.   My
rasskazyvaem ej anekdot. Ona smeetsya (tochnee, smeetsya golos  v  telefonnoj
trubke). Libo etot anekdot byl zapisan na  ee  lentah,  chto  pozvolilo  ej
vklyuchit' nuzhnuyu reakciyu,  libo  eto  dejstvitel'no  myslyashchaya  mashina  (ili
chelovek, ved' my i etogo ne znaem). My razgovarivaem eshche nekotoroe  vremya,
zatem vnezapno sprashivaem, pomnit li ona anekdot, rasskazannyj pered etim?
Esli ona dejstvitel'no myslit, ona dolzhna pomnit'. Ona skazhet, chto pomnit.
My poprosim povtorit' ego svoimi slovami.  A  vot  eto  uzhe  ochen'  trudno
zaprogrammirovat',   potomu   chto   tut    my    vynuzhdaem    konstruktora
"kosmogrammofona" zapisat' ne tol'ko vse  vozmozhnye  otvety,  no  i  celye
posledovatel'nosti fraz, kakie mogut vstretit'sya  v  razgovorah.  |to  uzhe
trebuet pamyati, plastinok ili lent v kolichestve, kakogo,  byt'  mozhet,  ne
vmestit vsya solnechnaya sistema. Predpolozhim, chto mashina ne mozhet  povtorit'
anekdot. My "razoblachaem" ee: eto  grammofon.  Konstruktor,  uyazvlennyj  v
svoem  samolyubii,  nachinaet  sovershenstvovat'  mashinu,  dostraivaya  k  nej
pamyat', s pomoshch'yu kotoroj ona mogla  by  povtoryat'  rasskazannoe.  No  tem
samym on delaet pervyj shag na puti ot mashiny-grammofona k myslyashchej mashine.
Bessoznatel'naya mashina ne  mozhet  ustanovit'  tozhdestvennost'  voprosov  s
analogichnym  soderzhaniem,  no  sformulirovannyh  hotya  by   s   nebol'shimi
formal'nymi  otkloneniyami;  poetomu  voprosy  "Horosho  li  bylo  vchera  na
ulice?", "Horoshaya li stoyala vchera pogoda?",  "Ne  byl  li  pogozhim  denek,
predshestvovavshij segodnyashnemu?" i t.d. i t.p. dlya takoj  mashiny  razlichny,
togda kak  dlya  myslyashchej  oni  tozhdestvenny.  Konstruktor  vnov'  i  vnov'
razoblachaemoj mashiny dolzhen budet  vse  vremya  ee  peredelyvat'.  Nakonec,
posle dlinnoj serii peredelok on vvedet v mashinu sposobnost' k indukcii  i
dedukcii,  k  associaciyam,  k   ponimaniyu   odinakovoj   suti   po-raznomu
sformulirovannyh, no odinakovyh po soderzhaniyu voprosov i t.p.  I  v  konce
koncov on poluchit "obyknovennuyu" myslyashchuyu mashinu.
     Voznikaet zanyatnaya problema: v kakoj,  sobstvenno,  moment  v  mashine
poyavilos' soznanie? Predpolozhim, chto konstruktor ne peredelyval mashinu,  a
otnosil kazhdyj raz v muzej i  sleduyushchuyu  model'  stroil  zanovo.  V  muzee
sobralos' 10000 mashin - takovo bylo chislo modifikacij. V  summe  eto  daet
plavnyj perehod ot "bezdushnogo  avtomata",  vrode  muzykal'nogo  yashchika,  k
"mashine, kotoraya myslit". Kakuyu mashinu my dolzhny schitat' uzhe  soznatel'noj
- No7852 ili tol'ko No9973? Oni otlichayutsya odna ot drugoj tem, chto pervaya ne
umela ob®yasnit', pochemu ona smeetsya nad anekdotom, i lish'  povtoryala,  chto
on chertovski smeshon, a vtoraya umeet.  No  nekotorye  lyudi  smeyutsya,  slysha
anekdoty, hotya ne mogut ob®yasnit', chto v nih smeshno. Izvestno, chto  teoriya
yumora - trudnyj oreshek. Lisheny li eti lyudi soznaniya?  Konechno,  net;  oni,
po-vidimomu,  ne  slishkom  soobrazitel'ny,  malointelligentny,  ih  um  ne
obladaet snorovkoj v analiticheskom podhode k  problemam;  no  my  ved'  ne
sprashivaem, umna mashina ili tupovata, a tol'ko est'  u  nee  soznanie  ili
net.
     Sleduet, po-vidimomu, priznat', chto u modeli No1 nulevoe  soznanie,  a
model'  No10000  obladaet  polnym  soznaniem,  togda  kak   soznanie   vseh
promezhutochnyh modelej "vse vozrastaet".  |ta  konstataciya  pokazyvaet  vsyu
beznadezhnost' zatei tochno lokalizirovat'  soznanie.  Otklyuchenie  otdel'nyh
elementov ("nejronov") mashiny privedet lish' k edva zametnym kolichestvennym
izmeneniyam ("oslableniyu") soznaniya, kak delaet eto v zhivom  mozge  bolezn'
ili nozh hirurga.  Material  i  razmery  "myslyashchego  ustrojstva"  ne  imeyut
nikakogo znacheniya dlya dannoj problemy. Mozhno postroit' myslyashchuyu mashinu  iz
otdel'nyh  blokov,  otvechayushchih,  skazhem,  otdel'nym  mozgovym   izvilinam.
Razdelim teper' eti bloki i razmestim ih po  vsej  Zemle  -  v  Moskve,  v
Parizhe, v Mel'burne, v Iokogame i t.d. Sami po sebe eti bloki  "psihicheski
mertvy", no soedinennye drug s drugom (telefonnym kabelem,  naprimer)  oni
sostavlyali by  edinoe  celoe,  "lichnost'",  edinyj  "myslyashchij  gomeostat".
Soznanie takoj mashiny, konechno, ne nahoditsya ni v Moskve, ni v Parizhe,  ni
v Iokogame. V opredelennom smysle ono nahoditsya v kazhdom iz etih  gorodov,
i vmeste s tem - ni v odnom iz nih. Ved' nel'zya skazat'  o  soznanii,  chto
ono, kak Visla, protyanulos' ot Tatr do Baltiki. Da i sam chelovecheskij mozg
tozhe stavit pered nami, hotya i ne  stol'  rezko,  analogichnuyu  problemu  -
krovenosnye sosudy, belkovye molekuly  i  soedinitel'nye  tkani  nahodyatsya
vnutri mozga, no ne vnutri soznaniya; nel'zya takzhe i skazat', chto  soznanie
nahoditsya pod samym svodom cherepa ili chto ono  raspolozheno  nemnogo  nizhe,
vozle ushej po obe storony golovy. Ono "rasseyano" po vsemu  gomeostatu,  po
vsej ego funkcional'noj seti. I bol'she nichego o sem predmete skazat' my ne
mozhem, esli hotim sochetat' rassudok s osmotritel'nost'yu.

1 
     A. T'yuring, Mozhet li mashina myslit'?, Fizmatgiz, 1960.