Aparatas – žurnalas apie naują visuomenę. Niko Bostromo dirbtinis intelektas

Kas atsitiks, jei mašinos intelektu pralenks žmones? Ar jie mums padės, ar sunaikins žmonių rasę? Ar šiandien galime nekreipti dėmesio į dirbtinio intelekto plėtros problemą ir jaustis visiškai saugiai? Savo knygoje Nickas Bostromas bando suprasti žmonijos problemą, susijusią su superintelekto atsiradimo perspektyva, ir analizuoti jos atsaką. Pirmą kartą išleista rusų kalba.

* * *

Toliau pateikiama ištrauka iš knygos Dirbtinis intelektas. Etapai. Grasinimai. Strategijos (Nickas Bostromas, 2014 m.) pateikė mūsų knygų partneris – įmonė „LitRes“.

Antras skyrius

Kelias į superintelektą

Šiandien, jei imtume bendro intelektualinio išsivystymo lygį, mašinos yra absoliučiai prastesnės už žmones. Tačiau vieną dieną – manome – mašinos protas pranoks žmogaus protą. Koks bus mūsų kelias nuo dabar iki to, kuris mūsų laukia? Šiame skyriuje aprašomi keli galimi technologiniai variantai. Pirmiausia apimsime tokias temas kaip dirbtinis intelektas, visiškas smegenų emuliavimas, žmogaus pažinimo tobulinimas, smegenų ir kompiuterio sąsaja, tinklai ir organizacijos. Tada išvardintus aspektus įvertinsime tikimybių požiūriu, ar jie gali pasitarnauti kaip pakilimo į superintelektą žingsniai. Naudojant kelis kelius, tikimybė kada nors pasiekti kelionės tikslą akivaizdžiai padidėja.

Pirmiausia apibrėžkime superintelekto sąvoką. tai bet koks intelektas, kuris žymiai viršija pažintines žmogaus galimybes praktiškai bet kurioje srityje(87) . Kitame skyriuje plačiau aptarsime, kas yra superintelektas, išskaidysime jį į komponentus ir išskirsime visus galimus jo įsikūnijimus. Bet dabar apsiribokime tokiu bendru ir paviršutinišku apibūdinimu. Atkreipkite dėmesį, kad šiame aprašyme nebuvo vietos nei superproto įgyvendinimui į gyvenimą, nei jo kokybei, tai yra, ar jis bus apdovanotas subjektyviais išgyvenimais ir sąmonės patirtimi. Tačiau tam tikra prasme, ypač etine, klausimas yra labai svarbus. Tačiau dabar, palikę nuošalyje intelektualinę metafiziką (88), atkreipsime dėmesį į du klausimus: superproto atsiradimo prielaidas ir šio reiškinio pasekmes.

Pagal mūsų apibrėžimą, Deep Fritz šachmatų programa nėra superinteligentiška, nes ji yra „stipri“ tik labai siauroje srityje – žaidimo šachmatais. Nepaisant to, labai svarbu, kad superintelektas turėtų savo dalykines specializacijas. Todėl kiekvieną kartą, kai kalba eina apie vieną ar kitą dalykinės srities apribotą superintelektualų elgesį, atskirai išskirsiu konkrečią jo veiklos sritį. Pavyzdžiui, dirbtinis intelektas, gerokai pranokstantis žmogaus protinius gebėjimus programavimo ir projektavimo srityse, bus vadinamas inžineriniu superintelektu. Tačiau kalbant apie sistemas, apskritai viršijantis bendrą žmogaus intelekto lygį – jei nenurodyta kitaip – terminas išlieka pergalvoti.

Kaip pasieksime tą laiką, kai bus galima pasirodyti? Kurį kelią pasirinksime? Pažvelkime į keletą galimų variantų.

Dirbtinis intelektas

Gerbiamas skaitytojau, nesitikėk, kad šiame skyriuje bus konceptualizuotas klausimas, kaip sukurti universalų arba stiprų dirbtinį intelektą. Jo programavimo projektas tiesiog neegzistuoja. Bet net jei būčiau laimingas tokio plano savininkas, tikrai jo neskelbčiau savo knygoje. (Jei to priežastys dar nėra akivaizdžios, tikiuosi, kad tolesniuose skyriuose galėsiu vienareikšmiškai paaiškinti savo poziciją.)

Tačiau jau šiandien galima atpažinti kai kurias tokiai protingai sistemai būdingas privalomas savybes. Visiškai akivaizdu, kad galimybė mokytis, kaip neatsiejama sistemos branduolio savybė, turėtų būti įtraukta į dizainą, o ne vėliau kaip pavėluotas svarstymas, plėtojant. Tas pats pasakytina ir apie gebėjimą veiksmingai tvarkyti neapibrėžtą ir tikimybę turinčią informaciją. Greičiausiai tarp pagrindinių šiuolaikinio AI modulių turėtų būti išgavimo priemonės Naudinga informacija iš išorinių ir vidinių jutiklių duomenų ir gautų sąvokų konvertavimą į lanksčias kombinatorines reprezentacijas, kad būtų galima toliau naudoti mąstymo procesuose, paremtuose logika ir intuicija.

Pirmosios klasikinio dirbtinio intelekto sistemos pirmiausia nebuvo skirtos mokymuisi, darbui neapibrėžtumo sąlygomis ir sąvokų formavimuisi, tikriausiai dėl to, kad tuo metu nebuvo pakankamai išvystyti atitinkami analizės metodai. Tai nereiškia, kad visos pagrindinės AI idėjos yra iš esmės naujoviškos. Pavyzdžiui, idėją panaudoti mokymąsi kaip priemonę sukurti paprastą sistemą ir perkelti ją į žmogaus lygmenį Alanas Turingas išreiškė 1950 m. straipsnyje „Kompiuteris mokslas ir intelektas“, kur jis išdėstė savo „vaiko“ koncepciją. mašina":

Kodėl mums nepabandžius sukurti programos, imituojančios suaugusiojo protą, o ne bandant sukurti programą, kuri imituotų vaiko mintis? Juk jei vaiko protas gauna atitinkamą išsilavinimą, jis tampa suaugusio žmogaus protu (89) .

Turingas numatė, kad norint sukurti „vaiko mašiną“ reikės kartotino proceso:

Vargu ar iš pirmo bandymo pavyks gauti gerą „vaikišką mašiną“. Būtina atlikti bet kurios tokio tipo mašinų mokymo eksperimentą ir išsiaiškinti, kaip jis tinka mokymuisi. Tada atlikite tą patį eksperimentą su kita mašina ir nustatykite, kuri iš dviejų mašinų yra geresnė. Yra akivaizdus ryšys tarp šio proceso ir gyvosios gamtos evoliucijos...

Nepaisant to, galima tikėtis, kad šis procesas vyks greičiau nei evoliucija. Stipriausiųjų išgyvenimas yra per lėtas būdas įvertinti naudą. Eksperimentuotojas, taikydamas intelekto galią, gali pagreitinti vertinimo procesą. Taip pat svarbu, kad tai neapsiriboja tik atsitiktinių mutacijų naudojimu. Jei eksperimentuotojas gali atsekti kokio nors trūkumo priežastį, jis greičiausiai sugebės sugalvoti tokią mutaciją, kuri lems būtiną patobulinimą (90).

Žinome, kad akli evoliuciniai procesai gali lemti žmogaus lygmens bendro intelekto atsiradimą – bent kartą tai jau įvyko. Dėl evoliucinių procesų numatymo – tai yra genetinio programavimo, kai algoritmus kuria ir valdo protingas žmogaus programuotojas – panašius rezultatus turėtume gauti kur kas didesniu efektyvumu. Būtent šia prielaida remiasi daugelis mokslininkų, tarp jų ir filosofas Davidas Chalmersas bei tyrinėtojas Hansas Moravecas (91) , kurie teigia, kad IICHI ne tik teoriškai įmanomas, bet ir praktiškai įgyvendinamas jau XXI amžiuje. Anot jų, intelekto kūrimo klausimu, įvertinę santykines evoliucijos ir žmogaus inžinerijos galimybes, pamatysime, kad pastaroji daugelyje sričių stipriai lenkia evoliuciją ir, greičiausiai, greitai ją aplenks kitose. Taigi, jei natūralus intelektas kada nors atsirado dėl evoliucinių procesų, tai reiškia, kad žmogaus dizainas projektavimo ir plėtros srityje gali greitai paskatinti mus dirbtinio intelekto link. Pavyzdžiui, Moravecas 1976 m. rašė:

Keletas intelekto pavyzdžių, kurie atsirado esant tokiems suvaržymams, turėtų suteikti mums pasitikėjimo, kad labai greitai galėsime pasiekti tą patį. Situacija panaši į mašinų, kurios gali skristi, nors jos yra sunkesnės už orą, sukūrimo istoriją: paukščiai, šikšnosparniai ir vabzdžiai aiškiai pademonstravo šią galimybę gerokai anksčiau, nei žmogus sukūrė skraidančius aparatus (92).

Tačiau reikėtų būti atsargesniems su išvadomis, pagrįstomis tokia samprotavimo grandine. Žinoma, neabejotina, kad nežmogiškų gyvių, sunkesnių už orą, skrydis evoliucijos dėka tapo įmanomas daug anksčiau, nei tai pavyko žmonėms – tačiau tai pavyko mechanizmų pagalba. Tai patvirtinant galima prisiminti kitus pavyzdžius: sonarų sistemos; Magnetometrinės navigacijos sistemos; cheminės kovos priemonės; fotojutikliai ir kiti prietaisai, pasižymintys mechaninėmis ir kinetinėmis charakteristikomis. Tačiau taip pat sėkmingai išvardinsime sritis, kuriose žmogaus pastangų veiksmingumas dar labai toli nuo evoliucinių procesų efektyvumo: morfogenezė; savigydos mechanizmai; imuninė apsauga. Taigi Moraveco argumentas „nesuteikia mums pasitikėjimo“, kad IIHR bus sukurta „labai greitai“. Geriausiu atveju protingos gyvybės evoliucija Žemėje gali būti viršutinė intelekto kūrimo sunkumų riba. Tačiau šis lygis vis dar nepasiekiamas dabartinių žmonijos technologinių galimybių.

Kitas argumentas, palaikantis dirbtinio intelekto plėtrą pagal evoliucinio proceso modelį, yra galimybė paleisti genetinius algoritmus gana galinguose procesoriuose ir dėl to pasiekti rezultatus, atitinkančius tuos, kurie gaunami biologinės evoliucijos eigoje. Taigi šioje argumento versijoje siūloma patobulinti AI naudojant tam tikrą metodą.

Kiek teisingas teiginys, kad gana greitai turėsime pakankamai kompiuterinių išteklių, kad galėtume atkurti atitinkamus evoliucijos procesus, dėl kurių susiformavo žmogaus intelektas? Atsakymas priklauso nuo šių sąlygų: pirma, ar per ateinančius dešimtmečius bus padaryta didelė kompiuterinių technologijų pažanga; antra, kokios skaičiavimo galios reikės, kad genetinių algoritmų paleidimo mechanizmai būtų panašūs į natūralią atranką, dėl kurios atsirado žmogus. Reikia pasakyti, kad išvados, prie kurių darome savo samprotavimo grandinę, yra labai neaiškios; tačiau, nepaisant šio atgrasančio fakto, vis tiek atrodo tikslinga pabandyti pateikti bent apytikslį šios versijos įvertinimą (žr. 3 langelį). Jei nėra kitų galimybių, net apytiksliai skaičiavimai atkreips dėmesį į kai kuriuos keistus nežinomus kiekius.

Esmė ta, kad skaičiavimo galia, reikalinga tik būtiniems evoliuciniams procesams, paskatinusiems žmogaus intelekto atsiradimą, yra praktiškai nepasiekiama ir tokia išliks ilgą laiką, net jei Moore'o dėsnis galios dar šimtmetį (žr. 3 pav. ). Tačiau yra visiškai priimtina išeitis: turėsime labai didelę įtaką efektyvumui, kai vietoj tiesioginio natūralių evoliucijos procesų kartojimo kursime paieškos sistemą, orientuotą į intelekto kūrimą, pasinaudodami įvairiais akivaizdžiais pranašumais. natūrali atranka. Žinoma, dabar labai sunku kiekybiškai įvertinti dėl to gaunamą efektyvumo padidėjimą. Mes net nežinome, kokio dydžio klausime penki ar dvidešimt penki. Todėl jei evoliucinio modelio argumentas nebus tinkamai išplėtotas, negalėsime pateisinti savo lūkesčių ir niekada nesužinosime, kokie sunkūs keliai į žmogaus lygmens dirbtinį intelektą ir kiek ilgai reikia laukti jo atsiradimo.

3 langelis. Evoliucinės replikacijos pastangų įvertinimas

Ne visi antropogenezės pasiekimai, susiję su žmogaus protu, yra vertingi šiuolaikiniams specialistams, dirbantiems su dirbtinio intelekto evoliucinio vystymosi problema. Tik nedidelė dalis to, kas įvyko dėl natūralios atrankos Žemėje, pradeda veikti. Pavyzdžiui, problemos, kurių žmonės negali ignoruoti, yra tik nedidelių evoliucinių pastangų rezultatas. Visų pirma, kadangi savo kompiuterius galime maitinti elektra, mums nereikia iš naujo išradinėti korinio energijos taupymo sistemos molekulių, kad sukurtume išmanias mašinas – o metabolizmo mechanizmo molekulinei raidai galėjo prireikti didelės viso suvartojamo kiekio. natūralios atrankos galios, kuri buvo disponuojama evoliucija per visą Žemės istoriją(93).

Egzistuoja samprata, kad AI sukūrimo raktas yra nervų sistemos struktūra, kuri atsirado mažiau nei prieš milijardą metų (94). Jei sutiksime su šia pozicija, evoliucijai reikalingų „eksperimentų“ skaičius labai sumažės. Šiandien pasaulyje yra maždaug (4–6) × 1030 prokariotų, tačiau tik 1019 vabzdžių ir mažiau nei 1010 žmonių rasės atstovų (beje, populiacija neolito revoliucijos išvakarėse buvo daug mažesnė). (95) . Sutikite, šie skaičiai nėra tokie baisūs.

Tačiau evoliuciniams algoritmams reikia ne tik įvairių variantų, bet ir kiekvienos parinkties tinkamumo įvertinimo – dažniausiai tai yra brangiausia komponentė skaičiavimo ištekliais. Dirbtinio intelekto evoliucijos atveju, norint įvertinti tinkamumą, atrodo, kad reikia modeliuoti nervų vystymąsi, taip pat mokymosi ir pažinimo gebėjimus. Taigi geriau nežiūrėti iš viso organizmus su sudėtinga nervų sistema, bet įvertinti neuronų skaičių biologiniuose organizmuose, kuriuos mums gali prireikti modeliuoti, kad apskaičiuotume objektyvią evoliucijos funkciją. Apytikslį įvertinimą galima atlikti pažvelgus į vabzdžius, kurie dominuoja sausumos biomasėje (vien skruzdėlės sudaro 15–20 %) (96). Vabzdžių smegenų tūris priklauso nuo daugelio veiksnių. Kuo didesnis ir socialesnis (tai yra, vedantis socialinį gyvenimą) vabzdys, tuo didesnės jo smegenys; pavyzdžiui, bitė turi šiek tiek mažiau nei 106 neuronus, vaisinė musė turi 105 neuronus, tarp jų yra skruzdė su 250 000 neuronų (97). Daugumos mažesnių vabzdžių smegenyse yra tik keli tūkstančiai neuronų. Siūlau labai atsargiai pasilikti ties vidutine verte (105) ir visus vabzdžius (kurių pasaulyje iš viso yra 1019) prilyginti Drosophila, tada bendras jų neuronų skaičius bus 1024. Pridėkime dar vieną dydžio eilę. dėl vėžiagyvių, paukščių, roplių, žinduolių ir kt. – ir gaukite 1025. (Palyginkite tai su tuo, kad iki žemės ūkio atsiradimo planetoje gyveno mažiau nei 107 žmonės ir kiekvienas turėjo apie 1011 neuronų – tai yra m. Iš viso visų neuronų suma buvo mažesnė nei 1018, nors žmogaus smegenyse buvo ir yra daug daugiau sinapsių.)

Vieno neurono modeliavimo skaičiavimo kaina priklauso nuo reikiamo modelio detalumo laipsnio. Itin paprastam realaus laiko neuronų modeliui reikia maždaug 1000 slankiojo kablelio operacijų per sekundę (FLOPS). Elektriškai ir fiziologiškai tikroviškam Hodžkino-Huxley modeliui reikia 1 200 000 FLOPS. Sudėtingesnis kelių komponentų neurono modelis pridėtų nuo dviejų iki trijų dydžių, o aukštesnio lygio modeliui, veikiančiam neuronų sistemose, vienam neuronui reikia dviem ar trimis dydžiais mažiau operacijų nei paprastiems modeliams (98). Jei mums reikia imituoti 1025 neuronus per milijardą evoliucijos metų (tai daugiau nei dabartinės formos neuronų sistemų gyvavimo trukmė) ir leidžiame kompiuteriams atlikti šią užduotį metus, tada jų skaičiavimo galios reikalavimai patenka į 1031 diapazoną. -1044 FLOPS. Palyginimui, galingiausias pasaulyje kompiuteris – kinų Tianhe-2 (2013 m. rugsėjo mėn.) gali tik 3,39 × 1016 FLOPS. Pastaraisiais dešimtmečiais įprasti kompiuteriai padidino savo našumą maždaug kartą per 6,7 metų. Net jei skaičiavimo galia augs pagal Moore'o dėsnį visą šimtmetį, jos nepakaks esamam atotrūkiui užpildyti. Naudojant labiau specializuotas skaičiavimo sistemas arba ilginant skaičiavimo laiką, galios poreikis gali sumažėti tik keliomis eilėmis.
Tikėtina, kad pašalinus tokį neefektyvumą, bus sutaupyta keliomis eilėmis reikiamos galios 1031-1044 FLOPS, skaičiuojant anksčiau. Deja, sunku tiksliai pasakyti, kiek. Sunku net apytiksliai įvertinti – galima tik spėlioti, ar tai bus penkios eilės, dešimt ar dvidešimt penki (101) .

Ryžiai. 3. Didelės apkrovos kompiuterių našumas. Tiesą sakant, tai, kas vadinama „Moore'o dėsniu“, yra pastebėjimas, kad tranzistorių, dedamų į integrinio grandyno lustą, skaičius padvigubėja maždaug kas dvejus metus. Tačiau įstatymas dažnai yra apibendrintas, atsižvelgiant į tai, kad kiti kompiuterio našumo rodikliai taip pat auga eksponentiškai. Mūsų grafikas rodo didžiausią galingiausių pasaulyje kompiuterių greitį laikui bėgant (logaritmine vertikalia skale). Pastaraisiais metais nuoseklaus skaičiavimo greitis nustojo augti, tačiau dėl lygiagrečiojo skaičiavimo plitimo bendras operacijų skaičius ir toliau auga tokiu pat tempu (102) .

Yra dar viena komplikacija, susijusi su evoliuciniais veiksniais, pateiktais kaip paskutinis argumentas. Problema ta, kad mes negalime net labai apytiksliai apskaičiuoti viršutinės ribos, kaip sunku gauti intelektą evoliuciniu būdu. Taip, kažkada Žemėje atsirado protinga gyvybė, tačiau iš šio fakto neišplaukia, kad evoliucijos procesai su didele tikimybe veda prie intelekto atsiradimo. Tokia išvada būtų iš esmės klaidinga, nes neatsižvelgiama į vadinamąjį stebėjimo atrankos efektą, kuris reiškia, kad visi stebėtojai yra planetoje, kurioje atsirado protinga gyvybė, nesvarbu, kiek tikėtinas ar neįtikimas toks įvykis bet kurioje kitoje. planeta. Tarkime, kad protingos gyvybės atsiradimui, be sistemingų natūralios atrankos klaidų, dar daug laimingos rungtynės– tokia didelė, kad protinga gyvybė atsirado tik vienoje iš 1030 planetų, kuriose egzistuoja paprasti replikatorių genai. Tokiu atveju mokslininkai, vykdantys genetinius algoritmus, bandydami atkartoti tai, ką sukūrė evoliucija, gali baigti maždaug 1030 pakartojimų, kol jie ras derinį, kuriame visi elementai susidėtų teisingai. Atrodo, kad tai visiškai atitinka mūsų pastebėjimą, kad gyvybė atsirado ir vystėsi čia, Žemėje. Šį epistemologinį barjerą iš dalies galima apeiti atsargiais ir šiek tiek sudėtingais loginiais žingsniais – analizuojant su intelektu susijusių savybių konvergencinės raidos atvejus ir atsižvelgiant į stebėjimo poveikį atrankoje. Jei mokslininkai nesivargins atlikti tokios analizės, tai ateityje nė vienam iš jų nereikės įvertinti maksimalios vertės ir išsiaiškinti, kokia yra apskaičiuota viršutinė riba, reikalinga skaičiavimo galiai atkurti intelekto evoliuciją (žr. 3 langelis) gali nukristi žemiau trisdešimtosios eilės (arba kitos ne mažiau didelės reikšmės) (103).

Norėdami pasiekti tikslą, pereikime prie kito varianto: dirbtinio intelekto evoliucijos pagrįstumo argumentas yra žmogaus smegenų veikla, kuri vadinama pagrindiniu AI modeliu. Įvairios versijosšio požiūrio skiriasi tik reprodukcijos laipsnis – kaip tiksliai siūloma imituoti biologinių smegenų funkcijas. Viename ašigalyje, kuris yra savotiškas „žaidimas imitacija“, turime koncepciją pilna smegenų emuliacija, tai yra viso masto smegenų modeliavimas (prie to grįšime šiek tiek vėliau). Kitas kraštutinumas – technologijos, pagal kurias smegenų funkcionalumas yra tik atskaitos taškas, tačiau žemo lygio modeliavimo plėtra neplanuojama. Galų gale mes priartėsime prie bendros smegenų idėjos supratimo, kurį palengvina neurologijos ir kognityvinės psichologijos pažanga, taip pat nuolatinis įrankių ir aparatinės įrangos tobulinimas. Naujos žinios neabejotinai taps gairėmis tolimesniam darbui su AI. Jau žinome AI pavyzdį, kuris atsirado modeliuojant smegenų darbą – tai neuroniniai tinklai. Kita idėja, paimta iš neurologijos ir perkelta į mašininį mokymąsi, yra hierarchinis suvokimo organizavimas. Pastiprinimo mokymosi tyrimą (bent jau iš dalies) paskatino svarbus vaidmuo, kurią ši tema vaidina psichologinėse teorijose, apibūdinančiose gyvūnų elgesį ir mąstymą, taip pat mokymosi metodų pastiprinimą (pavyzdžiui, TD algoritmą). Šiandien dirbtinio intelekto sistemose plačiai naudojamas sustiprinimo mokymasis (104). Tokių pavyzdžių ateityje tikrai bus daugiau. Kadangi pagrindinių smegenų veikimo mechanizmų rinkinys yra labai ribotas – tiesą sakant, jų yra labai mažai – dėl nuolatinės neurologijos pažangos visi šie mechanizmai anksčiau ar vėliau bus atrasti. Tačiau gali būti, kad tam tikras hibridinis požiūris baigsis dar anksčiau, derinant modelius, sukurtus, viena vertus, remiantis žmogaus smegenų veikla, kita vertus, išimtinai dirbtinio intelekto technologijų pagrindu. . Visai nebūtina, kad susidariusi sistema viskuo būtų panaši į smegenis, net jei ją kuriant būtų naudojami tam tikri jos veiklos principai.

Žmogaus smegenų, kaip pagrindinio modelio, veikla yra rimtas argumentas dirbtinio intelekto kūrimo ir tolesnio tobulinimo galimybių naudai. Tačiau joks net pats galingiausias argumentas nepriartins mūsų prie ateities datų supratimo, nes sunku nuspėti, kada įvyks tas ar kitas atradimas neurologijos srityje. Galime pasakyti tik viena: kuo giliau žvelgsime į ateitį, tuo didesnė tikimybė, kad smegenų veikimo paslaptys bus atskleistos pakankamai iki galo, kad įkūnytų dirbtinio intelekto sistemas.

Dirbtinio intelekto srityje dirbantys mokslininkai turi skirtingus požiūrius į tai, kiek perspektyvus neuromorfinis metodas yra lyginant su technologijomis, pagrįstomis visiškai kompoziciniais metodais. Paukščių skrydis parodė fizinę galimybę atsirasti sunkesnių už orą skraidančių mechanizmų, dėl kurių galiausiai buvo pastatyti orlaiviai. Tačiau net pirmieji į orą pakilę lėktuvai nepaskleidė sparnų. Kokiu keliu eis dirbtinis intelektas? Klausimas lieka atviras: ar pagal aerodinamikos dėsnio principą, kuris laiko ore sunkius geležinius mechanizmus, tai yra, mokomasi iš laukinės gamtos, bet ne tiesiogiai jos imituojantis; pagal principą, ar vidaus degimo variklio įtaisas – tai yra tiesiogiai kopijuoja gamtos jėgų veiksmus.

Turingo koncepcija sukurti programą, kuri gauna b apie Didelė dalis žinių mokantis, o ne nurodant pradinius duomenis, taip pat pritaikoma kuriant dirbtinį intelektą – tiek neuromorfiniam, tiek kompoziciniam požiūriui.

Turingo „kūdikio mašinos“ koncepcijos variantas buvo AI (105) gemalo idėja. Tačiau jei „vaikų mašina“, kaip įsivaizdavo Turingas, turėtų turėti santykinai fiksuotą architektūrą ir plėtoti savo potencialą kaupdama turinys AI gemalas bus sudėtingesnė sistema, kuri pati tobulės architektūra. Ankstyvosiose egzistavimo stadijose embrioninis AI vystosi daugiausia renkant informaciją, veikiant bandymų ir klaidų būdu, padedant programuotojui. „Augdamas“ jis turi mokytis pats suprasti savo darbo principais, kad galėtų kurti naujus algoritmus ir skaičiavimo struktūras, didinančias jo pažinimo efektyvumą. Reikalingas supratimas įmanomas tik tais atvejais, kai dirbtinio intelekto užuomazga daugelyje sričių yra pasiekusi gana aukštą bendrą intelektualinio išsivystymo lygį arba tam tikrose dalykinėse srityse – tarkime, kibernetikoje ir matematikoje – peržengė tam tikrą intelekto slenkstį.

Tai atveda mus prie kitos svarbios koncepcijos, vadinamos „rekursyviu savęs tobulėjimu“. Sėkmingas dirbtinio intelekto embrionas turi gebėti nuolat tobulėti: pirmoji versija sukuria patobulintą savo versiją, kuri yra daug protingesnė už originalą; patobulinta versija savo ruožtu veikia su dar geresne versija ir t.t.(106) . Tam tikromis sąlygomis rekursyvaus savęs tobulinimo procesas gali tęstis gana ilgai ir galiausiai sukelti sprogstamą dirbtinio intelekto vystymąsi. Tai reiškia įvykį, kurio metu bendras sistemos intelektas per trumpą laiką išauga nuo santykinai kuklaus lygio (galbūt daugeliu atžvilgių, išskyrus programavimą ir AI tyrimus, net žemiau žmogaus) iki superinteligentiško, radikaliai pranašesnio už žmogaus lygis. Ketvirtajame skyriuje grįšime prie šios savo reikšme labai svarbios perspektyvos, plačiau panagrinėsime įvykių raidos dinamiką.

Atkreipkite dėmesį, kad šis plėtros modelis numato netikėtumų galimybę. Bandymai sukurti universalų dirbtinį intelektą, viena vertus, gali baigtis visiška nesėkme, kita vertus, privesti prie paskutinio trūkstamo kritinio elemento, po kurio AI užuomazga taps pajėgi tvariai rekursyviai tobulėti.

Prieš baigdamas šią skyriaus dalį, norėčiau pabrėžti dar vieną dalyką: visiškai nebūtina dirbtinį intelektą lyginti su žmogaus protu. Visiškai pripažįstu, kad AI taps visiškai „svetimas“ – greičiausiai taip ir nutiks. Galima tikėtis, kad DI kognityvinė architektūra labai skirsis nuo žmogaus pažintinės sistemos; pavyzdžiui, ankstyvosiose stadijose kognityvinė architektūra turės labai skirtingas stipriąsias ir silpnąsias puses (nors, kaip matysime, AI sugebės įveikti pradinius trūkumus). Visų pirma, tikslingos AI sistemos gali neturėti nieko bendra su tikslinga žmonijos sistema. Nėra pagrindo manyti, kad vidutinio lygio AI pradės vadovautis žmogiškais jausmais, tokiais kaip meilė, neapykanta, pasididžiavimas – tokiai sudėtingai adaptacijai reikės daug brangaus darbo, be to, atsiras tokia galimybė AI turėtų būti elgiamasi labai atsargiai. Tai ir didelė problema, ir didelė galimybė. Prie AI motyvacijos grįšime vėlesniuose skyriuose, tačiau ši mintis knygai tokia svarbi, kad ją verta nepamiršti visada.

Visiškas žmogaus smegenų imitavimas

Viso masto smegenų modeliavimo procese, kurį vadiname „visa smegenų emuliacija“ arba „proto įkėlimu“, dirbtinis intelektas sukuriamas nuskaitant ir tiksliai atkuriant biologinių smegenų skaičiavimo struktūrą. Taigi įkvėpimo reikia semtis tik iš gamtos – tai kraštutinis atviro plagijavimo atvejis. Kad visapusiška smegenų emuliacija būtų sėkminga, reikia atlikti keletą konkrečių veiksmų.

Pirmas lygmuo. Atliekamas gana išsamus žmogaus smegenų skenavimas. Tai gali apimti mirusio žmogaus smegenų fiksavimą stiklinant arba stiklinant (dėl to audiniai tampa kieti kaip stiklas). Tada iš audinio vienu aparatu padaromos plonos pjūviai ir perleidžiami per kitą aparatą nuskaitymui, galbūt naudojant elektroninius mikroskopus. Šiame etape medžiaga nudažoma specialiais dažais, kad būtų atskleistos jos struktūrinės ir cheminės savybės. Tuo pačiu metu daugelis skenavimo įrenginių veikia lygiagrečiai, vienu metu apdorodami įvairias audinių dalis.

Antrasis etapas. Neapdoroti duomenys iš skaitytuvų įkeliami į automatinio vaizdo apdorojimo kompiuterį, kad būtų galima atkurti 3D neuronų tinklą, atsakingą už pažinimą biologinėse smegenyse. Norėdami sumažinti didelės raiškos vaizdų, kuriuos reikia saugoti buferyje, skaičių, šį veiksmą galima atlikti kartu su pirmuoju. Gautas žemėlapis sujungiamas su skirtingų tipų neuronų arba skirtingų neuronų elementų neurokompiuterinių modelių biblioteka (pavyzdžiui, sinapsės gali skirtis). Kai kurie nuskaitymo ir vaizdo apdorojimo naudojant šiuolaikines technologijas rezultatai parodyti fig. keturi.

Įvadinio segmento pabaiga.

Nikas Bostromas

Dirbtinis intelektas. Etapai. Grasinimai. Strategijos

Nikas Bostromas

Superintelektas

Keliai, pavojai, strategijos

Moksliniai redaktoriai M. S. Burcevas, E. D. Kazimirova, A. B. Lavrentjevas

Paskelbta gavus Aleksandro Korženevskio agentūros leidimą

Leidyklos teisinę pagalbą teikia advokatų kontora „Vegas-Lex“

Ši knyga iš pradžių buvo išleista anglų kalba 2014 m. Šis vertimas išleistas susitarus su Oxford University Press. Leidėjas yra išimtinai atsakingas už šį vertimą iš originalaus kūrinio, o Oxford University Press neprisiima jokios atsakomybės už jokias tokio vertimo klaidas, praleidimus, netikslumus ar dviprasmybes arba už bet kokius nuostolius, atsiradusius dėl pasitikėjimo juo.

* * *

Ši knyga puikiai papildyta

Žaidimo teorija

Avinashas Dixit ir Barry Nalbuffas

Kenas Jenningsas

malonumas nuo x

Steponas Strogatzas

Partnerio pratarmė

... Turiu vieną draugą, – pasakojo Edikas. – Jis tvirtina, kad žmogus yra tarpinė grandis, būtina gamtai sukurti kūrybos karūną: stiklinė konjako su citrinos skiltele.

Arkadijus ir Borisas Strugackiai. Pirmadienis prasideda šeštadienį

Autorius mano, kad mirtina grėsmė siejama su galimybe sukurti dirbtinį intelektą, pranokstantį žmogaus protą. Katastrofa gali kilti ir XXI amžiaus pabaigoje, ir ateinančiais dešimtmečiais. Visa žmonijos istorija rodo: kai įvyksta susidūrimas tarp mūsų rūšies atstovo, protingo žmogaus ir bet kurio kito mūsų planetos gyventojo, laimi tas, kuris yra protingesnis. Iki šiol buvome protingiausi, bet neturime garantijų, kad tai tęsis amžinai.

Nickas Bostromas rašo, kad jei išmanieji kompiuteriniai algoritmai išmoks patys sukurti dar išmanesnius, o tie, savo ruožtu, dar protingesnius, bus sprogstamas dirbtinio intelekto augimas, palyginus su juo žmonės šalia žmonių atrodys kaip skruzdėlės. dabar, žinoma, intelektualiai. Pasaulyje atsiras nauja, nors ir dirbtinė, bet superinteligentiška rūšis. Nesvarbu, ką jis „ateina į galvą“, ar bandymas padaryti visus žmones laimingus, ar sprendimas kuo veiksmingiausiu būdu sustabdyti antropogeninę pasaulio vandenynų taršą, tai yra, sunaikinus žmoniją, žmonių vis tiek nebus. galintis jai atsispirti. Jokių šansų sulaukti „Terminatoriaus“ filmo stiliaus konfrontacijos, jokių susišaudymų su geležiniais kiborgais. Mūsų laukia šachmatas ir šachmatas – kaip Deep Blue šachmatų kompiuterio ir pirmoko dvikovoje.

Per pastaruosius šimtą ar dvejus metus mokslo laimėjimai vienuose sužadino viltį išspręsti visas žmonijos problemas, o kituose sukėlė ir tebekelia nežabotą baimę. Kartu reikia pasakyti, kad abu požiūriai atrodo gana pagrįsti. Mokslo dėka buvo įveiktos baisios ligos, žmonija šiandien sugeba išmaitinti precedento neturintį skaičių žmonių, o iš vieno pasaulio taško į priešingą galima patekti greičiau nei per dieną. Tačiau to paties mokslo malone žmonės, naudodami naujausias karines technologijas, naikina vieni kitus nepaprastai greitai ir efektyviai.

Panašią tendenciją – kai sparti technologijų plėtra ne tik lemia naujų galimybių formavimąsi, bet ir sukuria neregėtas grėsmes – matome ir informacijos saugumo srityje. Visa mūsų pramonė atsirado ir egzistuoja vien dėl to, kad tokių nuostabių dalykų kaip kompiuteriai ir internetas kūrimas ir masinis platinimas sukėlė problemų, kurios būtų neįsivaizduojamos prieškompiuterių eroje. Dėl informacinių technologijų atsiradimo įvyko revoliucija žmonių komunikacijoje. Įskaitant jį naudojo įvairūs kibernetiniai nusikaltėliai. Ir tik dabar žmonija pamažu pradeda suvokti naujas rizikas: vis daugiau fizinio pasaulio objektų yra valdomi kompiuteriais ir programine įranga, dažnai netobuli, pilni skylių ir pažeidžiami; vis daugiau tokių objektų yra prijungti prie interneto, o grėsmės kibernetiniam pasauliui sparčiai tampa fizinio saugumo, o galbūt ir gyvybės bei mirties problemomis.

Štai kodėl Nicko Bostromo knyga atrodo tokia įdomi. Pirmas žingsnis siekiant išvengti košmariškų scenarijų (vienam kompiuterių tinklui arba visai žmonijai) yra suprasti, iš ko jie gali būti sudaryti. Bostromas daro daug abejonių, kad dirbtinio intelekto, panašaus į žmogaus protą arba už jį pranašesnio – dirbtinio intelekto, galinčio sunaikinti žmoniją, sukūrimas yra tik tikėtinas scenarijus, kuris gali ir nepasitvirtinti. Žinoma, yra daug variantų, o kompiuterinių technologijų plėtra gal ir nesunaikins žmonijos, bet duos mums atsakymą į „pagrindinį gyvenimo, visatos ir viso kito klausimą“ (galbūt tai tikrai bus skaičius 42, nes romane „Autostopo vadovas po galaktiką“) . Vilties yra, bet pavojus labai rimtas, perspėja Bostromas. Mano nuomone, jeigu egzistuoja tokios egzistencinės grėsmės žmonijai galimybė, tai ir turi būti atitinkamai elgiamasi, o siekiant to išvengti ir nuo jos apsisaugoti, reikėtų dėti bendras pastangas pasauliniu mastu.

Savo įžangą norėčiau užbaigti citata iš Michailo Wellerio knygos „Žmogus sistemoje“:

Kai fantazija, tai yra vaizdiniais ir siužetais įrėminta žmogaus mintis, kažką ilgai ir detaliai kartoja – na, nėra dūmų be ugnies. Banalūs Holivudo veiksmo filmai apie žmonių karus su robotų civilizacija po komercinės išvaizdos apvalkalu neša karčią tiesos grūdą.

Kai perduodama instinktų programa bus įmontuota į robotus, o šių instinktų tenkinimas bus įmontuotas kaip besąlyginis ir pagrindinis poreikis, o tai pereis į savęs dauginimosi lygį – tada vaikinai, nustokite kovoti su rūkymu ir alkoholiu, nes bus pats laikas gerti ir parūkyti prieš chaną mums visiems.

Eugenijus Kasperskis,„Kaspersky Lab“ generalinis direktorius

Nebaigta žvirblių istorija

Vieną dieną, perkant lizdus, žvirbliai, pavargę nuo daugelio dienų sunkaus darbo, saulėlydžio metu susėdo pailsėti ir čiulbėti apie šį bei tą.

Mes tokie maži, tokie silpni. Įsivaizduokite, kaip būtų lengviau gyventi, jei pagalbininkais laikytume pelėdą! – svajingai čiulbėjo vienas žvirblis. „Ji galėtų mums susukti lizdus...“

– Aha! sutiko kitas. "Ir prižiūrėkite mūsų senus žmones ir jauniklius..."

„Ir pamokyk mus ir apsaugok mus nuo kaimyno katės“, – pridūrė trečiasis.

Tada Pastas, vyriausias žvirblis, pasiūlė:

- Leiskite skautams skraidyti į skirtingas puses ieškoti iš lizdo iškritusios pelėdos. Tačiau tiks ir pelėdos kiaušinis, ir varna, ir net žebenkštis. Šis radinys bus didžiausia mūsų kaimenės sėkmė! Kaip ta, kurią radome galinis kiemas neišsenkantis grūdų šaltinis.

Nuoširdžiai susijaudinę žvirbliai čiulbėjo, kad yra šlapimo.

Ir tik vienaakis Skronfinkle, sunkaus nusiteikimo kaustinis žvirblis, atrodė, suabejojo šios įmonės tikslingumu.

„Mes pasirinkome pražūtingą kelią“, – įsitikinęs sakė jis. „Ar neturėtumėte pirmiausia rimtai apsvarstyti pelėdų prisijaukinimo ir prijaukinimo klausimus, prieš įsileisdami tokį pavojingą padarą į savo aplinką?

- Man atrodo, - tarė jam Pastas, - menas prisijaukinti pelėdas nėra lengva užduotis. Rasti pelėdos kiaušinį yra velniškai sunku. Taigi pradėkime nuo paieškos. Jei pavyks išvesti pelėdą, tada galvosime apie švietimo problemas.

- Piktas planas! Skronfinkle nervingai cyptelėjo.

Bet niekas jo neklausė. Pasto kryptimi į orą pakilo žvirblių pulkas ir pajudėjo.

Nikas Bostromas

Nikas Bostromas

Superintelektas

Keliai, pavojai, strategijos

Moksliniai redaktoriai M. S. Burcevas, E. D. Kazimirova, A. B. Lavrentjevas

Paskelbta gavus Aleksandro Korženevskio agentūros leidimą

Leidyklos teisinę pagalbą teikia advokatų kontora „Vegas-Lex“

* * *

Ši knyga puikiai papildyta

Avinashas Dixit ir Barry Nalbuffas

Steponas Strogatzas

Partnerio pratarmė

... Turiu vieną draugą, – pasakojo Edikas. – Jis tvirtina, kad žmogus yra tarpinė grandis, būtina gamtai sukurti kūrybos karūną: stiklinė konjako su citrinos skiltele.

Arkadijus ir Borisas Strugackiai. Pirmadienis prasideda šeštadienį

Savo įžangą norėčiau užbaigti citata iš Michailo Wellerio knygos „Žmogus sistemoje“:

Jevgenijus Kasperskis, „Kaspersky Lab“ generalinis direktorius

Nebaigta žvirblių istorija

Vieną dieną, perkant lizdus, žvirbliai, pavargę nuo daugelio dienų sunkaus darbo, saulėlydžio metu susėdo pailsėti ir čiulbėti apie šį bei tą.

Mes tokie maži, tokie silpni. Įsivaizduokite, kaip būtų lengviau gyventi, jei pagalbininkais laikytume pelėdą! – svajingai čiulbėjo vienas žvirblis. „Ji galėtų mums susukti lizdus...“

– Aha! sutiko kitas. "Ir prižiūrėkite mūsų senus žmones ir jauniklius..."

„Ir pamokyk mus ir apsaugok mus nuo kaimyno katės“, – pridūrė trečiasis.

Tada Pastas, vyriausias žvirblis, pasiūlė:

- Leiskite skautams skraidyti į skirtingas puses ieškoti iš lizdo iškritusios pelėdos. Tačiau tiks ir pelėdos kiaušinis, ir varna, ir net žebenkštis. Šis radinys bus didžiausia mūsų kaimenės sėkmė! Kaip ir tą, kurią radome kieme su nesibaigiančia grūdų atsarga.

Nuoširdžiai susijaudinę žvirbliai čiulbėjo, kad yra šlapimo.

Ir tik vienaakis Skronfinkle, sunkaus nusiteikimo kaustinis žvirblis, atrodė, suabejojo šios įmonės tikslingumu.

- Piktas planas! Skronfinkle nervingai cyptelėjo.

Bet niekas jo neklausė. Pasto kryptimi į orą pakilo žvirblių pulkas ir pajudėjo.

Vietoje liko tik žvirbliai, nusprendę sugalvoti, kaip sutramdyti pelėdas. Gana greitai jie suprato, kad Pastas buvo teisus: užduotis buvo neįtikėtinai sunki, ypač kai nebuvo pačios pelėdos, ant kurios būtų galima treniruotis. Tačiau paukščiai toliau stropiai tyrinėjo šią problemą, nes bijojo, kad pulkas grįš su pelėdos kiaušiniu, nespėjus atskleisti paslapties, kaip suvaldyti pelėdos elgesį.

Įvadas

Mūsų kaukolės viduje yra tam tikra medžiaga, dėka ...

Šriftas: mažesnis Ak Daugiau Ak

Nikas Bostromas

Superintelektas

Keliai, pavojai, strategijos

Moksliniai redaktoriai M. S. Burcevas, E. D. Kazimirova, A. B. Lavrentjevas

Paskelbta gavus Aleksandro Korženevskio agentūros leidimą

Leidyklos teisinę pagalbą teikia advokatų kontora „Vegas-Lex“

* * *

Ši knyga puikiai papildyta

Avinashas Dixit ir Barry Nalbuffas

Steponas Strogatzas

Partnerio pratarmė

... Turiu vieną draugą, – pasakojo Edikas. – Jis tvirtina, kad žmogus yra tarpinė grandis, būtina gamtai sukurti kūrybos karūną: stiklinė konjako su citrinos skiltele.

Arkadijus ir Borisas Strugackiai. Pirmadienis prasideda šeštadienį

Savo įžangą norėčiau užbaigti citata iš Michailo Wellerio knygos „Žmogus sistemoje“:

Kai fantazija, tai yra vaizdiniais ir siužetais įrėminta žmogaus mintis, kažką ilgai ir detaliai kartoja – na, nėra dūmų be ugnies. Banalūs Holivudo veiksmo filmai apie žmonių karus su robotų civilizacija po komercinės išvaizdos apvalkalu neša karčią tiesos grūdą.

Kai perduodama instinktų programa bus įmontuota į robotus, o šių instinktų tenkinimas bus įmontuotas kaip besąlyginis ir pagrindinis poreikis, o tai pereis į savęs dauginimosi lygį – tada vaikinai, nustokite kovoti su rūkymu ir alkoholiu, nes bus pats laikas gerti ir parūkyti prieš chaną mums visiems.

Eugenijus Kasperskis,
„Kaspersky Lab“ generalinis direktorius

Nebaigta žvirblių istorija

Vieną dieną, perkant lizdus, žvirbliai, pavargę nuo daugelio dienų sunkaus darbo, saulėlydžio metu susėdo pailsėti ir čiulbėti apie šį bei tą.

Mes tokie maži, tokie silpni. Įsivaizduokite, kaip būtų lengviau gyventi, jei pagalbininkais laikytume pelėdą! – svajingai čiulbėjo vienas žvirblis. „Ji galėtų mums susukti lizdus...“

– Aha! sutiko kitas. "Ir prižiūrėkite mūsų senus žmones ir jauniklius..."

„Ir pamokyk mus ir apsaugok mus nuo kaimyno katės“, – pridūrė trečiasis.

Tada Pastas, vyriausias žvirblis, pasiūlė:

- Leiskite skautams skraidyti į skirtingas puses ieškoti iš lizdo iškritusios pelėdos. Tačiau tiks ir pelėdos kiaušinis, ir varna, ir net žebenkštis. Šis radinys bus didžiausia mūsų kaimenės sėkmė! Kaip ir tą, kurią radome kieme su nesibaigiančia grūdų atsarga.

Nuoširdžiai susijaudinę žvirbliai čiulbėjo, kad yra šlapimo.

Ir tik vienaakis Skronfinkle, sunkaus nusiteikimo kaustinis žvirblis, atrodė, suabejojo šios įmonės tikslingumu.

- Piktas planas! Skronfinkle nervingai cyptelėjo.

Bet niekas jo neklausė. Pasto kryptimi į orą pakilo žvirblių pulkas ir pajudėjo.

Įvadas

Mūsų kaukolės viduje yra tam tikra medžiaga, kurios dėka galime, pavyzdžiui, skaityti. Ši medžiaga – žmogaus smegenys – turi galimybių, kurių nėra kitiems žinduoliams. Tiesą sakant, žmonės už savo dominuojančią padėtį planetoje yra skolingi būtent dėl šių būdingų savybių. Kai kurie gyvūnai išsiskiria galingais raumenimis ir aštriais iltimis, tačiau nė vieno būtybė, išskyrus žmogų, nėra apdovanotas tokiu tobulu protu. Dėl aukštesnio intelekto lygio mes galėjome sukurti tokius įrankius kaip kalba, technologijos ir sudėtinga socialinė organizacija. Laikui bėgant mūsų pranašumas tik stiprėjo ir plėtėsi, nes kiekviena nauja karta, pasikliaudama savo pirmtakų pasiekimais, judėjo į priekį.

Jei kada nors bus sukurtas dirbtinis intelektas, pranokstantis bendrą žmogaus proto išsivystymo lygį, tai pasaulyje atsiras itin galingas intelektas. Ir tada mūsų rūšies likimas tiesiogiai priklausys nuo šių protingų techninių sistemų veiksmų – kaip ir dabartinį gorilų likimą daugiausia lemia ne patys primatai, o žmogaus ketinimai.

Tačiau žmonija tikrai turi neabejotiną pranašumą, nes kuria protingas technines sistemas. Iš principo, kas trukdo mums sugalvoti tokį superintelektą, kuris saugotų visuotines žmogiškąsias vertybes? Žinoma, turime labai rimtų priežasčių apsisaugoti. Praktiškai turėsime spręsti patį sunkiausią kontrolės klausimą – kaip suvaldyti superproto planus ir veiksmus. Ir žmonės galės pasinaudoti vienu šansu. Kai tik gimsta nedraugiškas dirbtinis intelektas (DI), jis iškart pradeda trukdyti mūsų pastangoms jo atsikratyti ar bent pakoreguoti jo nustatymus. Ir tada žmonijos likimas bus užantspauduotas.

Savo knygoje stengiuosi suprasti problemą, su kuria susiduria žmonės, susiję su superintelekto perspektyva, ir analizuoti jų atsaką. Mūsų laukia turbūt pati rimčiausia ir baisiausia darbotvarkė, kurią žmonija kada nors yra gavusi. Ir nesvarbu, laimėsime ar pralaimėsime, gali būti, kad šis iššūkis mums bus paskutinis. Čia nepateikiu jokių argumentų, palaikančių vieną ar kitą versiją: ar esame prie didelio proveržio slenksčio kuriant dirbtinį intelektą; ar galima tam tikru tikslumu numatyti, kada įvyks tam tikras revoliucinis įvykis. Greičiausiai šiame amžiuje. Vargu ar kas nors įvardins tikslesnę datą.

Pirmuosiuose dviejuose skyriuose apžvelgsiu įvairias mokslo sritis ir trumpai paliesiu tokią temą kaip ekonomikos vystymosi tempai. Tačiau pagrindinis knygos akcentas – tai, kas bus po to, kai pasirodys superintelektas. Turime aptarti šiuos klausimus: dirbtinio intelekto sprogstamojo vystymosi dinamiką; jo formos ir potencialas; strateginės galimybės, kuriomis jis bus apdovanotas ir dėl to gaus lemiamą pranašumą. Po to analizuosime kontrolės problemą ir bandysime išspręsti svarbiausią problemą: ar įmanoma sumodeliuoti tokias pradines sąlygas, kurios leistų mums išlaikyti savo pranašumą ir galiausiai išgyventi. Paskutiniuose skyriuose mes nutolsime nuo detalių ir pažvelgsime į problemą plačiau, kad apimtume visą situaciją, susidariusią atlikus mūsų tyrimą. Atkreipsiu jūsų dėmesį į keletą rekomendacijų, ką reikėtų daryti šiandien, kad ateityje išvengtumėte katastrofos, kuri kelia grėsmę žmonijos egzistavimui.

Rašyti šią knygą nebuvo lengva. Tikiuosi, kad mano nueitas kelias bus naudingas kitiems tyrinėtojams. Jie be nereikalingų kliūčių pasieks naujas ribas ir, kupini energijos, galės greitai įsitraukti į darbus, kurių dėka žmonės puikiai suvokia jiems kylančios problemos sudėtingumą. (Jei vis dėlto studijų kelias būsimiems analitikams atrodo šiek tiek vingiuotas ir vietomis duobėtas, tikiuosi, jie įvertins, koks nepravažiuojamas buvo kraštovaizdis prieš.)

Nepaisant sunkumų, susijusių su knygos darbu, stengiausi pateikti medžiagą paprasta kalba; Tačiau dabar matau, kad ne visai su tuo susitvarkiau. Natūralu, kad rašydama mintyse atsigręžiau į potencialų skaitytoją ir kažkodėl visada įsivaizdavau save šiame vaidmenyje, tik kiek jaunesnę už dabartinį – pasirodo, kuriu knygą, kuri gali sukelti susidomėjimą pirmiausia man pačiam, bet metų metus neapsunkintas praeities. Galbūt tai ir lems nedidelį skaitytojų skaičių ateityje. Tačiau, mano nuomone, knygos turinys bus prieinamas daugeliui žmonių. Tereikia šiek tiek protiškai pasistengti, nustoti netikėtai atmesti naujas idėjas ir atsispirti pagundai viską, kas nesuprantama, pakeisti patogiais stereotipais, kuriuos visi nesunkiai išžvejojame iš savo kultūrinių rezervatų. Specialių žinių neturintys skaitytojai neturėtų pasiduoti matematiniams skaičiavimams ir nepažįstamiems terminams, kurie pasitaiko vietomis, nes kontekstas visada leidžia suprasti pagrindinę mintį. (Skaitytojai, kurie, priešingai, nori sužinoti daugiau informacijos, daug sudomins užrašuose.)

Tikėtina, kad didžioji knygos dalis išdėstyta neteisingai. Galbūt aš nepastebėjau kai kurių svarbių svarstymų, dėl kurių kai kurios mano išvados – o gal ir visos – bus klaidingos. Kad nepraleisčiau menkiausio niuanso ir nurodyčiau, su kokiu neapibrėžtumo laipsniu susiduriame, teko kreiptis į konkrečius žymenis – todėl mano tekstas perkrautas tokiomis bjauriomis žodinėmis dėmėmis kaip „gal“, „galėtų“, „gal“. , "patinka" , "tikriausiai", "labai tikėtina", "beveik tikrai". Tačiau kiekvieną kartą labai atsargiai ir labai apgalvotai kreipiuosi į įžanginių žodžių pagalbą. Tačiau norint nurodyti bendruosius epistemologinių prielaidų apribojimus, vienos tokios stilistinės priemonės akivaizdžiai nepakanka; autorius turi išsiugdyti sisteminį požiūrį į protą neapibrėžtumo sąlygomis ir tiesiogiai nurodyti klaidos galimybę. Tai jokiu būdu nėra klaidingas kuklumas. Nuoširdžiai pripažįstu, kad mano knygoje gali būti rimtų klaidingų nuomonių ir neteisingų išvadų, tačiau tuo pat metu esu įsitikinęs, kad literatūroje pateikiami alternatyvūs požiūriai yra dar blogesni. Be to, tai galioja ir visuotinai priimtai „nulinei hipotezei“, pagal kurią šiandien galime visiškai pagrįstai ignoruoti superintelekto atsiradimo problemą ir jaustis visiškai saugūs.

Pirmas skyrius
Praeities laimėjimai ir šiandienos galimybės

Pradėkime nuo kreipimosi į tolimą praeitį. Paprastai tariant, istorija yra seka įvairių modelių augimas, o procesas vis spartėja. Šis modelis suteikia mums teisę manyti, kad galimas kitas – dar greitesnis – augimo laikotarpis. Tačiau vargu ar verta duoti per daug didelę reikšmę panašus pasvarstymas, nes mūsų knygos tema nėra „technologinis pagreitis“, ne „eksponentinis augimas“ ir net ne tie reiškiniai, kurie paprastai pateikiami „singuliarumo“ sąvoka. Toliau aptarsime pagrindą: kaip vystėsi dirbtinio intelekto tyrimai. Tada pereisime prie esamos situacijos: kas šiandien vyksta šioje srityje. Galiausiai pažvelkime į kai kuriuos naujausius ekspertų vertinimus ir pakalbėkime apie mūsų nesugebėjimą numatyti tolesnių įvykių laiko.

Augimo modeliai ir žmonijos istorija

Vos prieš kelis milijonus metų žmonių protėviai dar gyveno Afrikos medžių lajose, šokinėdami nuo šakos ant šakos. Išvaizda Homo sapiens, arba Homo sapiens, atskirti nuo mūsų bendrų protėvių su antropoidinėmis beždžionėmis, geologiniu ir net evoliuciniu požiūriu, tai įvyko labai sklandžiai. Senovės žmonės užėmė vertikalią padėtį, o jų rankų nykščiai pradėjo pastebimai atsiskirti nuo kitų. Tačiau svarbiausia, kad įvyko gana nedideli smegenų tūrio ir nervų sistemos organizavimo pokyčiai, kurie ilgainiui lėmė milžinišką žmogaus psichinės raidos šuolį. Dėl to žmonės turi galimybę mąstyti abstrakčiai. Jie pradėjo ne tik nuosekliai reikšti sudėtingas mintis, bet ir kurti informacinę kultūrą, tai yra kaupti informaciją ir žinias bei perduoti jas iš kartos į kartą. Reikia pasakyti, kad žmogus išmoko tai daryti daug geriau nei bet kuri kita gyva būtybė planetoje.

Senovės žmonija, naudodama joje pasirodžiusius sugebėjimus, kūrė vis racionalesnius gamybos metodus, kurių dėka ji galėjo migruoti toli už džiunglių ir savanų. Iškart po žemės ūkio atsiradimo gyventojų skaičius ir jų tankumas pradėjo sparčiai augti. Daugiau žmonių – daugiau idėjų, o didelis tankumas prisidėjo ne tik prie spartaus naujų tendencijų plitimo, bet ir prie įvairių specialistų atsiradimo, o tai reiškė, kad tarp žmonių nuolat tobulėjo profesiniai įgūdžiai. Šie veiksniai išaugo ekonomikos plėtros tempas, leido augti produktyvumui ir formuotis techniniams pajėgumams. Vėliau tokios pat svarbos pažanga, sukėlusi pramonės revoliuciją, sukėlė antrą istorinį šuolį spartindama augimo tempą.

Šis dinamiškas augimo tempas turėjo svarbių pasekmių. Pavyzdžiui, žmonijos aušroje, kai Žemėje gyveno protėviai šiuolaikiniai žmonės, arba hominidų, ekonominis vystymasis buvo per lėtas, o gamybos pajėgumų augimui prireikė apie milijoną metų, todėl planetos gyventojų skaičius leido sau išaugti milijonu žmonių, o kas egzistavo ant išlikimo slenksčio. O po neolito revoliucijos, iki 5000 m.pr.Kr. Kr., kai žmonija iš medžiotojų-rinkėjų visuomenės perėjo prie žemės ūkio ekonominio modelio, augimo tempas išaugo tiek, kad tokiam pat populiacijos augimui pakako dviejų šimtų metų. Šiandien, po pramonės revoliucijos, pasaulio ekonomika kas pusantros valandos auga maždaug tiek pat.

Dabartinis augimo tempas - net jei jis bus gana ilgą laiką maras - lems įspūdingus rezultatus. Tarkime, kad pasaulio ekonomika ir toliau augs vidutiniu tempu, būdingu pastaruosius penkiasdešimt metų, tačiau planetos gyventojų skaičius ateityje taps turtingesnis nei šiandien: iki 2050 m. – 4,8 karto, o iki 2100 m. – 34 karto.

Tačiau tvaraus eksponentinio augimo perspektyvos nublanksta, palyginti su tuo, kas gali nutikti, kai pasaulis pasikeis tokiu greičiu, kurio mastas ir poveikis panašus į neolito ir pramonės revoliucijos. Remdamasis istoriniais duomenimis apie ekonominę veiklą ir gyventojų skaičių, ekonomistas Robinas Hansonas apskaičiavo, kad pleistoceno medžiotojų-rinkėjų visuomenė padvigubėjo per 224 000 metų, žemdirbių – 909 metus, o industrinė – 6,3 metų. (Pagal Hansono paradigmą, šiuolaikinis ekonomikos modelis, turintis mišrią agrarinės pramonės struktūrą, dar nesivysto dvigubai kas 6,3 metų.) Jei toks šuolis pasaulio raidoje jau būtų įvykęs, savo revoliucine reikšme būtų galima palyginti. iki dviejų ankstesnių, tada ekonomika būtų pasiekusi naują lygį ir maždaug kas dvi savaites būtų padvigubėjusi augimo tempai.

Žvelgiant iš šių dienų, tokie vystymosi tempai atrodo fantastiški. Tačiau net praėjusių epochų liudininkai sunkiai galėjo pagalvoti, kad pasaulio ekonomikos augimo tempai kada nors padvigubės kelis kartus per vieną kartą. Tai, kas jiems atrodė visiškai neįsivaizduojama, suvokiame kaip normą.

Idėja priartėti prie technologinio singuliarumo momento itin išpopuliarėjo po to, kai pasirodė Vernono Vinge'o, Ray'aus Kurzweilo ir kitų tyrinėtojų novatoriškas darbas. Tačiau „singuliarumo“ sąvoka naudojama dažniausiai skirtingos reikšmės, jau įgijo stabilią prasmę technologinio utopizmo dvasia ir net įgavo kažko bauginančio ir kartu gana didingo aurą. Kadangi dauguma šio žodžio apibrėžimų singuliarumas nėra susiję su mūsų knygos tema, pasieksime didesnį aiškumą, jei atsikratysime jo ir naudosime tikslesnius terminus.

Mus dominanti idėja, susijusi su singuliarumo sąvoka, yra potencialas sprogus intelekto vystymasis, ypač kalbant apie dirbtinio superintelekto kūrimo perspektyvą. Galbūt parodyta fig. 1 augimo kreivės kai kuriuos iš jūsų įtikins, kad esame ant naujo intensyvaus vystymosi tempo šuolio slenksčio – šuolio, kurį galima palyginti su neolito ir pramonės revoliucijomis. Greičiausiai diagramomis pasitikintiems žmonėms net sunku įsivaizduoti scenarijų, pagal kurį pasaulio ekonomikos padvigubinimo laikas sutrumpėtų iki savaičių be itin galingo proto, kuris yra daug kartų greitesnis ir efektyvesnis nei mums įprasta. biologinis protas. Tačiau norint pradėti prisiimti atsakomybę už revoliucinį dirbtinio intelekto atsiradimą, nebūtina mankštintis brėžiant augimo kreives ir ekstrapoliuojant istorinius ekonomikos vystymosi tempus. Ši problema tokia rimta, kad jai nereikia jokių tokio pobūdžio argumentų. Kaip matysime, yra daug svaresnių priežasčių būti atsargiems.

Ryžiai. 1. Pasaulio BVP dinamika per ilgą istorinį laikotarpį. Linijiniu mastu pasaulio ekonomikos istorija atvaizduojama kaip linija, iš pradžių beveik susiliejanti su horizontalia ašimi, o vėliau smarkiai besiveržianti vertikaliai aukštyn. BET. Net išplėtus laiko ribas iki dešimties tūkstančių metų praeityje, matome, kad linija nuo tam tikro taško beveik devyniasdešimt laipsnių trūkčioja aukštyn. B. Linija pastebimai atitrūksta nuo horizontalios ašies tik maždaug paskutinio šimto metų lygyje. (Diagramų kreivės skiriasi dėl skirtingo duomenų rinkinio, todėl rodikliai šiek tiek skiriasi vienas nuo kito.)

Vargu ar galiu pasakyti, kas tiksliai pasakyta teisingai.

Šiuo metu pajamos už pragyvenimo kainą yra apie 400 USD. Todėl 1 milijonui žmonių ši suma bus lygi 400 000 000 dolerių. Pasaulio BVP yra apie 60 000 000 000 000 USD ir auga keturiais procentais per metus (atsižvelgiant į vidutinį metinį augimo tempą nuo 1950 m., žr. duomenis:). Skaičiai, kuriuos pateikiau tekste, yra pagrįsti šiais duomenimis, nors tai tik apytikslis dydis. Jei paanalizuotume dabartinį žmonių skaičių Žemėje, paaiškėtų, kad per pusantros savaitės jis vidutiniškai padidėja 1 mln. tačiau toks gyventojų skaičiaus augimo tempas riboja ekonomikos vystymosi tempą, nes didėja ir pajamos vienam gyventojui. Perėjus prie gyvulininkystės ir žemdirbystės, pasaulio gyventojų skaičius išaugo 5000 m.pr.Kr. e. 1 milijonu žmonių per 200 metų – didžiulis pagreitis lyginant su homininų era, kai prireikė 1 milijono metų – taigi po neolito, arba žemės ūkio, revoliucijos progresas vyko daug greičiau. Vis dėlto, sutikite, tai gali nepastebėti, kad prieš septynis tūkstančius metų ekonominiam vystymuisi prireikė 200 metų, o šiandien pasaulio ekonomikoms toks pat padidėjimas užtrunka pusantros valandos, o gyventojų skaičius – pusantros savaitės. planeta. Taip pat žr.

Savo knygoje Nickas Bostromas bando suprasti žmonijos problemą, susijusią su superintelekto atsiradimo perspektyva, ir analizuoti jos atsaką.

knygos charakteristikos

Parašymo data: 2014 m
Vardas: . Etapai. Grasinimai. Strategijos

Apimtis: 760 puslapių, 69 iliustracijos
ISBN: 978-5-00057-810-0
Vertėjas: Sergejus Filinas
Autorių teisių savininkas: Mannas, Ivanovas ir Ferberis

Pratarmė knygai „Dirbtinis intelektas“

Panašią tendenciją – kai sparti technologijų plėtra ne tik lemia naujų galimybių formavimąsi, bet ir sukuria precedento neturinčias grėsmes – pastebime ir informacijos saugumo srityje. Visa mūsų pramonė atsirado ir egzistuoja vien dėl to, kad tokių nuostabių dalykų kaip kompiuteriai ir internetas kūrimas ir masinis platinimas sukėlė problemų, kurios būtų neįsivaizduojamos prieškompiuterių eroje. Dėl informacinių technologijų atsiradimo įvyko revoliucija žmonių komunikacijoje. Įskaitant jį naudojo įvairūs kibernetiniai nusikaltėliai. Ir tik dabar žmonija pamažu pradeda suvokti naujas rizikas: vis daugiau fizinio pasaulio objektų yra valdomi kompiuteriais ir programine įranga, dažnai netobuli, pilni skylių ir pažeidžiami; vis daugiau tokių objektų yra prijungti prie interneto, o grėsmės kibernetiniam pasauliui sparčiai tampa fizinio saugumo ir galimai gyvybės bei mirties problemomis.

Įvadas

Mūsų kaukolės viduje yra tam tikra medžiaga, kurios dėka galime, pavyzdžiui, skaityti. Ši medžiaga – žmogaus smegenys – turi galimybių, kurių nėra kitiems žinduoliams. Tiesą sakant, žmonės už savo dominuojančią padėtį planetoje yra skolingi būtent dėl šių būdingų savybių. Kai kurie gyvūnai išsiskiria galingiausiais raumenimis ir aštriausiomis iltimis, tačiau nė viena gyva būtybė, išskyrus žmogų, nėra apdovanota tokiu tobulu protu. Dėl aukštesnio intelekto lygio mes galėjome sukurti tokius įrankius kaip kalba, technologijos ir sudėtinga socialinė organizacija. Laikui bėgant mūsų pranašumas tik stiprėjo ir plėtėsi, nes kiekviena nauja karta, pasikliaudama savo pirmtakų pasiekimais, judėjo į priekį.

Dirbtinis intelektas. Etapai. Grasinimai. Strategija – Nickas Bostromas (atsisiųsti)

(įvadinis knygos fragmentas)

* * *

* * *

Ši knyga puikiai papildyta

Partnerio pratarmė

Nebaigta žvirblių istorija

Įvadas

Pirmas skyrius Praeities laimėjimai ir šiandienos galimybės

Augimo modeliai ir žmonijos istorija

knygos charakteristikos

Pratarmė knygai „Dirbtinis intelektas“

Įvadas

Dirbtinis intelektas. Etapai. Grasinimai. Strategija – Nickas Bostromas (atsisiųsti)

Jums gali būti įdomu

Pirmas skyrius
Praeities laimėjimai ir šiandienos galimybės