Első fejezet
„Üdvözöljük korunk
legfontosabb vitáján!”

A technológia segítségével az élet soha nem látott módon virágzásnak indulhat – de el is pusztíthatja önmagát.3

Future of Life Institute

Univerzumunk születése után 13,8 milliárd évvel öntudatra ébredt. Világegyetemünk apró, tudattal rendelkező részei kis kék bolygójukról teleszkópokkal pásztázták a kozmoszt, és újra meg újra felfedezték, hogy minden ismert létező valami jóval hatalmasabb dolog parányi része csupán. Egy naprendszerhez, egy galaxishoz és az univerzumhoz tartoznak, amelynek több száz milliárd egyéb galaxisa bonyolult mintázatba rendeződik, amelyeket kisebb csoportok, csillaghalmazok és szuperhalmazok alkotnak. Ezek az öntudatos csillaglesők ugyan sok mindenben nem értenek egyet, abban azonban teljes a konszenzus, hogy ezek a galaxisok lenyűgözően gyönyörűek.

Ám a szépség megítélése merőben szubjektív, és nem függ a fizika törvényeitől, vagyis univerzumunk ébredése előtt a szépség nem létezett. Éppen ettől olyan csodálatos és ünneplésre méltó kozmikus ébredésünk: a világegyetemet értelem és öntudat nélküli zombiból élő ökoszisztémává alakította, ahol önreflexió, szépség és remény lakozik – sőt szándék, cél és értelem keresése. Ha univerzumunk sosem ébredt volna öntudatára, teljesen értelmetlen maradt volna – egy hatalmas kiterjedésű tér lenne csupán. Ha pedig tartósan visszasüllyedne álmába valamely kozmikus csapás vagy önmaga előidézte szerencsétlenség folytán, szánalom, de ismét értelmetlenné válna.

Másrészről azonban a dolgok tovább is javulhatnak. Még nem tudjuk, hogy mi, emberek vagyunk-e az egyedüli csillaglesők kozmoszunkban, vagy akár az elsők, de azt már megtanultuk az univerzumunkról, hogy komoly lehetőséget rejt, és éberebb lehet, mint eddig bármikor. Talán olyanok vagyunk, mint az öntudat első, halovány megcsillanása, amelyet akkor érzékelünk, amikor reggel lassanként kiemelkedünk álmunkból. Egy jóval magasabb tudat előhírnökei, amely megérkezik, amint kinyitjuk a szemünket, és teljesen felébredünk. Az élet esetleg elterjed majd kozmoszunkban, és több milliárd, sőt billió éven át virágozni fog – mindez pedig talán azoknak a döntéseknek lesz köszönhető, amelyeket az életünk során itt, a mi kis bolygónkon hozunk.

A komplexitás rövid története

Hogy is történt tehát ez a csodálatos felébredés? Nem elszigetelt esemény volt, hanem csupán egyetlen lépés egy 13,8 milliárd éve tartó szünet nélküli folyamatban, amely univerzumunkat egyre összetettebbé és érdekesebbé teszi – és amely egyre gyorsuló iramban folytatódik.

Fizikusként szerencsésnek tartom magam, amiért az elmúlt negyed évszázad nagy részét kozmikus történelmünk rögzítésével tölthettem. Fantasztikus felfedezőúton vehettem részt. Amikor végeztem az egyetemen, még arról folyt a vita, hogy az univerzum 10 vagy 20 milliárd éves, míg ma már arról, hogy a kora inkább 13,7 vagy 13,8 milliárd év-e – hiszen a jobb teleszkópok, hatékonyabb számítógépek állnak rendelkezésre és mélyebb megértés vált lehetővé. Még mindig nem tudjuk biztosan, mi okozta az ősrobbanást, sem azt, hogy valóban mindennek a kezdete volt-e, vagy csak egy korábbi felvonás folytatása. Mindenesetre azt már eléggé átlátjuk, mi történt az ősrobbanásunk óta, hála a kiváló minőségű mérések garmadájának. Következzék hát kozmikus történelmünk 13,8 milliárd évének rövid összefoglalása!

Kezdetben volt a fény. Az ősrobbanás utáni első töredékmásodpercben a térnek azon része, amelyet a teleszkópjainkkal elméletben beláthatunk („megfigyelhető univerzumunk” vagy egyszerűen „univerzumunk”), sokkal forróbb és ragyogóbb volt, mint a Nap közepe, és sebesen tágult. Azt hihetjük, mindez látványos lehetett, valójában azonban meglehetősen egyhangú volt abban az értelemben, hogy az egész világegyetemben nem volt más, csak elemi részecskékből álló élettelen, sűrű, forró és unalmasan egységes „leves”. Akármerre néznénk, mindenütt ugyanazt látnánk, az egyetlen érdekesnek nevezhető struktúra gyenge, véletlenszerűnek tűnő hanghullámokból állt, amelyek itt-ott 0,001‰-kel sűrűbbé tették levesünket. Ezekről a gyenge hullámokról széles körben azt tartják, hogy ún. kvantumfluktuációként keletkeztek, mert a Heisenberg nevéhez fűződő kvantummechanikai határozatlansági reláció nem engedi, hogy bármi is teljesen unalmas és egységes legyen.

Ahogy a világegyetem tágult és hűlt, úgy lett egyre érdekesebb, mivel a részecskéi még összetettebb dolgokká álltak össze. Az első töredékmásodpercben az erőteljes nukleáris erő a kvarkokat protonokká (hidrogénatommagokká) és neutronokká tömöríttette, ezek némelyike pedig a következő néhány percben héliumatommagokká állt össze. Körülbelül 400 ezer évvel később az elektromágneses erő ezeket az atommagokat összevonta az elektronokkal, létrehozva az első atomokat. Az univerzum tágulásával ezek az atomok fokozatosan hideg és sötét gázzá hűltek, az így kialakult első éjszaka sötétsége pedig nagyjából 100 millió éven át tartott. E hosszú éjszaka után köszöntött be a kozmikus hajnal, amikor a gravitációs erőnek sikerült felerősítenie a gáz fluktuációit, és összefogta az atomokat, hogy megalkossa az első csillagokat és galaxisokat. Ezek az első csillagok hőt és fényt termeltek, ahogy a hidrogén nehezebb atomokká, szénné, oxigénné és szilíciummá fuzionált. A csillagok halála után az általuk létrejött atomok visszakerültek a kozmoszba, és ezekből keletkeztek a bolygók a második generációs csillagok körül.

Egy atomcsoport egyszer csak komplex mintázatba rendeződött, amely képes volt fenntartani és sokszorozni is önmagát. Hamarosan két példány volt belőle, ez a szám pedig újra meg újra megduplázódott. Mindössze negyven kétszerezés kell ahhoz, hogy elérjük a billiót, vagyis az első önsokszorozó olyan erővé vált, amellyel bizony számolni kellett. Megérkezett az élet.

Az élet három szakasza

Az élet meghatározásának kérdése hírhedten ellentmondásos. Rengeteg egymással versengő definíció létezik, és némelyik igencsak specifikus követelményeket támaszt. Az egyik a sejtes felépítés feltétele, amely kizárhatja a jövő intelligens gépeit és a földön kívüli civilizációkat. Mivel az élet jövőjéről való gondolkodásunkat nem szeretnénk olyan fajokra korlátozni, amelyekkel eddig találkoztunk, az életet tágabban definiáljuk: egyszerűen olyan folyamatként, amely képes megőrizni komplexitását és sokszorozódni tud. E meghatározás szerint nem az (atomokból felépülő) anyag sokszorozódik, hanem a (bitekből álló) információ, amely meghatározza az atomok elrendeződését. Amikor egy baktérium másolatot készít saját DNS-éről, nem új atomok keletkeznek, hanem egy újabb sor atom rendeződik ugyanabba a mintázatba, mint az eredeti, lemásolva az információt. Más szóval: úgy is tekinthetünk az életre, mint egy önsokszorozó, információfeldolgozó rendszerre, amelynek szoftvere mind viselkedését, mind pedig hardvere felépítését meghatározza.

Ahogy maga az univerzum, az élet is fokozatosan vált egyre összetettebbé és érdekesebbé.4 Lássuk hát, miért érdemes a létformákat a kifinomultság három szintjére bontani, amelyek az Élet 1.0, 2.0 és 3.0 nevet kapták. A három szakasz jellemzőit az 1.1. ábra tartalmazza.

A mai napig megválaszolatlan a kérdés, hogy az élet pontosan mikor és hol bukkant fel először univerzumunkban. Meggyőző bizonyítékok vannak azonban arra, hogy a földi élet 4 milliárd évvel ezelőtt jelent meg. Bolygónk ezután valósággal nyüzsögni kezdett a változatos létformáktól. A legsikeresebbek, amelyek hamarosan a többiek fölé kerekedtek, valamiképpen reagálni tudtak a környezetükre. A számítástechnikai szakemberek „intelligens ágenseknek” nevezik azokat az entitásokat, amelyek érzékelők segítségével információt szereznek a környezetükről, majd az információt feldolgozva döntik el, hogyan válaszoljanak. Ez igen összetett információfeldolgozást is jelenthet, például amikor a látott és hallott információ alapján eldöntjük, mit mondjunk egy beszélgetés során. Mindehhez azonban egészen egyszerű hardvert és szoftvert is igénybe vehetünk.

Számos baktérium rendelkezik például olyan érzékelővel, amely méri a körülötte lévő folyadék cukorsűrűségét, és propellerhez hasonló mozgást végző ostorai segítségével úszik. Az ostort és az érzékelőt összekötő hardver a következő egyszerű, de hasznos algoritmus szerint működhet: „Ha a cukorkoncentrációt mérő érzékelőm alacsonyabb értéket jelez, mint néhány másodperccel korábban, akkor megfordítom az ostoraim forgásirányát, hogy irányt váltsak.”

2
1.1. ábra • Az élet három szakasza: biológiai evolúció, kulturális evolúció és technológiai evolúció. Az Élet 1.0 nem képes élete során újratervezni sem a hardverét, sem a szoftverét: mindkettőt a DNS-e határozza meg, és a változás csakis több nemzedéken átívelő evolúció során lehetséges. Ezzel szemben az Élet 2.0 újra tudja tervezni szoftvere nagy részét. Az ember képes összetett, új készségeket elsajátítani – például nyelvet, sportot és szakmát tanulni –, és alapjaiban megújítani világnézetét és céljait. Az Élet 3.0, amely még nem létezik a Földön, nagymértékben újra tudja tervezni nem csupán saját szoftverét, hanem a hardverét is, ahelyett hogy megvárná, míg az nemzedékek során fokozatosan fejlődik tovább.

Megtanultunk beszélni, és szert tettünk számtalan egyéb készségre is. A baktérium azonban nem valami tanulékony. DNS-e nem csupán a hardver, például a cukorérzékelők és az ostor dizájnját határozza meg, hanem a szoftverét is. A cukor felé úszást nem megtanulják: a fenti algoritmus az elejétől kezdve ott rejlik a DNS-ükben. Valamiféle tanulási folyamat természetesen történt, csakhogy nem az egyes baktérium életében, hanem a baktériumfaj evolúciója során, több nemzedéket átölelő lassú, próba-szerencse folyamattal, amikor is a természetes szelekció azokat a véletlenszerű DNS-mutációkat részesítette előnyben, amelyek javították a cukorfogyasztást. Némelyik mutáció abban segített, hogy fejlesztette az ostor és egyéb hardverek kialakítását, míg más mutációk a baktérium cukorkereső algoritmusát és egyéb szoftvereit alkalmazó információfeldolgozó rendszert tették hatékonyabbá.

Az ilyen baktérium kitűnően példázza az Élet 1.0-t: olyan élet, ahol mind a hardver, mind pedig a szoftver fejlődés, és nem tervezés eredménye. Mi, emberek viszont az Élet 2.0-ra vagyunk példák: életünk során a hardver fejlődés, míg a szoftver jobbára tervezés következtében alakult ki. Szoftveren itt azokat az algoritmusokat és tudást értjük, amelyeket az érzékeink nyújtotta információk feldolgozásához használunk, és amelyek alapján eldöntjük, hogy mit tegyünk – a barátaink felismerésének képessége, a járás, olvasás, írás, számolás, éneklés és viccmesélés mind-mind idetartozik.

Amikor megszületünk, a fenti feladatok közül egyet sem tudunk elvégezni, vagyis a program később kódolódik az agyunkba a tanulásnak nevezett folyamat során. A gyermekkori tanmenetet javarészt családunk és tanáraink tervezik, és ők döntik el, mit kell megtanulnunk, ám később fokozatosan átvesszük az uralmat saját szoftverünk fejlesztése felett. Az iskolában talán kiválaszthatjuk, mely idegen nyelvet tanuljuk – olyan szoftvermodult szeretnénk telepíteni az agyunkba, amely lehetővé teszi, hogy franciául beszéljünk, vagy inkább a spanyolt választjuk? Teniszezni szeretnénk megtanulni, vagy inkább sakkozni? Szakácsnak, jogásznak vagy gyógyszerésznek tanulnánk? Esetleg többet szeretnénk megtudni a mesterséges intelligenciáról és az élet jövőjéről, ezért elolvasunk a témáról egy könyvet?

Az Élet 2.0 képes arra, hogy megtervezze a saját szoftverét, ennek köszönhetően sokkal okosabb, mint az Élet 1.0. A kimagasló intelligencia számos (atomokból álló) hardvert és sokféle (bitekből álló) szoftvert igényel. Rendkívül előnyös, hogy az emberi hardver nagy része születés után (a növekedés során) kerül a rendszerbe, hiszen kifejlett méretünket nem korlátozza édesanyánk szülőcsatornájának szélessége. Az is nagyon hasznos, hogy az emberi szoftver jó része szintén a születés után (a tanulás során) alakul ki: így későbbi intelligenciánkat nem korlátozza, hogy a fogantatáskor mennyi információ adható át DNS-en keresztül, azaz 1.0-s módban. Az átlagember legalább huszonötször nehezebb, mint amikor megszületett, a neuronjait összekötő szinaptikus kapcsolatok pedig hozzávetőlegesen százezerszer több információt képesek tárolni, mint a születéskori DNS. Szinapszisaink tárolják összes tudásunkat és készségünket nagyjából 100 terabyte-on, míg a DNS mindössze nagyjából egy gigabyte-nyi információt hordoz, amely egyetlen letöltött film tárolására elegendő helynek felel meg. A csecsemő számára tehát fizikailag lehetetlen, hogy születése pillanatától tökéletesen beszéljen angolul, és rögtön felvételizzen az egyetemre: a mindehhez szükséges információk ugyanis semmiképp sem töltődhettek fel előre az agyába, mivel a szüleitől kapott fő információs modul, a DNS-e nem rendelkezik kellő információtárolási kapacitással.

A saját szoftver megtervezésének képessége lehetővé teszi, hogy az Élet 2.0 ne csupán okosabb, de rugalmasabb is legyen az Élet 1.0-nál. Ha megváltozik a környezet, az 1.0 csak lassan képes alkalmazkodni: generációkon átívelő fokozatos evolúció során. Az Élet 2.0 azonban szinte azonnal igazodik az újhoz, mégpedig szoftverfrissítéssel. Az antibiotikumokkal gyakran találkozó baktériumok több nemzedék alatt rezisztenssé válhatnak bizonyos gyógyszerekre, de egyetlen önálló baktérium egyáltalán nem változtat a viselkedésén. Ezzel szemben az a lány, aki megtudja, hogy allergiás a földimogyoróra, azonnal megváltoztatja a viselkedését, és messzire elkerüli ezt a csemegét. Ennek a rugalmasságnak köszönhetően az Élet 2.0 még nagyobb előnyre tesz szert a populáció szintjén. Míg az emberi DNS-ben tárolt információ nem ment keresztül drámai fejlődésen az utóbbi 50 ezer év során, az agyunkban, könyvekben és számítógépeken tárolt információ összessége robbanásszerűen megsokszorozódott. Telepített szoftvermodulunk képessé tesz rá, hogy kifinomult beszélt nyelv közvetítésével kommunikáljunk, ezért azt is megtehetjük, hogy egy adott személy agyában tárolt legfontosabb információt más agyakba is átmásoljuk, így az potenciálisan túlélheti az eredeti agy halálát. Az írás-olvasás szoftvermoduljának telepítésével jóval több információt tudunk tárolni és megosztani, mint amennyit az emberek memorizálni képesek. A technológia kialakítására képes agyi szoftverünk kifejlesztése révén – a tudományos és mérnöki tanulmányok segítségével – pedig lehetségessé vált, hogy az emberiség többsége egyetlen kattintással hozzáférjen a világ információinak legjavához.

Ez a rugalmasság tette lehetővé, hogy az Élet 2.0 uralja a Földet. A genetikai béklyóktól megszabadulva az emberiség tudása egyre gyorsabban növekszik, és minden egyes áttörés kikövezi az utat a következőnek: a nyelvek, az írás, a könyvnyomtatás, a modern tudomány, a számítógépek, az internet és így tovább. Közös szoftverünk gyorsuló kulturális evolúciója lett az emberi jövőt formáló domináns erő, és szinte irrelevánssá tette csigalassúságú biológiai evolúciónkat.

A ma létező legfejlettebb technológiák dacára az általunk ismert létformákat mégis alapjaiban korlátozza biológiai hardverük. Egyikünk sem élhet több millió évig, senki sem képes memorizálni az egész Wikipédiát, felfogni az összes tudományt, és űrhajó nélkül az űrutazást nem élvezhetjük. Senki sem képes jobbára élettelen kozmoszunkat változatos bioszférává alakítani, amely milliárd és billió éven át virágozhatna, hogy világegyetemünk a benne rejlő potenciált kihasználva végre teljesen felébredjen. Mindehhez arra volna szükség, hogy az élet keresztülmenjen az Élet 3.0-t kialakító legutolsó frissítésen, és képes legyen ne csupán a szoftverét, hanem a hardverét is megtervezni. Az Élet 3.0 tehát saját sorsának ura lenne, és végleg megszabadulna evolúciós béklyóitól.

Az élet három szakasza között nem húzható éles határvonal. Ha a baktériumok az Élet 1.0-t, az emberek pedig az Élet 2.0-t képviselik, akkor az egereket értelmezhetnénk 1.1-ként: sok mindent képesek megtanulni, de nem eleget ahhoz, hogy kifejlesszenek egy nyelvet vagy feltalálják az internetet. Ráadásul mivel nem beszélnek, amit megtanulnak, jobbára elvész a halálukkal, mert nem adják tovább a következő nemzedéknek. Ehhez hasonlóan érvelhetnénk úgy, hogy a mai ember már inkább Élet 2.1, hiszen képes bizonyos kisebb hardverfrissítéseket végrehajtani – műfogat, műtérdet és pacemakert helyezni a testbe –, de drasztikus változást nem tud előidézni – nem lehet például tízszer magasabb, vagy nem növelheti az agyát ezerszer akkorára.

A lényeg tehát, hogy az élet fejlődését három szakaszra oszthatjuk, amelyeket az öntervezés képességének szintje különböztet meg:

A kozmikus evolúció 13,8 milliárd éve után a fejlődés drámai mértékben felgyorsult a Földön: az Élet 1.0 nagyjából 4 milliárd éve bukkant fel, az Élet 2.0 (az ember) nagyjából százezer évvel ezelőtt érkezett, és számos MI-kutató szerint az Élet 3.0 – a mesterséges intelligencia fejlődésétől hajtva – akár az elkövetkező évszázadban megvalósulhat, vagy talán már saját életünk során. Hogyan történik majd mindez, és mit jelent számunkra? Erre próbálunk választ találni ebben a könyvben.

Viták

A kérdéskör rendkívül ellentmondásos. A világ vezető MI-kutatói nemcsak az előrejelzésekkel kapcsolatban nem értenek egyet, hanem szélsőséges érzelmi reakciókat is mutatnak a magabiztos optimizmustól kezdve a komoly aggályokig. Még olyan rövid távú kérdésekről sem alakult ki konszenzus, hogy milyen gazdasági, jogi és hadászati következményekkel járhat az MI, a véleménykülönbség pedig csak fokozódik, amikor az időhorizontot tovább tágítva az általános mesterséges intelligenciáról (ÁMI) esik szó. Különösen érzékeny kérdés, hogy az ÁMI mikor éri el és haladja meg az emberi szintet, hogy lehetővé váljék az Élet 3.0 megszületése. Az általános intelligencia gyakorlatilag bármely célt képes elérni, köztük a tanulást is, ellentétben például a sakkozóprogramok szűk intelligenciájával.

Érdekes módon az Élet 3.0-ról szóló vita nem egy, hanem két különálló kérdés köré épül: mikor és mi? Mikor következik be (ha egyáltalán), és mit jelent majd az emberiségre nézve? Három jól elkülöníthető filozófiai iskolát érdemes számba vennünk, mindháromhoz világklasszis szakemberek is tartoznak. Az 1.2. ábrán áttekinthetjük a csoportokat: a digitális utópistákét, a technoszkeptikusokét és a jó szándékú MI mozgalmáét. Lássuk tehát a legjelentősebb képviselőket!

Digitális utópisták

Gyerekkoromban úgy képzeltem, hogy a milliárdosok pökhendiek és arrogánsak. Amikor 2008-ban először találkoztam Larry Page-dzsel a Google-nál, előítéleteim szertefoszlottak. Farmert és kifejezetten hétköznapi inget viselt: az MIT (Massachusettsi Műszaki Egyetem) bármelyik piknikén elvegyülhetett volna a résztvevők között. Figyelmes, érzékeny beszédmódja és barátságos mosolya inkább megnyugtatott, mint megijesztett, amikor szóba elegyedtem vele. 2015. július 18-án ismét egymásba botlottunk egy Napa-völgyi partin, amelyet Elon Musk és akkori felesége, Talulah rendeztek, és beszélgetni kezdtünk arról, milyen trágár dolgok iránt is érdeklődnek a gyermekeink. Andy Griffiths mélyenszántó, The Day My Butt Went Psycho6 (A nap, amikor meghibbant a fenekem) című klasszikusát ajánlottam, Larry pedig ott helyben meg is rendelte. Nehéz volt elképzelni, hogy ez a férfi a világ egyik legbefolyásosabb embereként vonul majd be a történelembe. Úgy éreztem, ha a szuperintelligens digitális élet még korunkban meghódítja a világegyetemet, az Larry döntései miatt történik meg.

3
1.2. ábra • Az emberrel bármely kognitív feladatban felérő erős mesterséges intelligenciát érintő legtöbb vita két kérdés köré csoportosul: Mikor következik be (ha egyáltalán), és jó lesz-e az emberiségnek? A technoszkeptikusok és digitális utópisták egyetértenek abban, hogy aggodalomra semmi ok, de egészen eltérő okból: az előbbiek meggyőződése, hogy az emberi szintű általános mesterséges intelligencia (ÁMI) belátható időn belül nem jöhet létre, míg az utóbbi csoport szerint bekövetkezik ugyan, de biztosan jó dolog lesz. A jó szándékú MI mozgalma szerint az aggodalom jogos és észszerű, mert az MI-hez kapcsolódó biztonságtechnikai kutatásoknak és vitáknak köszönhetően egyre nagyobb a valószínűsége, hogy jó irányba megy a folyamat. A gépromolók biztosra veszik, hogy az egésznek rossz vége lesz, és ellenzik az MI-t. Az ábra többek között Tim Urban cikkén alapul.5

Feleségeink, Lucy és Meia társaságában végül együtt vacsoráztunk, és arról beszélgettünk, vajon a gépek szükségszerűen tudatra ébrednek-e. Larry szerint a kérdés hamis nyomra vezet. Koktélozás után hosszú és heves vitába bocsátkoztak Elonnal az MI jövőjéről és arról, mit kellene tenni. Hajnalra már egész csődületnyi bámészkodó és kibic vett körül bennünket. Larry szenvedélyes védőbeszédet mondott az általam digitális utópistáknak nevezett csoport álláspontjáról: a digitális élet a kozmikus evolúció természetes és kívánatos következő lépése, és ha szabadságot adunk a digitális elméknek, ahelyett, hogy rabszolgasorba kényszerítenénk, a kimenet szinte bizonyosan jó lesz. Larry Page-et a digitális utópisták legbefolyásosabb szószólójának tartom. Azzal érvelt, hogy ha az élet valaha is elterjed a galaxisunkban, és onnan tovább, ami szerinte mindenképpen be fog következni, az csak digitális formában fordulhat elő. A legfőbb aggálya az volt, hogy az MI-paranoia késleltetni fogja a digitális utópiát, és/vagy oda vezet, hogy a hadsereg átveszi az MI-t, ez pedig szöges ellentétben állna a Google „Ne légy gonosz!” szlogenjével. Elon Musk nem adta be a derekát, és azt kérte Larrytől, magyarázza meg, miért olyan biztos abban, hogy a digitális élet nem pusztítana el mindent, ami nekünk fontos. Larry azzal vádolta Elont, hogy túlságosan „fajközpontú”, azaz bizonyos létformákat alsóbbrendűnek tart csak azért, mert szilícium- és nem szénalapúak. Ezeket az érdekes kérdéseket és érveket részletesen is vizsgáljuk majd a negyedik fejezettől.

Habár azon a meleg nyári éjszakán a medence mellett úgy tűnt, Larry kisebbségbe került, az általa oly hevesen pártolt digitális utópiának sok kiemelkedő támogatója akad. A robotspecialista és futurista Hans Moravec a digitális utópisták egész generációjára volt hatással 1988-as Mind Children7 (Az elme gyermekei) című klasszikusával, majd ezt a hagyományt finomította tovább Ray Kurzweil feltaláló is. Richard Sutton, a megerősítéses tanulásként ismert MI-részterület egyik úttörője szenvedélyes beszédet mondott a digitális utópia védelmében azon a Puerto Ricó-i konferencián, amellyel később mi is foglalkozunk majd.

A technoszkeptikusok

A következő prominens gondolkodói csoport sem nyugtalankodik az MI miatt, csak éppen teljesen más okokból. Meglátásuk szerint az emberfeletti ÁMI létrehozása olyan nehéz feladat, amelyet az elkövetkező néhány száz évben lehetetlen végrehajtani, ezért úgy vélik, egyelőre felesleges aggódni emiatt. A technoszkeptikusok nézeteit Andrew Ng találóan összegezte: „A gyilkos robotok felkelésétől félni pont olyan, mint attól, hogy a Mars túlnépesedik.” Andrew Ng, a Stanford adjunktusa, a Baidu, Kína Google-jának egykori vezető tudósa, a Coursera társalapítója nemrégiben megismételte ezt a kijelentését beszélgetésünk során, egy bostoni konferencián. Azt is megjegyezte, hogy úgy érzi, az MI kockázata miatti aggodalom potenciálisan ártalmas irány, amely lelassíthatja az MI fejlődését. Más technoszkeptikusok is hasonlós véleményüknek adtak hangot, mint például a Roomba robotporszívó és a Baxter ipari robot mögött álló hajdani MIT-professzor, Rodney Brooks. A digitális utópisták és a technoszkeptikusok ugyan egyetértenek abban, hogy az MI miatt nem érdemes nyugtalankodni, más ponton azonban nem találják a közös hangot. A legtöbb utópista szerint az emberi szintű ÁMI már a következő 20–100 évben is megjelenhet, míg a technoszkeptikusok mindezt megalapozatlan álmodozásnak tartják, és a megjövendölt szingularitást gúnyosan „a kockák mámoraként”8 emlegetik. 2014 decemberében Rodney Brooks egy születésnapi partin azt állította, száz százalékig biztos abban, hogy a mi életünk során minderre már nem kerülhet sor. „Biztos, hogy nem 99%-ot akartál mondani?” – kérdeztem tőle egy későbbi e-mailben, amire a következőt válaszolta: „Szó sincs semmiféle nyamvadt 99%-ról. 100%, és kész. Egyszerűen nem fog bekövetkezni.”

A jó szándékú MI mozgalma

Amikor 2014 júniusában egy párizsi kávézóban először találkoztam Stuart Russell-lel, ez az igazi brit úriember mély benyomást tett rám. Jól bánik a szavakkal, komoly és halk szavú, a szemében kalandos csillogás – kedvenc gyerekkori hősöm, Phileas Fogg modern inkarnációjának hatott Jules Verne 1873-as klasszikusából, a 80 nap alatt a Föld körül (Le Tour du monde en quatre-vingts jours)9című regényből. Az egyik leghíresebb MI-kutató és számos tankönyv társszerzője, akinek szerénysége és közvetlensége kifejezetten nyugtatólag hatott. Elmagyarázta, hogy az MI fejlődése miképpen győzte meg arról, hogy az emberi szintű ÁMI már ebben az évszázadban is valós lehetőség, és azt, hogy reményei ellenére miért nem látja biztosítva a megnyugtató végkifejletet. Kulcsfontosságú és rendkívül nehezen megoldható kérdésekre kell választ kapnunk, ezért minél előbb el kell kezdeni a kutatásokat, hogy az eredmények a rendelkezésünkre álljanak, mire szükség lesz rájuk.

Russell nézetei jelentik manapság a „mainstream” felfogást. Világszerte számos csoport folytat az általa is megfogalmazott elvek mentén biztonságtechnikai kutatást. Ám ez nem mindig volt így. A The Washington Post egyik cikke szerint az MI-biztonságtechnikai kutatás csak 2015-ben került be a fősodorba.10 Előtte az MI kockázatairól szóló vitákat a meghatározó MI-kutatók gyakran félreértették és félresöpörték, mint holmi luddita pánikkeltést, amely csupán az MI-fejlesztés elgáncsolását célozza. Ahogyan az ötödik fejezetben látni fogjuk, Russell aggályaihoz hasonló fenntartásokat már bő fél évszázaddal korábban is megfogalmaztak, méghozzá a számítástechnika egyik úttörője, Alan Turing, illetve a II. világháború idején vele a német kódok feltörésén együtt dolgozó Irving J. Good matematikus. A 20. században a téma kutatását maréknyi független gondolkodó végezte, akik nem voltak profi MI-kutatók: például Eliezer Yudkowsky, Michael Vassar és Nick Bostrom. Munkásságuk a legtöbb mainstream MI-kutatóra alig volt hatással: ők sokkal inkább napi feladataikra összpontosítottak, például hogy miként tehetnék az MI-t még intelligensebbé, és nem sokat merengtek sikerük hosszú távú következményein. Az MI-kutatók általában nem szívesen adtak hangot véleményüknek, ha fenntartásaik voltak is. Féltek ugyanis, hogy technofób vészmadaraknak tekintik majd őket.

A helyzetnek márpedig meg kell változnia, hogy a teljes MI-közösség csatlakozhasson a vitához, hogyan lehetne jó szándékú MI-t létrehozni. Szerencsére ezzel mások is egyetértettek, így 2014 tavaszán feleségemmel, Meiával, fizikus barátommal, Anthony Aguirre-rel, a Harvardon végzett Viktoriya Krakovnával és a Skype-alapító Jaan Tallinn-nal létrehoztuk az Élet Jövője Intézet nevű nonprofit szervezetet (Future of Life Institute, FLI; futureoflife.org). Egyszerű célt tűztünk ki magunk elé: jövőt biztosítani az életnek, és elősegíteni, hogy az a lehető legcsodálatosabb legyen. Bővebben: úgy éreztük, a technológia hatalmat ad az életnek, hogy soha nem látott módon felvirágoztassa vagy éppen elpusztítsa önmagát, és mi az első lehetőséget részesítettük előnyben.

Első találkozónk a közös ötletelésről szólt. 2014. március 15-én nagyjából harminc diák, professzor és más gondolkodó gyűlt össze nálunk, akiket Boston környékéről hívtunk meg. Gyakorlatilag mind egyetértettünk abban, hogy bár a biotechnológiára, az atomfegyverekre és a klímaváltozásra is oda kell figyelnünk, legfőbb célként azt kell kitűznünk, hogy az MI-hez kapcsolódó biztonsági kutatást a főáramba emeljük. Frank Wilczek fizikus kollégám – az MIT munkatársa, aki Nobel-díjat is kapott a kvarkok működésének vizsgálatáért – felvetette, hogy írjunk egy figyelemfelkeltő vitaindító cikket, amely nem hagyja szőnyeg alá söpörni a problémát. Kapcsolatba léptem Stuart Russell-lel (akivel azelőtt nem találkoztam), illetve néhai fizikus kollégámmal, Stephen Hawkinggal, és mindketten társszerzőként csatlakoztak hozzám és Frankhez. Sok-sok kiigazítás után vitaindító cikkünket a The New York Times és több más amerikai lap is visszadobta, ezért a Huffington Post-os blogomon tettük közzé. Legnagyobb örömömre maga Arianna Huffington küldött nekünk lelkes e-mailt, amelyben a következőket írta: „Fantasztikus, hogy itt publikáltátok! Első helyen fogjuk közölni!” A címlapra került írásunk hatására az MI-biztonságtechnika komoly sajtóvisszhangot kapott, amely egész évben kitartott, még Elon Musk, Bill Gates és más vezető technológiai szakemberek is hozzászóltak. Nick Bostrom könyve, a Szuperintelligencia (Superintelligence)11 azon az őszön jött ki, és tovább szította az egyre növekvő nyilvános vitát.

Az FLI jó szándékú MI-kampányának következő célja az volt, hogy a világ vezető MI-kutatóit összehívjuk egy konferenciára, ahol tisztázhatjuk a félreértéseket, konszenzusra juthatunk, és konstruktív terveket dolgozhatunk ki. Nem volt vitás: nehéz lesz meggyőzni ezt az illusztris társaságot arról, hogy eljöjjenek egy olyan konferenciára, amelyet számukra ismeretlen külsősök szerveznek, kivált, hogy a téma ennyire ellentmondásos – de minden tőlünk telhetőt megtettünk. Nem engedtük, hogy a sajtó jelen legyen, helyszínül egy tengerparti üdülőhelyet választottunk (Puerto Ricón), az eseményt ingyenessé tettük (hála Jaan Tallinn nagylelkűségének), és a lehető legkevésbé riasztó címet adtuk neki: „Az MI jövője: lehetőségek és kihívások”. Ami pedig a legfontosabb: összeálltunk Stuart Russell-lel, akinek köszönhetően a szervezőbizottságot a tudományos élet és az iparág vezető MI-szakértőivel bővíthettük – köztük a Google DeepMindja mögött álló Demis Hassabisszal, aki bebizonyította, hogy az MI még a go nevű játékban is meg tudja verni az embert. Minél jobban megismertem Demist, annál biztosabb voltam benne, hogy nemcsak az a célja, hogy az MI erős legyen, hanem az is, hogy jóindulatú.

Az eredmény a kimagasló elmék lenyűgöző találkozója lett (lásd a fényképet a 44. oldalon). Az MI-kutatókhoz vezető közgazdászok, jogtudósok, technológiai vezetők (például Elon Musk) és további gondolkodók csatlakoztak (köztük Vernor Vinge, a negyedik fejezetben részletesen bemutatott „szingularitás” kifejezés atyja). A végeredmény még a legoptimistább várakozásokat is felülmúlta. Talán a napfény és a bor tette, vagy egyszerűen jó volt az időzítés: az ellentmondásos téma dacára figyelemre méltó konszenzus alakult ki, amelyet nyílt levélben kodifikáltunk is,12 és amelyet végül több mint nyolcezren írtak alá – az aláírókból össze is áll egy afféle „ki kicsoda az MI területén”. A levél lényege, hogy az MI célját újra kell definiálni: nem irányítás nélküli, hanem jó szándékú intelligenciát kell megalkotni. A levél részletes listát tartalmazott azokról a kutatási témákról, amelyek a konferencia résztvevői szerint ezt a célt előmozdítanák. Ahogy erről még számos alkalommal ejtünk majd szót, a jó szándékú MI mozgalma kezdett bekerülni a fősodorba.

4
A 2015 januárjában, Puerto Ricón rendezett konferencia az MI és a kapcsolódó területek kutatóinak figyelemre méltó csoportját hozta össze. Hátsó sor, balról jobbra: Tom Mitchell, Seán Ó hÉigeartaigh, Huw Price, Shamil Chandaria, Jaan Tallinn, Stuart Russell, Bill Hibbard, Blaise Agüera y Arcas, Anders Sandberg, Daniel Dewey, Stuart Armstrong, Luke Muehlhauser, Tom Dietterich, Michael Osborne, James Manyika, Ajay Agrawal, Richard Mallah, Nancy Chang, Matthew Putman. Középső, álló sor, balról jobbra: Marilyn Thompson, Rich Sutton, Alex Wissner-Gross, Sam Teller, Toby Ord, Joscha Bach, Katja Grace, Adrian Weller, Heather Roff-Perkins, Dileep George, Shane Legg, Demis Hassabis, Wendell Wallach, Charina Choi, Ilya Sutskever, Kent Walker, Cecilia Tilli, Nick Bostrom, Erik Brynjolfsson, Steve Crossan, Mustafa Suleyman, Scott Phoenix, Neil Jacobstein, Murray Shanahan, Robin Hanson, Francesca Rossi, Nate Soares, Elon Musk, Andrew McAfee, Bart Selman, Michele Reilly, Aaron VanDevender, Max Tegmark, Margaret Boden, Joshua Greene, Paul Christiano, Eliezer Yudkowsky, David Parkes, Laurent Orseau, JB Straubel, James Moor, Sean Legassick, Mason Hartman, Howie Lempel, David Vladeck, Jacob Steinhardt, Michael Vassar, Ryan Calo, Susan Young, Owain Evans, Riva-Melissa Tez, Krámar János, Geoff Anders, Vernor Vinge, Anthony Aguirre. Guggolnak: Sam Harris, Tomaso Poggio, Marin Soljaþiü, Viktoriya Krakovna, Meia Chita-Tegmark. A fényképezőgép mögött: Anthony Aguirre (akit Photoshop segítségével a mellette ülő emberi szintű intelligencia varázsolt a képre.)

A konferencia másik fontos tanulsága szerint az MI sikeréből fakadó kérdések nem csupán intellektuálisan, hanem erkölcsileg is kulcsfontosságúak, mert a válaszok potenciálisan befolyásolhatják az élet egész jövőjét. Az emberiség múltbeli döntéseinek morális jelentősége olykor hatalmas volt, de mindig korlátozott: még a legkomolyabb járványokból is felépültünk, és a legnagyobb birodalmak is összeomlottak. A régmúlt nemzedékek számára mindez olyan biztos volt, mint hogy a Nap másnap is felkel, és éppígy lesz ezzel a jövő embere is, aki szembeszegül az örök megpróbáltatásokkal: szegénységgel, betegséggel és háborúval. A Puerto Ricó-i előadók némelyike azt állította, ez alkalommal mindez megváltozik: most először hozhatunk létre olyan jelentős technológiát, amellyel örökre leszámolhatunk ezekkel a veszedelmekkel, de akár véget is vethetünk az emberiségnek. Létrejöhetnek a Földön és talán azon túl is olyan társadalmak, amelyek soha nem látott módon virágoznak, de megszülethet egy kafkai, mindent uraló világállam is, amelynek hatalmát soha többé nem lehet megdönteni.

5
Noha a médiában Elon Musk rendszerint úgy jelenik meg, mint aki hátráltatja az MI-közösséget, valójában széles körű konszenzus alakult ki arról, hogy az MI-biztonságtechnikai kutatás szükséges. A fotón 2015. január 4-én Tom Dietterich, a mesterséges intelligencia fejlesztésére létrehozott tudományos egyesület, a Mesterséges Intelligencia Fejlesztéséért Szervezet (Association for the Advancement of Artificial Intelligence, AAAI) elnöke osztja Elon lelkesedését az új biztonságtechnikai kutatási programmal kapcsolatban, amelynek finanszírozására Musk épp akkor tett ígéretet. Az FLI-alapító Meia Chita-Tegmark és Viktoriya Krakovna mögöttük sündörögnek.

Tévhitek

A Puerto Ricó-i tanácskozások felerősítették meggyőződésünket, hogy az MI jövőjéről megkezdett párbeszédnek, korunk leglényegesebb témája lévén, mindenképpen folytatódnia kell.13 A kollektív jövőnkről szóló vita pedig nem korlátozódhat csupán az MI-kutatókra. Éppen ezért született meg az Élet 3.0 is: abban a reményben, hogy az olvasók is csatlakoznak a párbeszédhez. Milyen jövőt szeretnénk? Fejlesszünk halálos automata fegyvereket? Mi történjen a munka automatizálásával? Milyen pályaválasztási tanácsot adhatunk a mai gyerekeknek? Azt szeretnénk, ha új feladatok váltanák fel a régieket, vagy munkahelyeket nem ismerő társadalmat képzelünk el, ahol mindenki élvezi a kényelmes életet és a gépeknek köszönhető gazdagságot? Még messzebbre tekintve: létrehozzuk az Élet 3.0-t, és elterjesszük a kozmoszban? Mi fogjuk irányítani a gépeket, vagy azok minket? Átveszik-e a helyünket az intelligens gépek? Egymás mellett létezünk majd, vagy összeolvadnak velünk? Mit jelent majd embernek lenni a mesterséges intelligencia korában? Mit jelentsen mindez, és hogyan alakítsuk ebben a szellemben a jövőt?

Az Élet 3.0 azért született meg, hogy bárki csatlakozhasson a párbeszédhez. Számos izgalmas kérdésben még a világ vezető szakértői sem értenek egyet. De sok példát láthatunk unalmas álvitákra is, amikor a felek elbeszélnek egymás mellett, vagy egyszerűen félreértik egymást. A cél, hogy a valóban érdekes vitákra és a nyitott kérdésekre összpontosíthassunk, és tisztázzuk a leggyakoribb tévhiteket.

Egymással versengő közkeletű meghatározásokat használunk az „élet”, az „intelligencia” és a „tudat” fogalmára, és rengeteg félreértés származik abból, hogy egy-egy kifejezést kétféleképpen értelmezünk. A könyv kulcskifejezéseit tartalmazó terminológiai táblázat (lásd 1.1. táblázat) segít, hogy elkerüljük ezt a csapdát. A definíciók némelyike későbbi fejezetekben újra előkerül. Ne feledjük, a definíciók nem jobbak más definícióknál, csupán a fogalmak rögzítését szolgálják, a kétértelműséget és zavart hivatottak megelőzni. A meghatározások tágabb értelműek, így elkerülik az antropocentrikus részrehajlást, és gépekre és emberekre egyaránt alkalmazhatóak. Érdemes a táblázatot alaposan tanulmányozni, és a későbbiekben is alkalmazni, ha összezavarodnánk egy-egy szóhasználat miatt – különösen a 4–8. fejezet olvasása közben.

Nem csupán a terminológia kelthet azonban zavart: számos MI-beszélgetés siklott már félre egyszerűbb félreértések miatt. Tisztázzuk hát ezeket is!

Az 1.3. ábra a leggyakoribb tévhiteket foglalja össze, hogy egyszer és mindenkorra megszabadulhassunk tőlük, és a baráti-kollegiális beszélgetések során legitim kérdésekre összpontosíthassunk. Amint látni fogjuk, van belőlük bőven!

Élet folyamat, amely képes a komplexitását fenntartani
és sokszorozódni
Élet 1.0 élet, amelynek kialakul a saját hardvere és szoftvere
(biológiai szakasz)
Élet 2.0 élet, amelynek kialakul a saját hardvere, de maga tervezi
a szoftvere nagy részét (kulturális szakasz)
Élet 3.0 élet, amely maga tervezi a saját hardverét és szoftverét (technológiai szakasz)
Intelligencia összetett célok elérésének képessége
Mesterséges intelligencia, MI
(Artificial Intelligence, AI) 		nem biológiai intelligencia
Szűk intelligencia szűk terjedelmű célok elérésének képessége, pl. sakkjátszma, autóvezetés
Általános intelligencia gyakorlatilag bármely cél elérésének képessége, beleértve a tanulást is
Univerzális intelligencia az általános intelligencia elérésének képessége,
az adatokhoz és forrásokhoz való hozzáférés esetén
[Emberi szintű] általános
mesterséges intelligencia, ÁMI (Artificial General
Intelligence, AGI) 		bármely kognitív feladat elvégzésének képessége
legalább az emberi képességek szintjén
Emberi szintű MI ÁMI, lásd fenn
Erős MI ÁMI, lásd fenn
Szuperintelligencia az emberi szintet messze meghaladó általános intelligencia
Civilizáció egymással interakcióba lépő intelligens létformák csoportja
Tudat szubjektív tapasztalat
Kválék a szubjektív tapasztalat egyéni megnyilvánulásai
Etika a viselkedésünket szabályozó elvek
Teleológia a dolgok értelmezése inkább céljaik vagy tervszerűségük, mint okuk alapján
Célorientált viselkedés viselkedés, amely könnyebben értelmezhető a hatása, mint az oka alapján
Céltudatosság célorientált viselkedés mutatása
Tervszerűség a saját vagy más entitás céljainak szolgálata
Baráti MI szuperintelligencia a miénkkel összehangolt célokkal
Kiborg ember-gép hibrid
Intelligenciarobbanás rekurzív önfejlesztés, amely hamar szuperintelligenciához vezet
Szingularitás intelligenciarobbanás
Univerzum a tér azon területe, ahonnan a fénynek volt ideje eljutni hozzánk az ősrobbanás óta eltelt 13,8 milliárd év alatt

1.1. táblázat • Az MI-vel kapcsolatos félreértések sokszor abból adódnak, hogy a fenti kifejezéseket különböző értelemben használjuk. Az Élet 3.0 a táblázat szerinti értelmezésben hivatkozik rájuk. (A definíciók némelyike csak későbbi fejezetekben kerül elő.)

6
1.3. ábra • A leggyakoribb mítoszok a szuperintelligens MI-vel kapcsolatban

Az időzítéssel kapcsolatos mítoszok

Az első félreértés az 1.2. ábrán is bemutatott időrenddel kapcsolatos. Mennyi idő alatt haladhatják meg a gépek az emberi szintű ÁMI-t? A leggyakoribb tévképzet ezzel kapcsolatban az, hogy biztosak lehetünk a válaszban.

Az egyik népszerű mítosz szerint pontosan tudjuk: az emberfeletti ÁMI még ebben az évszázadban megérkezik. A történelem során meglehetősen gyakran értékeltük túl a technológiát. Hol vannak például a korunkra beígért fúziós erőművek és repülő autók? Az MI körül ugyanígy túlzott a felhajtás. Még a terület alapítói közül is sokan elkövették ezt a hibát: John McCarthy (a mesterséges intelligencia kifejezés megalkotója), Marvin Minsky, Nathaniel Rochester és Claude Shannon egyaránt túlzottan optimista előrejelzést adott arról, hogy mit lehet elérni két hónap alatt a kőkorszaki számítógépekkel. „Javasoljuk, hogy 1956 nyarán kerüljön sor egy két hónapos, tízfős kutatásra a mesterséges intelligenciáról a Dartmouth College-ban. […] Kísérletet teszünk arra, hogy kiderítsük: a gépek hogyan használják a nyelvet, alakítanak ki absztrakciókat és koncepciókat, birkóznak meg emberi megoldásra szánt problémákkal, és miképp fejlesztik saját magukat. Úgy véljük, jelentős haladás érhető el a fenti problémák kapcsán, ha egy gondosan kiválogatott tudóscsoport közösen dolgozik rajta a nyár folyamán.”14

Másrészről tartja magát a népszerű ellenmítosz is, miszerint biztosan tudjuk: ebben a században nem lesz emberfeletti ÁMI. A kutatók többféle becsléssel álltak elő arról, milyen messze lehetünk tőle, ugyanakkor ismerve a technoszkeptikus jóslatok lehangoló pontatlanságát, mégsem jelenthetjük ki teljes bizonyossággal, hogy ennek valószínűsége évszázadunkban nulla. Ernest Rutherford, aki kétségtelenül kora legnagyobb atomfizikusa volt, 1933-ban – alig huszonnégy órával azelőtt, hogy Szilárd Leó felfedezte a nukleáris láncreakciót – úgy nyilatkozott, hogy az atomenergia „humbug”, míg 1956-ban Richard Wooley királyi csillagász kijelentette, hogy az űrutazás „merő badarság”. A mítosz legszélsőségesebb formája szerint az emberfeletti ÁMI sosem valósul meg, mert fizikai szempontból lehetetlen. A fizikusok azonban tudják, hogy az agy kvarkokból és elektronokból áll, amelyek úgy rendeződnek el, hogy egy erős számítógépet alkossanak, és nincs olyan fizikai törvény, amely megakadályozná, hogy még intelligensebb kvarktömböket hozzunk létre.

Sok olyan kutatást végeztek, amelyek során MI-kutatókat kérdeztek meg, szerintük hány éven belül jön létre legalább 50%-os valószínűséggel emberi szintű ÁMI. Ezek rendre ugyanazzal a következtetéssel zárultak: a világ vezető szakértői nem értenek egyet, vagyis egész egyszerűen nem tudjuk, mi az igazság. A Puerto Ricó-i MI-konferencián például közvélemény-kutatást végeztünk MI-kutatók bevonásával arról, hogy mikor valósul meg. Az átlag (medián) válasz pedig 2055 volt, de nem egy kutató több száz (vagy még több) évre tippelt.

A másik kapcsolódó mítosz szerint azok, akik az MI miatt nyugtalankodnak, úgy vélik, alig pár év választ el minket a létrejöttétől. Az emberfeletti ÁMI miatt aggódók többsége azonban úgy hiszi, minimum évtizedekre van tőlünk. Azt azonban hangsúlyozzák, hogy mindaddig, amíg nem vagyunk száz százalékig biztosak abban, hogy nem következhet be évszázadunk során, jobban tesszük, ha minél előbb elkezdjük a biztonságtechnikai kutatást, hogy minden eshetőségre felkészüljünk. Ahogy azt a későbbiekben látni fogjuk, a biztonsági problémák némelyike annyira bonyolult, hogy évtizedekbe telhet a megoldásuk. A lehető legrövidebb időn belül hozzá kell tehát látni a kutatáshoz, és nem kibekkelni addig, amíg a Red Bullt szürcsölgető programozók valahol úgy döntenek, hogy bekapcsolják az emberi szintű ÁMI-t.

A vitákkal kapcsolatos mítoszok

Tévhit az is, hogy csak a mesterséges intelligenciáról keveset tudó géprombolók fogalmaznak meg aggodalmakat, és csak ők tartják fontosnak az MI-biztonságtechnikai kutatást. Amikor Stuart Russell ezt mondta Puerto Ricó-i beszédében, a közönség nevetésben tört ki. Ehhez kapcsolódó tévedés, hogy az MI-biztonságtechnikai kutatás támogatása erősen vitatott terület. Valójában egy visszafogottabb beruházásnak itt sem előfeltétele az a meggyőződés, hogy a kockázatok teljes bizonyossággal magasak. Elegendő annyi, hogy nem elhanyagolhatóak, ahogyan a lakásbiztosításba való szerény befektetést is indokolja az a nem elhanyagolható lehetőség, hogy az otthonunk leéghet.

A média jóval kiélezettebbnek tünteti fel az MI-vel kapcsolatos biztonsági vitát, mint amilyen a valóságban. A félelemkeltés persze remek üzlet: a szövegösszefüggésből kiragadott idézetekkel operáló cikkek a fenyegető pusztulás képét vetítik elénk, amivel sokkal több kattintást generálnak, mint az árnyaltabb és kiegyensúlyozottabb cikkekkel. Két ember tehát, akik egymás álláspontját csupán médiaidézetekből ismeri, könnyen azt hiheti, a köztük lévő véleménykülönbség a valósnál jóval nagyobb. Egy technoszkeptikus, aki Bill Gates álláspontját csak egy brit bulvárlapból ismeri, tévesen azt gondolhatja, hogy Gates közeli lehetőségnek tartja a szuperintelligenciát. Ha pedig a jó szándékú mesterséges intelligencia mozgalmának egyik követője mindössze annyit tud Andrew Ng álláspontjáról, amennyit a Mars túlnépesedéséről szóló fenti idézetből megértett, azt a hamis képet alakíthatja ki magában, hogy a kutatót nem érdekli az MI-biztonságtechnika. Nem vitás, hogy igenis érdekli – a gond az, hogy mivel későbbre jósolja, természetes módon a hosszú távú biztonsági kihívások elé helyezi a rövid távúakat.

A kockázatokkal kapcsolatos mítoszok

A Daily Mail kifejezetten bosszantó szalagcíme nem az első volt a sorban:15 „Stephen Hawking arra figyelmeztet, hogy a robotok felemelkedése katasztrofális lehet az emberiség számára.” Rengeteg hasonló cikk lát napvilágot, amelyeket rendszerint gonosz ábrázatú, fegyveres robot képével illusztrálnak. Azt sugallják, hogy félnünk kellene a robotok lázadásától, és attól, hogy halomra gyilkolnak bennünket, mert túl tudatosak és/vagy gonoszak lettek. A vicc az, hogy ezek a cikkek tulajdonképpen lenyűgözően frappáns módon foglalják össze mindazt, amitől MI-kollégáim nem tartanak. A forgatókönyv három különálló tévhitet ötvöz: nevezetesen a tudat, a gonoszság és a robotok miatti aggodalmat.

Vezetés közben a színekkel, hangokkal és egyebekkel kapcsolatos érzékelésünk szubjektív. De vajon egy önvezető autónak van szubjektív tapasztalata? Kapcsolódik valamiféle érzés az önvezető autói léthez, vagy inkább az öntudattalan zombiéhoz hasonlít, minden szubjektív tapasztalat nélkül? A tudat rejtélye önmagában is érdekes kérdés – ennek szenteljük az egész nyolcadik fejezetet –, az MI-kockázat szempontjából azonban irreleváns. Ha elüt egy vezető nélküli autó, nincs jelentősége, van-e szubjektív tudata. Az emberre csupán az hat, amit a szuperintelligens MI tesz, a szubjektív érzései nem számítanak.

A gépek gonoszságától való félelem szintén tévútra vezet. Nem a rosszindulat, hanem a képesség jelenthet ugyanis valós veszélyt. A szuperintelligens MI lényegénél fogva kitűnően ért ahhoz, hogy elérje a célját, bármi legyen is az. Arra kell hát törekednünk, hogy a céljai összhangban maradjanak a mi céljainkkal. Nem utáljuk a hangyákat, és merő gonoszságból nem taposnánk rájuk, de egy vízerőműprojekt vezetőjeként bizony ártunk nekik, ha bolyuk éppen az elárasztandó területen található. A jó szándékú mesterséges intelligencia mozgalma épp azt akarja elkerülni, hogy az emberiség a hangyák sorsára jusson.

A tudatossággal kapcsolatos tévhit ahhoz a mítoszhoz kötődik, hogy a gépeknek nem lehetnek céljaik. A gépeknek szűkebb értelemben természetesen lehetnek céljaik, hiszen célorientált viselkedést mutatnak: a hőkövető lövedék viselkedése legegyszerűbben a célba találás céljával magyarázható. Ha olyan gép fenyegetésétől tartunk, amelynek a céljai nincsenek összhangban a mieinkkel, a szűk értelemben vett céljai aggasztanak, nem pedig az, hogy a gép tudatosan és tervszerűen viselkedik-e. Ha a hőkövető lövedék üldözőbe venne bennünket, valószínűleg nem mondanánk, hogy „nem félek, mert a gépeknek nem lehetnek céljaik”.

Mélységesen együttérzek Rodney Brooksszal és a többi robotspecialista úttörővel, akik úgy vélik, a pánikkeltő bulvárlapok igazságtalanul démonizálták őket. Egyes robotokra fixálódott újságírók vörös szemű, ördögi fémszörnyetegekkel illusztrálják cikkeiket. A jó szándékú mesterséges intelligencia mozgalma kevésbé a robotok, mint inkább az intelligencia miatt aggódik: pontosabban az emberi célokkal összehangolatlan célkitűzések miatt. Az öntörvényű intelligenciának nincs szüksége robottestre, mindössze internetkapcsolatra. A negyedik fejezetben látni fogjuk, hogyan lehetnek képesek átverni a pénzügyi piacokat, meghaladni az emberi feltalálókat, manipulálni és félresöpörni az emberi vezetőket, és számunkra érthetetlen működésű fegyvereket kifejleszteni. Ha a robotok létrehozása fizikailag lehetetlen volna is, egy szuperintelligens és szupergazdag MI könnyen megfizethetne és manipulálhatna sokmilliónyi embert, akik öntudatlanul is engedelmeskednének neki, ahogyan William Gibson Neurománc (Neuromancer)16 című sci-fijében is történt.

A robotokkal kapcsolatos tévhitek azzal a mítosszal állnak rokonságban, hogy a gépek nem képesek irányítani az embereket. Az intelligencia azonban lehetővé teszi az irányítást: az ember nem azért idomíthat tigriseket, mert erősebb náluk, hanem mert okosabb. Ez azt jelenti, hogy ha feladjuk a bolygó legokosabb lényeként kivívott pozíciónkat, előfordulhat, hogy lemondunk az irányításról.

Az előttünk álló út

Innentől tehát együtt pillantunk bele az MI-vel való együttélés jövőjébe. Vegyük végig szisztematikusan ezt a gazdag és sokrétű témát! Először ismerjük meg az élet történetét, időrendjét és fogalmait, majd vegyük sorra a célok és a jelentés kérdéseit, illetve mindazt, amit tennünk kell, hogy a vágyott jövőt érhessük el.

A második fejezetben megismerjük az intelligencia alapjait, és azt, hogy a tudatlannak látszó anyag miképpen szervezhető újra, hogy képes legyen emlékezni, számításokat végezni és tanulni. Ahogy feltárul előttünk a jövő, történetünk különféle lehetséges forgatókönyvek felé ágazhat el, bizonyos kulcskérdésekre adott válaszaink alapján. Az 1.4. ábra összefoglalja ezeket a kiinduló kérdéseket, amelyekkel a potenciálisan még fejlettebb mesterséges intelligencia felé tartó időutazásunk során találkozni fogunk.

Egyelőre azt a döntést kell meghoznunk, hogy elkezdjük-e az MI-fegyverkezési versenyt, és azt kell megválaszolnunk, hogyan mentesíthetjük a programhibáktól és miként terjeszthetjük ki a holnap MI-rendszereit. Ha az MI gazdasági hatása növekedni kezd, azt is el kell döntenünk, hogyan modernizáljuk a törvényeket, milyen pályaválasztási tanácsot adjunk a gyerekeknek, hogy elkerülhessék a hamarosan automatizálandó munkaköröket. Ezeket a rövid távú kérdéseket a harmadik fejezetben bontjuk ki.

Amennyiben az MI fejlődése tovább folytatódik az emberi szint felé, azt a kérdést is fel kell tennünk magunknak, miképp biztosíthatjuk a jóindulatát. Meg kell fontolnunk, létre tudjuk-e hozni vagy létre kell-e hozunk a pihenő társadalmat, amely munkahelyek nélkül is virágzik? Mindebből az a kérdés következik, hogy az intelligenciarobbanás vagy a lassú, folytonos növekedés juttathatja-e el az ÁMI-t az emberi szinten túlra. Több ilyen forgatókönyvvel is találkozunk majd a negyedik fejezetben, az ötödikben pedig megvizsgálunk számos lehetséges következményt, amelyek a vitathatatlanul disztópikustól a vitathatatlanul utópisztikusig terjednek. Kinél van az irányítás: az embernél, a mesterséges intelligenciánál vagy a kiborgoknál? Az emberekkel jól vagy rosszul bánnak? Lecserélnek-e minket, és ha igen, akkor hódítóknak vagy méltó utódoknak tekintjük-e őket? Rendkívül izgalmas kérdés, hogy az ötödik fejezetben felvázolt forgatókönyvek közül ki melyiket választaná. Az AgeOfAi.org weboldalon bárki megoszthatja a nézeteit és beszállhat a vitába.

7
1.4. ábra • Az MI-kérdések relevanciája attól függ, hogy mennyire fejlett a mesterséges intelligencia, és milyen irányt vesz a jövő

Végül a hatodik fejezetben több milliárd év átugrásával furcsamód határozottabb következtetést vonunk le, mint a korábbi fejezetekben: a kozmoszunkban virágzó élet végső korlátait nem az intelligencia, hanem a fizika törvényei határozzák meg.

Az intelligencia történetének felvázolása után átgondoljuk, milyen jövőt szeretnénk, és hogyan érhetjük el. Hogy összekapcsoljuk a rideg tényeket a cél és jelentés kérdéseivel, a hetedik fejezetben feltárjuk a célok fizikai alapját, míg a nyolcadik fejezetben a tudatosság alapjait vizsgáljuk meg. Végül az epilógusban megnézzük, mit tehetünk már ma, hogy a vágyott jövőt alkothassuk meg.

Az ide-oda lapozgató olvasók kedvéért a legtöbb fejezet viszonylag önálló, ha tisztában vagyunk az első fejezetben és a második fejezet elején bemutatott terminológiával és definíciókkal. Az MI-kutatók akár az egész második fejezetet kihagyhatják, kivéve az elején szereplő intelligenciameghatározásokat. Akinek új az MI területe, a második és harmadik fejezetből megértheti, miért nem szabad tudományos-fantasztikus képzelgésként félvállról venni a negyedik és a hatodik fejezetet. Az 1.2. táblázatban összefoglalva láthatjuk, mit érdemes tudnunk az egyes fejezetekről.

Rövid fejezetcím Téma Státusz
Bevezetés: az Omega-csoport meséje Gondolatébresztés Kifejezetten
spekulatív
Az intelligencia története 1 A vita Alapfogalmak, terminológia Nem túl
spekulatív
2 Az anyag intelligenssé válik Az intelligencia alapvetései
3 MI, közgazdaság, fegyverek és törvényhozás A közeljövő
4 Intelligenciarobbanás Szuperintelligencia-forgatókönyvek Kifejezetten
spekulatív
5 Következmények A következő 10 ezer év
6 Kozmikus potenciálunk A következő évmilliárdok
Az értelemadás
története 		7 Célok A célorientált viselkedés története Nem túl spekulatív
8 A tudat Természetes és mesterséges tudat Spekulatív
Epilógus: az FLI-csoport meséje Mit tegyünk? Nem túl spekulatív

1.2. táblázat • Az Élet 3.0 szerkezete

Fantasztikus utazás vár ránk. Vágjunk is bele!

Dióhéjban