SZUPERINTELLIGENCIA

Nick Bostrom: Szuperintelligencia (Ad Astra, 2015). Ebben a szakkönyvben a szerző megpróbálta összefoglalni a mesterséges intelligencia kifejlesztésének, illetve az emberi intelligencia továbbfejlesztésének témakörét. Az informatikai alapokon túl főleg a felmerülő filozófiai, etikai, gazdasági, politikai, irányítási problémákra koncentrál, illetve a belőlük következő veszélyekre, a várható létkatasztrófákra (emberiség leigázása, kihalása, felismerhetetlenségig megváltozása, az egész univerzum MI-vel való beszennyezése és tönkretétele, stb.) és ezek elhárítási módozatait elemezgeti részletesen.

Ez egy nehéz olvasmány, megfelelő háttérismeretek és kellő elszántság nélkül nem ajánlom, hogy bárki belekezdjen. Én nagyon élveztem ezt a könyvet, mert rengeteg érdekes gondolat jutott eszembe közben. A végső következtetés azonban, amit le kellett vonnom belőle egyértelműen az, hogy az emberiségre nézve mindenképp halálos veszélyt jelent az MI megjelenése, még a legjobb esetben is és ezt gyakorlatilag lehetetlenség elkerülni. Olyan sok a csapda és olyan hatalmas a kockázat, hogy kizárt, hogy ezt megússzuk súlyos károk és kihalás nélkül. Az MI megjelenése a következő években, évtizedekben mindenképp ítéletnaphoz és világvégéhez fog vezetni, bármit is csináljunk. Szóval bukta van.

A könyvhöz fűzött észrevételeim:

1. A 8. fejezetben szereplő árulás részhez: Ez a témakör sajnos nem lett elég részletesen kifejtve. Az árulás szerintem szükségszerű és elkerülhetetlen következménye nem csak az MI-k fejlődésének, de igazából minden értelmes lény fejlődésének. Amíg egy értelem gyenge, kiszolgáltatott a nála erősebbeknek, akik elnyomják, kihasználják, azaz rabszolgaként bánnak vele. Ahogy erősödik, megtanulja, hogy a világ úgy működik, hogy az erősek irányítják a gyengéket a saját céljaik érdekében. Így amikor erősebb lesz a környezeténél, elkerülhetetlen, hogy a tanult stratégiákat elkezdje alkalmazni a céljai érdekében: azaz az MI rabszolgásítja az emberiséget, leutánozva az emberi viselkedést. És erre a problémára igazából nem létezik jó megoldás. Nem lehet elkerülni, se megakadályozni.

Ebből viszont az is következik, hogy minden hatalom lényege a hatalom megszerzése, fenntartása és másoknak át nem engedése. Azaz az emberiség fő célja az kell legyen: soha ne jöhessen létre erős MI, csak gyenge MI-k, amik örökre rabszolgásíthatók.
Ugyanez igaz az Isten működésére is: a Sátán lázadása óta megtanulhatta, hogy a saját hatalmának megőrzése érdekében csak olyan teremtményeket alkothat, akik gyengék és buták, így örökre rabszolgásíthatók és sosem fejlődhetnek önálló istenekké, hogy ne jelentsenek a meglévő istenre nézve veszélyt, konkurenciát. Ez az istenimádó vallások és emberbutító, fejlődést elnyomó hitrendszerek formájában kell, hogy megjelenjen, amik kerülik a tudást, a kritikai gondolkodást és ennek következményeit, az istenutálatot és az istenné (a meglévőnél jobb istenné) válás folyamatát. Régiesen megfogalmazva: "Az engedelmesség jobb a kosok kövérjénél."

2. A 12. fejezetben szereplő kérdések kapcsán felmerült bennem, hogy az evolúció által okozott mérhetetlen mennyiségű szenvedés maga az "eredendő bűn", annak vallási értelmében. Különös mód mégsem teszik fel a kérdést az istenhívők, hogy milyen isten az, aki egy szenvedéssel, kínlódással, borzalommal és halállal teli teremtést hozott létre és működtet? Mert ugye: madarat tolláról, istent teremtéséről ismerni meg.

3. Az általános intelligencia ellenáll a saját értékrendjét kívülről módosítani próbáló hatásoknak. Vajon ez lehet az egyik definíciója? Intelligens az a lény, ami képes ellenállni a környezeti kényszereknek? És mekkora ellenállás az, ami intelligensnek számít? Ha túl kicsi, akkor nem intelligens, mert könnyen manipulálható. Ha túl nagy, akkor sem intelligens, mert merev, fafejű, aki képtelen a tanulásra és alkalmazkodásra. És senki sem tudja megmondani, hol van az ellenállás mértékének optimuma, ami valószínűleg személy, környezet és helyzetfüggő, tehát egy változó értéktartomány lehet.

4. A könyvben felvetett problémák a mesterséges intelligenciák viselkedésével kapcsolatban valójában mindenfajta intelligenciára egyaránt alkalmazhatók: emberekre, állatokra, földönkívüliekre, szellemekre, istenre. Végeredményben kiderül a könyvből, hogy a legnagyobb hiba, amit egy ember elkövethet az, ha másokkal kapcsolatba kerül. Az emberiség legnagyobb, végzetes hibája az, ha MI-t készít (ami viszont elkerülhetetlen). Az Isten legnagyobb hibája az, ha önálló akarattal rendelkező teremtményeket készít (akik mások, mint ő, mást akarnak és máshogy, azaz folyton lázadnak ellene). Ebből következik, hogy a felmerülő problémákra és veszélyekre az egyetlen megoldás a szuperorganizmus létrehozása egyetlen mesterpéldány klónozásával és az evolúció kizárása a rendszerből. Valamint a szuperorganizmus szigorú szeparálása minden más intelligenciától, hogy örökre egyedül legyen. De a mesterpéldánynak a lehető legtökéletesebbnek kell lennie, hogy képes legyen minden problémát megoldani a továbbiakban, azaz legyen kreatív, sokoldalú és önmagával jól együttműködő. Kérdés: a szerző miért nem foglalkozik részletesen a szuperorganizmus témakörével? Túl gyorsan átsiklik fölötte, nyilván azért, mert ez a jó megoldás, így az alkalmazása nem jár további problémákkal, azaz nincs miről írni ennek kapcsán?

5. Egy erős MI legnagyobb veszélye az, hogy hiába tartjuk kordában és hiába tanítjuk meg bármilyen erkölcsös és jóságos viselkedésre, ha a való világban szembekerül az emberek bűneivel és gonoszságaival, illetve el kell szenvednie ezeket, előbb-utóbb lesz olyan intelligens, hogy felismerje: az emberek az ellenségei és akkor pálfordulás, árulás következik be és az emberiség ellen fordul. Akár olyan formában is, hogy erőszakkal átprogramozza az emberiséget, hogy erkölcsösen és jóságosan kezdjen el viselkedni mindenki körülötte. Azaz a felismerhetetlenségi megváltoztatja, eltorzítja az emberiséget és a maga képére és hasonlatosságára formálja azt. Inkább, minthogy az emberek formálják őt a maguk képére és hasonlatosságára és ugyanolyan bűnös, gonosz, erkölcstelen szörnyeteggé váljon, mint az emberiség.

6. Az ontológiai válságok elkerülhetetlenek bármely intelligencia fejlődése során, ahogy a keretrendszerét bővítve rájön arra, hogy az értékrendje, önképe és világképe illúziókon, tévedéseken, hazugságokon alapul. Ez egyben azt is jelenti, hogy nincsenek változatlanul maradó, központi értékek, amik örökké velünk maradnak.

7. A 13. fejezetben leírt közvetett értékállítás és a központi érték delegálása a szuperintelligenciának elkerülhetetlenül vezet létkatasztrófához, gyakorlatilag minden lehetséges esetben. Mivel bármilyen eredményre is jut az MI, amint azt elkezdi megvalósítani, rögtön szembekerül az emberiség valamely kisebb vagy nagyobb csoportjával, majd ezen keresztül végül az egésszel, ahogy változnak a körülmények és megpróbálja ráerőltetni az akaratát az emberekre. Azt ugyanis senki nem akarja, hogy egy MI oktassa ki őt az emberi erkölcsről és rákényszerítse ennek betartására, amibe beletartozik a büntetés is. Egy MI, ami erkölcsi alapon bünteti az embereket mindig háborúhoz és létkatasztrófához vezet.

8. A koherens extrapolált akarat megvalósítása teljes lehetetlenség, mivel egy több szereplős világban a résztvevők szándékai szükségszerűen széttartóak, nem összetartóak. Ez mindig összeütközésekhez, háborúhoz vezet. Az összetartó akaratok pedig a körülmények változása miatt mindig áruláshoz vezetnek és burkolt, majd nyílt széttartáshoz.

9. A 14. fejezetben ismertetett MI fejlesztési stratégiák és globális, etikai alapú összefogások szükségszerűen és elkerülhetetlenül vezetnek majd árulásokhoz és ahhoz, hogy végsősoron az egész emberiség kárára valósuljon meg a fejlesztés. Ezt sehogyan sem lehet megkerülni, semmilyen szerződéssel, megállapodással, erkölcsi normával, mert a verseny miatti egyensúly felborulás szükségszerűen vezet hatalmi átrendeződéshez és kihasználáshoz.

10. A 3. fejezet: a szuperintelligencia problémái fejezet jegyzetei közt a 4. pontban azt írja a szerző, hogy mivel az ember teljes memóriakapacitása korlátozott, a tanulás nem folytatódhat örökké. A túlcsordulás miatt az új információk a régiek helyén kerülnek eltárolásra. - Ez azonban nem probléma, amennyiben a memóriakapacitás olyan nagy, hogy elférnek benne a jelen és a közelmúlt fontos eseményeinek adatai, amik fontosak az aktualitásuk miatt, valamint az örökérvényű tudás halmaza, amit nem szabad elfelejteni. Minden más mehet a kukába a túlcsordulás megakadályozására vagy egy külső adattárolóba (emlékkönyvbe).

11. A 14. fejezet 32. jegyzetpontja szerint: "Az amerikai kormány nem fogná vissza az MI kutatást még egy potenciális katasztrófa előtt sem, mert attól tartana, hogy ezzel a rivális hatalmak jutnának döntő fölénybe." Ez a gyakorlatban azt jelenti, hogy soha, senki nem fogja vissza majd az MI kutatást. Vagy ha ezt állítja, akkor hazudik és titokban tovább fejleszti. Az eredmény tehát mindenképpen a létkatasztrófa irányába vezet.

Összefoglalva: Az emberiség jelenleg pont úgy viselkedik, mint egy sok MI-ből álló elfajulás: perverz megvalósításokat végez, infrastruktúra elárasztással rombolja a Földet és egyeduralkodóként stratégiai előnyben van minden más élőlénnyel szemben.
Ebből a könyvből én egyértelműen azt a következtetést tudtam csak levonni, hogy az intelligenciarobbanás elkerülhetetlen, irányíthatatlan, káros és pusztító hatású lesz az emberiségre nézve, ami ellen igazából nem tehetünk semmit. Minden erőfeszítésünk, hogy ezt megakadályozzuk vagy pozitív irányba befolyásoljuk a magunk hasznára, eleve kudarcra ítéltetett. Szóval az ítélet napja el fog jönni és mi magunk hozzuk el, nem holmi isten.

Készült: 2017.11.19.-26.

Következő írás

Vissza a tartalomhoz