Borzalmak kabinetje

A gépek felemelkedése és a hatalom megszerzése a mesterséges intelligencia által. A teljes felügyelet és társadalmi kontroll világa. Atomháború és a civilizáció hanyatlása. A sok évekkel ezelőtt megrajzolt sok sötét jövőképnek ma kellett volna megtörténnie. És közben visszanézünk, és úgy tűnik, nem voltak ott. biztos vagy ebben?

Van egy meglehetősen sztereotip repertoár a népszerűnek disztópikus próféciák (a jövő fekete víziójáról). A természeti környezet és az erőforrások pusztításával kapcsolatos leggyakoribbak mellett széles körben elterjedt az a vélemény, hogy a legújabb technológiák rontják az interperszonális kommunikációt, a kapcsolatokat és a társadalmat.

A virtuális tér megtévesztő módon felváltja a valódi részvételt a világban. Más disztópikus nézetek a technológiai fejlődést a társadalmi egyenlőtlenség növelésének, a hatalom és a gazdagság kis csoportok kezében való koncentrálásának egyik módjának tekintik. A modern technológia magas követelményei a tudást és a készségeket a kiváltságos személyek szűk köreibe koncentrálják, fokozzák az emberek megfigyelését, és tönkreteszik a magánéletet.

Sok jövőkutató szerint a magasabb termelékenység és a láthatóbb választási lehetőség ronthatja az emberi élet minőségét, stresszt okozva, veszélyeztetve a munkahelyeket, és egyre inkább anyagiasabbá tesz bennünket a világgal kapcsolatban.

Az egyik híres technológiai "disztópiás", James Gleick, egy triviálisnak tűnő példát ad a TV távirányítójára, mint klasszikus találmányra, amely egyetlen jelentős problémát sem old meg, sok újat szül. Gleick, egy technikatörténészt idézve Edward Tenner, azt írja, hogy a távirányítóval történő csatornaváltás lehetősége és egyszerűsége elsősorban arra szolgál, hogy egyre jobban elvonja a néző figyelmét.

Az elégedettség helyett az emberek egyre elégedetlenebbek az általuk nézett csatornákkal. Az igények kielégítése helyett a végtelen csalódás érzése van.

Az autók lefoglalnak minket?

Képesek leszünk irányítani ezt az elkerülhetetlen és valószínűleg hamarosan bekövetkező dolgot? A mesterséges intelligencia felett? Ha ez a helyzet, ahogy azt sok disztópikus vízió hirdeti, akkor nem. (1).

Nehéz irányítani valamit, ami sokszor erősebb nálunk. a feladatok számának növekedésével. Húsz évvel ezelőtt még senki sem hitte volna, hogy sokkal pontosabban kiolvashatja az érzelmeket az ember hangjából és arcából, mint mi magunk. Mindeközben a jelenleg betanított algoritmusok már képesek erre, elemezve az arckifejezéseket, a hangszínt és a beszédmódunkat.

A számítógépek rajzolnak képeket, komponálnak zenét, és egyikük még versmondó versenyt is nyert Japánban. Sokáig verik az embereket a sakkban, a nulláról tanulják a játékot. Ugyanez vonatkozik a sokkal összetettebb Go játékra is.

az egyre gyorsabb gyorsulás törvényeinek engedelmeskedik. Amit a mesterséges intelligencia – az emberek segítségével – az elmúlt évtizedekben elért, az a következő néhány évben, talán csak hónapokban megduplázódik, majd csak hetekbe, napokba, másodpercekbe telik…

Mint a közelmúltban kiderült, az okostelefonokban vagy a repülőtereken használt, mindenütt jelenlévő kamerák fotóinak elemzésére használt algoritmusok nemcsak felismernek valakit különböző képkockákban, hanem kizárólag intim pszichológiai jellemzőket is meghatároznak. Azt mondani, hogy ez hatalmas adatvédelmi kockázatot jelent, olyan, mintha nem mondanánk semmit. Itt nem az egyszerű megfigyelésről, minden lépés megfigyeléséről van szó, hanem azokról az információkról, amelyek az ember megjelenése, rejtett vágyai és személyes preferenciái következtében keletkeznek. 

Az algoritmusok ezt viszonylag gyorsan megtanulhatják több százezer eset elemzésével, ami sokkal több annál, mint amennyit a legügyesebb ember is láthat egy életen át. Ilyen rengeteg tapasztalattal felvértezve még a legtapasztaltabb pszichológusok, testbeszéd- és gesztuselemzőknél is pontosabban képesek letapogatni az embert.

Az igazi borzongató disztópia tehát nem az, hogy a számítógépek sakkoznak vagy ellenünk mennek, hanem az, hogy mélyebbre látják a lelkünket, mint bárki más, mint mi magunk, tele tilalmakkal és blokkokkal az ilyen vagy más hajlamok felismerésében.

Elon Musk úgy véli, hogy ahogy a mesterséges intelligencia rendszerek egyre nagyobb léptékben kezdenek tanulni és okoskodni, valahol kialakulhat az „intelligencia” mélyen a webrétegekben, számunkra észrevehetetlen.

Egy 2016-ban publikált amerikai tanulmány szerint a következő 45 évben a mesterséges intelligencia 50 százalékos eséllyel minden feladatban felülmúlja az embert. Az előrejelzők szerint igen, a mesterséges intelligencia megoldja a rák problémáját, javítja és felgyorsítja a gazdaságot, szórakozást biztosít, javítja az élet minőségét és időtartamát, nevel minket, hogy ne tudjunk nélküle élni, de lehetséges, hogy egy nap gyűlölet, csak mert logikus számítások alapján csak eltávolít minket. Lehet, hogy fizikailag nem fog működni, mert minden rendszerben érdemes olyan erőforrásokat menteni, archiválni, tárolni, amik „egyszer még jól jöhetnek”. Igen, ez az a forrás, amellyel mi lehetünk az AI számára. Védett munkaerő?

Az optimisták azzal vigasztalják magukat, hogy mindig van lehetőség kihúzni a dugót a konnektorból. Azonban nem minden ilyen egyszerű. Az emberi élet már annyira függővé vált a számítógépektől, hogy az ellenük tett radikális lépés katasztrófa lenne számunkra.

Hiszen egyre gyakrabban hozunk létre mesterséges intelligencia alapú döntéshozó rendszereket, jogot adva nekik repülőgépek vezetésére, kamatszabályozásra, erőművek üzemeltetésére – tudjuk, hogy az algoritmusok ezt sokkal jobban megcsinálják, mint mi. Ugyanakkor nem teljesen értjük, hogyan születnek ezek a digitális döntések.

Félnek attól, hogy az olyan szuperintelligens vezérlőrendszerek, mint a "torlódás csökkentése" arra a következtetésre juthatnak, hogy a munka elvégzésének egyetlen hatékony módja az, ha... harmadára vagy akár felére csökkentik a lakosság számát.

Igen, érdemes megadni a gépnek a legfontosabb instrukciót, mint az „Először is ments meg egy emberéletet!”. Ki tudja azonban, hogy a digitális logika az emberiség börtönébe vezet-e, vagy a pajta alá, ahol biztonságban lehetünk, de biztosan nem szabadok.

A kiberbűnözés mint szolgáltatás

A múltban a disztópiák és a posztapokaliptikus világ képei az irodalomban és a moziban általában az atommag utáni korszakban játszódnak. Ma úgy tűnik, hogy a nukleáris megsemmisítés nem szükséges az általunk ismert világ katasztrófájához és pusztulásához, bár nem úgy, ahogyan mi elképzeljük. , nem valószínű, hogy elpusztítja a világot, mint a "Terminátorban", ahol nukleáris megsemmisítéssel kombinálták. Ha megtenné, nem szuperintelligencia lenne, hanem primitív erő. Hiszen még az emberiség sem ismerte fel a pusztító nukleáris konfliktus globális forgatókönyvét.

Egy igazi gépapokalipszis sokkal kevésbé lehet lenyűgöző.

A kiberhadviselés, a vírustámadások, a rendszerhackelés és a ransomware, a ransomware (2) nem kevésbé hatékonyan bénítja meg és pusztítja el világunkat, mint a bombák. Ha kibővül a léptékük, a teljes háború olyan szakaszába léphetünk, amelyben gépek áldozatai és túszai leszünk, bár nem kötelesek önállóan cselekedni, és lehetséges, hogy továbbra is emberek állnak minden mögött.

Tavaly nyáron az Egyesült Államok Kiberbiztonsági és Infrastruktúra-biztonsági Ügynöksége (CISA) a ransomware támadásokat a „legláthatóbb kiberbiztonsági fenyegetésnek” nevezte.

A CISA azt állítja, hogy sok olyan tevékenységről, amelyben egy kiberbűnöző elfogja és titkosítja egy személy vagy szervezet adatait, majd váltságdíjat kicsikar, soha nem jelentenek be, mert az áldozat fizet a kiberbűnözőknek, és nem hajlandó nyilvánosságra hozni a nem biztonságos rendszereik problémáit. Mikroszinten a kiberbűnözők gyakran olyan idős embereket céloznak meg, akiknek nem tudnak különbséget tenni az őszinte és a tisztességtelen tartalmak között az interneten. Ezt olyan rosszindulatú programokkal teszik, amelyek e-mail mellékletbe vagy egy fertőzött webhely felugró ablakába vannak ágyazva. Ugyanakkor a nagyvállalatok, kórházak, kormányzati ügynökségek és kormányok elleni támadások egyre nagyobbak.

Utóbbiakat különösen célba vették a birtokukban lévő érzékeny adatok és a nagy váltságdíj fizetésének lehetősége miatt.

Egyes információk, például az egészségügyi információk, sokkal értékesebbek a tulajdonos számára, mint mások, és több pénzt kereshetnek a bűnözők számára. A tolvajok elfoghatják vagy karanténba helyezhetik a betegellátás szempontjából fontos klinikai adatok nagy blokkjait, például a vizsgálati eredményeket vagy a gyógyszerinformációkat. Amikor az élet forog kockán, a kórházban nincs helye a tárgyalásoknak. Az egyik amerikai kórházat tavaly novemberben az augusztusi terrortámadás után végleg bezárták.

Valószínűleg idővel csak rosszabb lesz. 2017-ben az Egyesült Államok Belbiztonsági Minisztériuma bejelentette, hogy a kibertámadások olyan kritikus infrastruktúrákat célozhatnak meg, mint például a vízművek. Az ilyen akciók végrehajtásához szükséges eszközök pedig egyre inkább elérhetőek a kisebb szolgáltatók számára, akiknek zsarolóvírus-csomagokat adnak el, például a Cerber és a Petya szoftvereket, és váltságdíjat számítanak fel a sikeres támadások után. A kiberbűnözés, mint szolgáltatás alapján.

Veszélyes rendellenesség a genomban

A disztópia egyik népszerű témája a genetika, a DNS-manipuláció és az emberek tenyésztése – ráadásul a megfelelő módon "programozva" (hatóságok, vállalatok, katonaság).

E szorongások modern megtestesülése a népszerűsítés módszere CRISPR génszerkesztés (3). A benne található mechanizmusok elsősorban aggodalomra adnak okot. a kívánt funkciók kikényszerítése a következő nemzedékekben, és potenciáljuk az egész lakosságra kiterjedt. Ennek a technikának az egyik feltalálója, Jennifer Doudna, még a közelmúltban is moratóriumot kért az ilyen "csíravonal" szerkesztési technikáktól a potenciálisan katasztrofális következmények miatt.

Emlékezzünk vissza, hogy néhány hónappal ezelőtt egy kínai tudós Ő Jiankui Széles körben kritizálták amiatt, hogy emberi embriók génjeit szerkesztették az AIDS-vírus elleni immunizálás érdekében. Ennek oka az volt, hogy az általa végrehajtott változtatások nemzedékről nemzedékre öröklődhettek, beláthatatlan következményekkel.

Különös gondot okoz az úgynevezett d (gén átírás, génhajtás), azaz. egy génmanipulált mechanizmus, amely egy szerkesztő rendszert kódol az adott egyed DNS-ében a CRISPR / CAS9 genom a nem kívánt gén ezen változatának szerkesztésére való beállításával. Emiatt a leszármazottak automatikusan (genetikusok közreműködése nélkül) felülírják a nem kívánt génváltozatot a kívántal.

Egy nemkívánatos génváltozatot azonban az utódok „ajándékba” kaphatnak egy nem módosított másik szülőtől. Tehát a génhajtást szakítsuk meg Az öröklődés mendeli törvényeiamelyek azt mondják, hogy a domináns gének fele az egyik szülő utódjához kerül. Röviden, ez végül a szóban forgó génváltozat elterjedéséhez vezet a teljes populációra.

Biológus a Stanford Egyetemen Christina Smolke2016-ban egy géntechnológiával foglalkozó testületben arra figyelmeztetett, hogy ennek a mechanizmusnak káros és extrém esetekben borzasztó következményei lehetnek. A génhajtás generációkon átívelő mutációra képes, és genetikai rendellenességeket, például hemofíliát vagy hemofíliát okozhat.

Amint azt a Riverside-i Kaliforniai Egyetem kutatói által a Nature Reviews-ben megjelent cikkben olvashatjuk, még ha egy hajtóerő rendeltetésszerűen működik is egy szervezet egyik populációjában, ugyanaz az örökletes tulajdonság káros lehet, ha valamilyen módon bekerül egy másik populációba. . ugyanaz a tekintet.

Fennáll annak a veszélye is, hogy a tudósok zárt ajtók mögött és szakértői értékelés nélkül hoznak létre génhajtásokat. Ha valaki szándékosan vagy akaratlanul káros génhajtást visz be az emberi genomba, például olyat, amely tönkreteszi az influenzával szembeni ellenállásunkat, az akár a homo sapiens faj végét is jelentheti…

Felügyeleti kapitalizmus

A disztópia egy olyan változata, amelyet az egykori sci-fi írók aligha tudtak elképzelni, az internet, és különösen a közösségi média valósága, annak minden széles körben leírt, az emberek magánéletét, kapcsolatait és pszichológiai integritását tönkretevő következményeivel együtt.

Ezt a világot csak az újabb művészeti előadások festik meg, például amit a Black Mirror sorozatban láthattunk a 2016-os "The Diving" (4) epizódban. Shoshana Zuboff, egy harvardi közgazdász ezt a valóságot teljesen a társadalmi önigazolástól függőnek és teljesen "deprivatizáltnak" nevezi. felügyeleti kapitalizmus (), és egyben a Google és a Facebook megkoronázása.

4. Jelenet a „Black Mirror” című filmből – „Búvárkodás” epizód

Zuboff szerint a Google az első feltaláló. Emellett folyamatosan bővíti felügyeleti tevékenységét, például ártatlannak tűnő "okos város" projekteken keresztül. Példa erre a Sidewalk Labs, a Google egyik leányvállalata, a világ leginnovatívabb szomszédsági projektje. móló Torontóban.

A Google azt tervezi, hogy a vízpart lakóinak életéről, mozgásukról, sőt légzésükről minden apró adatot összegyűjt a mindenütt jelenlévő megfigyelő szenzorok segítségével.

Nehéz olyan internetes disztópiát is kiválasztani, ami a Facebookon szóba sem jöhet. Lehet, hogy a felügyeleti kapitalizmust a Google találta ki, de a Facebook volt az, amely teljesen új szintre emelte. Ez társadalmi és érzelmi vírusmechanizmusokon és még azok kíméletlen üldöztetésén keresztül történt, akik nem használják a Zuckerberg platformot.

Őrzött mesterséges intelligencia, elmerülve a virtuális valóságban, az UBI-val élve

Sok futurista szerint a világ és a technológia jövőjét öt rövidítés jelöli – AI, AR, VR, BC és UBI.

Az "MT" olvasói valószínűleg jól tudják, mik ezek, és miből áll az első három. Az ismerős egyben a negyedik, „Kr.e” is kiderül, ha megértjük, miről van szó. És az ötödik? Az UBD a fogalom rövidítése, jelentése "egyetemes alapjövedelem » (5). Ez egy időről időre feltételezett közhasznú, amelyet minden munkából elengedett ember megkap, ahogy más technológiák, különösen a mesterséges intelligencia fejlődik.

5. Univerzális alapjövedelem – UBI

Svájc tavaly még népszavazásra is bocsátotta az ötletet, de polgárai elutasították azt, attól tartva, hogy a garantált jövedelem bevezetése bevándorlóözönhez vezet. Az UBI számos egyéb veszélyt is magában rejt, beleértve a fennálló társadalmi egyenlőtlenségek állandósulásának kockázatát.

A mozaikszó mögött meghúzódó technológiai forradalmak mindegyike (lásd még:) - ha a várt irányba terjed és fejlődik - óriási következményekkel jár az emberiségre és a világunkra nézve, köztük természetesen hatalmas adag disztópiával is. Például úgy vélik, hogy ez felválthatja a négyéves választási ciklusokat, és számtalan kérdésben népszavazáshoz vezethet.

A virtuális valóság viszont képes „kizárni” az emberiség egy részét a való világból. Ahogy történt például a koreai Jang Ji-sunnal, aki lánya 2016-os halála után, halálos betegség következtében, azóta a VR-ben találkozott avatárjával. A virtuális tér újfajta problémákat is teremt, vagy tulajdonképpen az összes régi ismert problémát átviszi az „új” világba, vagy akár sok más világba. Bizonyos mértékig ezt már a közösségi oldalakon is láthatjuk, ahol megesik, hogy a posztokon túl kevés lájk depresszióhoz és öngyilkossághoz vezet.

A prófétai mesék többé-kevésbé

Hiszen a disztópikus víziók létrejöttének története is óvatosságra tanít a jóslatok megfogalmazásában.

6. A "Szigetek a hálóban" címlapja

Tavaly forgatták Ridley Scott híres sci-fi remekművétandroid vadász» 1982 óta. Lehet tárgyalni sok konkrét elem beteljesüléséről vagy nem, de vitathatatlan, hogy a legfontosabb jóslat, amely korunkban az embernél sok tekintetben magasabb rendű, intelligens, humanoid androidok létezésére vonatkozik, még nem vált valósággá.

Készek lennénk még sok prófétai találatot elviselni."Neuromancers »azaz regények William Gibson 1984 óta, aki népszerűsítette a "kibertér" fogalmát.

Ebben az évtizedben azonban megjelent egy kicsit kevésbé ismert könyv (hazánkban szinte teljesen, mert nem fordították le lengyelre), amely sokkal pontosabban jósolta a mai időt. A romantikáról beszélekSzigetek a weben"(6) Bruce Sterling 1988 óta, 2023-ban játszódik. Egy olyan világot mutat be, amely elmerül az internethez hasonló, „web” néven ismert világban. Nemzetközi nagyvállalatok irányítják. A "Szigetek a weben" az állítólagos ingyenes internet ellenőrzéséről, felügyeletéről és monopolizálásáról nevezetesek.

Érdekes az online kalózok/terroristák ellen pilóta nélküli légi járművek (drónok) segítségével végrehajtott katonai műveletek előrejelzése is. Operátorok több ezer mérföldre, biztonságos asztali számítógépekkel – honnan tudjuk ezt? A könyv nem az iszlám terrorizmussal való végtelen konfliktusról szól, hanem a globalizációt ellenző erők elleni küzdelemről. Az Islands in the Net világa tele van fogyasztói eszközökkel is, amelyek nagyon hasonlítanak okosórákra és okos sportcipőkre.

Van egy másik könyv a 80-as évekből, amely bár néhány esemény fantasztikusabbnak tűnik, jól illusztrálja modern kori disztópikus félelmeinket. ez"Georadar szoftver", Történelem Rudy Rooker2020-ban játszódik. A világ, a társadalom állapota és konfliktusai hihetetlenül hasonlítanak ahhoz, amivel ma foglalkozunk. Vannak olyan robotok is, amelyeket boppereknek hívnak, amelyek öntudatra tettek szert, és a Hold városaiba menekültek. Ez az elem még nem valósult meg, de a gépek lázadása a fekete előrejelzések állandó refrénjévé válik.

A könyvekben szereplő korunk látomásai is sok tekintetben feltűnően pontosak. Octavia Butler, főleg abbanA magvető példázatai» (1993). Az akció 2024-ben kezdődik Los Angelesben, és Kaliforniában játszódik, ahol az árvizek, viharok és a klímaváltozás okozta aszályok pusztítottak. A közép- és munkásosztálybeli családok zárt közösségekben találkoznak, miközben függőséget okozó drogokkal és virtuális valóság-készletekkel próbálnak elmenekülni a külvilág elől. Új vallások és összeesküvés-elméletek jelennek meg. A menekültkaraván észak felé tart, hogy elkerülje az ökológiai és társadalmi összeomlást. Egy elnök kerül hatalomra, aki a "Make America Great Again" (ez Donald Trump szlogenje) kampányszlogenjét használja...

Butler második könyve,Példabeszéd a tehetségekrőlelmeséli, hogyan hagyják el egy új vallási kultusz tagjai a Földet egy űrhajóval, hogy kolonizálják az Alpha Centaurit.

***

Mi a tanulsága ennek a több évtizeddel ezelőtti, mindennapi életünkre vonatkozó jóslatok és víziók átfogó felmérésének?

Valószínűleg az a tény, hogy a disztópiák gyakran előfordulnak, de legtöbbször csak részben.