Kabinet hrôzy

Vzostup strojov a uchopenie moci umelou inteligenciou. Svet úplného dohľadu a sociálnej kontroly. Jadrová vojna a degenerácia civilizácie. Mnohé temné vízie budúcnosti, nakreslené pred mnohými rokmi, sa mali stať dnes. A medzitým sa pozeráme späť a zdá sa, že tam neboli. Si si istý?

Existuje pomerne stereotypný repertoár populárnych dystopické proroctvá (o čiernej vízii budúcnosti). Okrem tých najbežnejších, ktoré súvisia s ničením prírodného prostredia a zdrojov, panuje všeobecný názor, že najnovšie technológie poškodzujú medziľudskú komunikáciu, vzťahy a spoločnosť.

Virtuálny priestor klamlivo nahradí skutočnú účasť vo svete. Iné dystopické názory vidia technologický rozvoj ako spôsob zvyšovania sociálnej nerovnosti, koncentrácie moci a bohatstva v rukách malých skupín. Vysoké nároky moderných technológií koncentrujú vedomosti a zručnosti v úzkych kruhoch privilegovaných jednotlivcov, zvyšujú dohľad nad ľuďmi a ničia súkromie.

Podľa mnohých futuristov môže vyššia produktivita a väčší viditeľný výber poškodiť kvalitu ľudského života tým, že spôsobí stres, ohrozí pracovné miesta a spôsobí, že svet bude čoraz viac materialistický.

Jeden zo slávnych technologických „dystopiánov“, James Gleick, uvádza zdanlivo triviálny príklad televízneho diaľkového ovládača ako klasického vynálezu, ktorý nerieši jediný podstatný problém, a preto vzniká množstvo nových. Gleick, citujúc technického historika Edward Tenner, píše, že možnosť a jednoduchosť prepínania kanálov pomocou diaľkového ovládača slúži predovšetkým na to, aby diváka stále viac rozptyľovala.

Namiesto spokojnosti sú ľudia čoraz viac nespokojní s kanálmi, ktoré sledujú. Namiesto uspokojenia potrieb prichádza pocit nekonečného sklamania.

Budú nás autá držať v rezerváciách?

Budeme schopní ovládať túto vec, ktorá je nevyhnutná a pravdepodobne príde čoskoro? Nad umelou inteligenciou? Ak to tak má byť, ako hlásajú mnohé dystopické vízie, tak nie. (1).

Je ťažké ovládať niečo, čo je mnohonásobne silnejšie ako my. s nárastom počtu úloh. Pred dvadsiatimi rokmi by nikto neveril, že dokážu čítať emócie z hlasu a tváre človeka oveľa presnejšie, ako to dokážeme my sami. Medzitým sú to už teraz trénované algoritmy schopné analyzovať výrazy tváre, farbu a spôsob, akým hovoríme.

Počítače kreslia obrázky, skladajú hudbu a jeden z nich dokonca vyhral básnickú súťaž v Japonsku. Už dlho porážali ľudí v šachu, učili sa hru od nuly. To isté platí pre oveľa komplexnejšiu hru Go.

riadi sa zákonmi stále rýchlejšieho zrýchlenia. To, čo AI dosiahla – s pomocou ľudí – za posledné desaťročia, sa v priebehu niekoľkých nasledujúcich rokov, možno len mesiacov, zdvojnásobí a potom to bude trvať len týždne, dni, sekundy…

Ako sa nedávno ukázalo, algoritmy používané v smartfónoch alebo na letiskách na analýzu fotografií zo všadeprítomných fotoaparátov dokážu nielen rozpoznať niekoho v rôznych záberoch, ale aj určiť výlučne intímne psychologické črty. Povedať, že ide o obrovské riziko ochrany súkromia, je ako nepovedať nič. Nejde o jednoduché sledovanie, sledovanie každého kroku, ale o informácie, ktoré vznikajú v dôsledku samotného vzhľadu človeka, o jeho skrytých túžbach a osobných preferenciách. 

Algoritmy sa to dokážu naučiť pomerne rýchlo analýzou stoviek tisíc prípadov, čo je oveľa viac, ako dokáže za celý život vidieť aj ten najbystrejší človek. Vyzbrojení takými bohatými skúsenosťami dokážu naskenovať človeka presnejšie ako aj ten najskúsenejší psychológ, analytik reči tela a gest.

Skutočná mrazivá dystopia teda nespočíva v tom, že počítače hrajú šach alebo idú proti nám, ale v tom, že dokážu vidieť našu dušu hlbšie ako ktokoľvek iný ako my sami, plnú zákazov a blokov v rozpoznávaní tých či iných sklonov.

Elon Musk verí, že keď sa systémy AI začnú učiť a uvažovať v čoraz väčšom rozsahu, „inteligencia“ sa môže niekde vyvinúť hlboko vo vrstvách webu, pre nás nepostrehnuteľné.

Podľa americkej štúdie zverejnenej v roku 2016 má umelá inteligencia v najbližších 45 rokoch 50-percentnú šancu prekonať ľudí vo všetkých úlohách. Prognostici hovoria, že áno, AI vyrieši problém rakoviny, zlepší a zrýchli ekonomiku, poskytne zábavu, zlepší kvalitu a dĺžku života, vychová nás, aby sme bez nej nemohli žiť, ale je možné, že jedného dňa bez nenávisť, len na základe logického výpočtu nás len odstraňuje. Možno to nebude fyzicky fungovať, pretože v každom systéme sa oplatí šetriť, archivovať a uchovávať zdroje, ktoré sa „možno raz budú hodiť“. Áno, toto je zdroj, ktorým môžeme byť pre AI. Chránená pracovná sila?

Optimisti sa utešujú tým, že vždy existuje možnosť vytiahnuť zástrčku zo zásuvky. Všetko však nie je také jednoduché. Už teraz sa ľudský život stal natoľko závislým od počítačov, že radikálny krok proti nim by bol pre nás katastrofou.

Koniec koncov, stále viac vytvárame rozhodovacie systémy založené na AI, dávame im právo riadiť lietadlá, stanovovať úrokové sadzby, prevádzkovať elektrárne – vieme, že algoritmy to dokážu oveľa lepšie ako my. Zároveň úplne nerozumieme tomu, ako sa tieto digitálne rozhodnutia robia.

Existujú obavy, že superinteligentné riadiace systémy, ako napríklad „Znížte preťaženie“, ich môžu priviesť k záveru, že jediný účinný spôsob, ako splniť túto úlohu, je... znížiť populáciu o tretinu alebo dokonca polovicu.

Áno, stojí za to dať stroju ten najdôležitejší pokyn ako „V prvom rade zachráň ľudský život!“. Ktovie však, či potom digitálna logika povedie k uväzneniu ľudstva alebo pod stodolu, kde môžeme byť v bezpečí, ale určite nie slobodní.

Počítačová kriminalita ako služba

V minulosti sa dystopie a obrazy postapokalyptického sveta v literatúre a kinematografii zvyčajne odohrávali v postnukleárnej dobe. Dnes sa nukleárna likvidácia nezdá byť nevyhnutná pre katastrofu a zničenie sveta, ako ho poznáme, aj keď nie tak, ako si ho predstavujeme. , je nepravdepodobné, že zničí svet ako v "Terminátore", kde to bolo spojené s nukleárnou anihiláciou. Ak by to urobila, nebola by superinteligenciou, ale primitívnou silou. Veď ani ľudstvo si ešte neuvedomilo globálny scenár ničivého jadrového konfliktu.

Skutočná strojová apokalypsa môže byť oveľa menej pôsobivá.

Kybernetická vojna, vírusové útoky, hackovanie systému a ransomvér, ransomvér (2) paralyzujú a ničia náš svet nemenej efektívne ako bomby. Ak sa ich rozsah rozšíri, môžeme vstúpiť do fázy totálnej totálnej vojny, v ktorej sa staneme obeťami a rukojemníkmi strojov, hoci sa od nich nevyžaduje, aby konali autonómne, a je možné, že za všetkým budú stále ľudia.

Minulý rok v lete americká agentúra pre kybernetickú bezpečnosť a bezpečnosť (CISA) označila ransomvérové ​​útoky za „najviditeľnejšiu hrozbu kybernetickej bezpečnosti“.

CISA tvrdí, že mnohé aktivity, pri ktorých kyberzločinec zachytí a zašifruje údaje osoby alebo organizácie a následne vynúti výkupné, sa nikdy nenahlási, pretože obeť platí kyberzločincom a nie je ochotná zverejňovať problémy s ich nezabezpečenými systémami. Na mikroúrovni sa počítačoví zločinci často zameriavajú na starších ľudí, ktorí majú problém rozlíšiť medzi čestným a nečestným obsahom na internete. Robia to pomocou malvéru vloženého do prílohy e-mailu alebo kontextového okna na infikovanej webovej lokalite. Zároveň pribúdajú útoky na veľké korporácie, nemocnice, vládne agentúry a vlády.

Posledne menovaní boli obzvlášť zameraní kvôli citlivým údajom, ktoré mali, a schopnosti platiť veľké výkupné.

Niektoré informácie, ako napríklad zdravotné informácie, sú pre majiteľa oveľa cennejšie ako iné a môžu zločincom zarobiť viac peňazí. Zlodeji môžu zachytiť alebo umiestniť do karantény veľké bloky klinických údajov dôležitých pre starostlivosť o pacienta, ako sú výsledky testov alebo informácie o liekoch. Keď ide o život, v nemocnici nie je priestor na vyjednávanie. Jedna z amerických nemocníc bola natrvalo zatvorená v novembri minulého roka po augustovom teroristickom útoku.

Časom to bude zrejme len horšie. V roku 2017 ministerstvo vnútornej bezpečnosti USA oznámilo, že kybernetické útoky by sa mohli zamerať na kritickú infraštruktúru, ako sú vodohospodárske podniky. A nástroje potrebné na vykonávanie takýchto akcií sú čoraz dostupnejšie pre menších operátorov, ktorým predávajú balíky ransomvéru, ako je softvér Cerber a Petya, a po úspešných útokoch si účtujú výkupné. Založené na počítačovej kriminalite ako službe.

Nebezpečná porucha v genóme

Jednou z obľúbených tém dystopie je genetika, manipulácia s DNA a šľachtenie ľudí – navyše „naprogramovaných“ správnym spôsobom (úrady, korporácie, armáda).

Moderným stelesnením týchto úzkostí je metóda popularizácie Úprava génu CRISPR (3). Znepokojujúce sú predovšetkým mechanizmy, ktoré obsahuje. vynútenie požadovaných funkcií v ďalších generáciách a ich potenciál sa rozšíril na celú populáciu. Jeden z vynálezcov tejto techniky, Jennifer Doudna, dokonca nedávno vyzval na moratórium na takéto „zárodočné“ techniky úpravy kvôli potenciálne katastrofálnym následkom.

Pripomeňme si, že pred niekoľkými mesiacmi čínsky vedec On Jiankui bol široko kritizovaný za úpravu génov ľudských embryí s cieľom imunizovať ich proti vírusu AIDS. Dôvodom bolo, že zmeny, ktoré urobil, sa mohli dediť z generácie na generáciu s nepredvídateľnými následkami.

Zvlášť znepokojujúce sú takzvané d (prepisovanie génov, génový pohon), t.j. geneticky upravený mechanizmus, ktorý kóduje editačný systém v DNA daného jedinca CRISPR/CAS9 genóm s nastavením na úpravu tohto variantu nežiaduceho génu. Vďaka tomu potomkovia automaticky (bez účasti genetikov) prepíšu neželaný génový variant želaným.

Nežiaduci génový variant však môže dostať potomstvo „ako dar“ od nemodifikovaného iného rodiča. Takže génový pohon poďme prelomiť Mendelovské zákony dedičnostiktoré hovoria, že polovica dominantných génov ide potomkom od jedného rodiča. To skrátka nakoniec povedie k rozšíreniu predmetného génového variantu na celú populáciu.

Biológ zo Stanfordskej univerzity Christina Smolkeová, späť na paneli o genetickom inžinierstve v roku 2016, varoval, že tento mechanizmus môže mať škodlivé a v extrémnych prípadoch desivé následky. Génový pohon je schopný počas generácií mutovať a spôsobiť genetické poruchy, ako je hemofília alebo hemofília.

Ako sme čítali v článku publikovanom v Nature Reviews výskumníkmi z Kalifornskej univerzity v Riverside, aj keď pohon funguje podľa plánu v jednej populácii organizmu, rovnaký dedičný znak môže byť škodlivý, ak sa nejakým spôsobom dostane do inej populácie. . rovnaký pohľad.

Existuje tiež nebezpečenstvo, že vedci vytvárajú génové jednotky za zatvorenými dverami a bez vzájomného hodnotenia. Ak niekto úmyselne alebo neúmyselne vnesie do ľudského genómu škodlivý génový pohon, napríklad taký, ktorý zničí našu odolnosť voči chrípke, môže to dokonca znamenať koniec druhu homo sapiens...

Dozorný kapitalizmus

Verzia dystopie, ktorú si bývalí spisovatelia sci-fi dokázali len ťažko predstaviť, je realita internetu a najmä sociálnych médií so všetkými jeho široko popísanými dôsledkami, ktoré ničia súkromie, vzťahy a psychologickú integritu ľudí.

Tento svet je namaľovaný iba v novších umeleckých predstaveniach, ako napríklad to, čo sme mohli vidieť v sérii Black Mirror v epizóde „The Diving“ z roku 2016 (4). Šošana Zuboffová, harvardský ekonóm, nazýva túto realitu úplne závislú od sociálneho sebapotvrdenia a úplne „deprivatizovanú“. dozorný kapitalizmus (), a zároveň vrcholné dielo Google a Facebooku.

4. Scéna z "Black Mirror" - epizóda "Potápanie"

Podľa Zuboffa je prvým vynálezcom Google. Okrem toho neustále rozširuje svoje dozorné aktivity, napríklad prostredníctvom zdanlivo nevinných projektov „inteligentného mesta“. Príkladom je projekt World's Most Innovative Neighborhood od Sidewalk Labs, dcérskej spoločnosti Google. mólo v Toronte.

Google plánuje pomocou všadeprítomných monitorovacích senzorov zbierať všetky najmenšie dáta o živote obyvateľov nábrežia, ich pohybe a dokonca aj dýchaní.

Je tiež ťažké vybrať internetovú dystopiu, ktorá na Facebooku neprichádza do úvahy. Sledovací kapitalizmus možno vynašiel Google, no bol to Facebook, ktorý ho posunul na úplne novú úroveň. Stalo sa tak prostredníctvom sociálnych a emocionálnych vírusových mechanizmov a bezohľadného prenasledovania aj tých, ktorí nie sú používateľmi platformy Zuckerberg.

Strážená AI, ponorená do virtuálnej reality, žijúca s UBI

Podľa mnohých futuristov je budúcnosť sveta a technológií označená piatimi skratkami – AI, AR, VR, BC a UBI.

Čitatelia „MT“ zrejme dobre vedia, ktoré to sú a z čoho pozostávajú prvé tri. Známe sa ukáže byť aj štvrté, „BC“, keď pochopíme, o čo ide. A piaty? UBD je skratka pojmu, čo znamená „univerzálny základný príjem » (5). Ide o verejnú výhodu, ktorá sa z času na čas predpokladá, že bude poskytnutá každej osobe prepustenej z práce, keď sa budú vyvíjať ďalšie technológie, najmä AI.

5. Univerzálny základný príjem – UBI

Švajčiarsko dokonca minulý rok predložilo nápad na referendum, no jeho občania ho odmietli v obave, že zavedenie garantovaného príjmu povedie k záplave imigrantov. UBI so sebou nesie aj množstvo ďalších nebezpečenstiev vrátane rizika udržiavania existujúcich sociálnych nerovností.

Každá z technologických revolúcií za skratkou (pozri aj:) – ak sa šíri a vyvíja očakávaným smerom – má obrovské dôsledky pre ľudstvo a náš svet, samozrejme, vrátane obrovskej dávky dystopie. Napríklad sa verí, že by mohla nahradiť štvorročné volebné cykly a viesť k referendám o nespočetných otázkach.

Virtuálna realita je zase schopná „vylúčiť“ časť ľudstva z reálneho sveta. Ako sa to stalo napríklad Kórejčanke Jang Ji-sun, ktorá sa po smrti svojej dcéry v roku 2016 na smrteľnú chorobu odvtedy stretla so svojím avatarom vo VR. Virtuálny priestor vytvára aj nové druhy problémov, alebo vlastne prenáša všetky staré známe problémy do „nového“ sveta, či dokonca do mnohých iných svetov. Do istej miery to môžeme vidieť už aj na sociálnych sieťach, kde sa stáva, že príliš málo lajkov na príspevkoch vedie k depresiám a samovraždám.

Prorocké rozprávky viac-menej

Veď aj história tvorby dystopických vízií učí opatrnosti pri formulovaní predpovedí.

6. Obálka "Ostrovy v sieti"

Minulý rok bolo natočené slávne sci-fi majstrovské dielo Ridleyho Scottalovec androidov»Od roku 1982. O naplnení či nenaplnení mnohých konkrétnych prvkov možno diskutovať, no je nesporné, že najdôležitejšie proroctvo o existencii inteligentných humanoidných androidov v našej dobe, v mnohom nadradených ľuďom, sa ešte nestalo skutočnosťou.

Boli by sme pripravení tolerovať oveľa viac prorockých zásahov.“Neuromancia»teda romány William Gibson od roku 1984, ktorý spopularizoval pojem „kyberpriestor“.

V tom desaťročí sa však objavila o niečo menej známa kniha (u nás takmer celá, lebo nebola preložená do poľštiny), ktorá oveľa presnejšie predpovedala dnešnú dobu. Hovorím o romantikeOstrovy na webe"(6) Bruce Sterling od roku 1988, odohráva sa v roku 2023. Predstavuje svet ponorený do niečoho podobného internetu, známeho ako „web“. Kontrolujú ju veľké medzinárodné korporácie. „Ostrovy na webe“ sú pozoruhodné tým, že poskytujú kontrolu, dohľad a monopolizáciu údajne slobodného internetu.

Je tiež zaujímavé predvídať vojenské operácie vykonávané pomocou bezpilotných lietadiel (dronov) proti online pirátom/teroristom. Operátori vzdialení tisíce kilometrov so zabezpečenými počítačmi – ako to vieme? Kniha nie je o nekonečnom konflikte s islamským terorizmom, ale o boji proti silám, ktoré sa stavajú proti globalizácii. Svet Islands in the Net je tiež plný spotrebiteľských zariadení, ktoré vyzerajú ako inteligentné hodinky a inteligentné športové topánky.

Existuje ďalšia kniha z 80. rokov, ktorá, hoci niektoré udalosti vyzerajú fantastickejšie, dobre ilustruje naše moderné dystopické obavy. toto "Georadarový softvér“, História Rudy Rookernastavené v roku 2020. Svet, stav spoločnosti a jej konflikty sa zdajú byť neskutočne podobné tomu, čo riešime dnes. Existujú aj roboty známe ako bopperi, ktorí získali sebauvedomenie a utiekli do miest na Mesiaci. Tento prvok sa ešte nenaplnil, no vzbura strojov sa stáva neustálym refrénom čiernych predpovedí.

Vízie našej doby v knihách sú tiež v mnohých ohľadoch prekvapivo presné. Octavia Butlerová, najmä vPodobenstvá o rozsievačovi» (1993). Akcia sa začína v roku 2024 v Los Angeles a odohráva sa v Kalifornii, zdevastovanej záplavami, búrkami a suchami spôsobenými klimatickými zmenami. Rodiny strednej a robotníckej triedy sa stretávajú v uzavretých komunitách, keď sa snažia uniknúť vonkajšiemu svetu pomocou návykových drog a súprav virtuálnej reality. Objavujú sa nové náboženstvá a konšpiračné teórie. Karavána utečencov smeruje na sever, aby sa vyhla ekologickému a sociálnemu kolapsu. K moci sa dostáva prezident, ktorý používa slogan kampane „Make America Great Again“ (toto je slogan Donalda Trumpa) ...

Butlerova druhá kniha, "Podobenstvo o talentochrozpráva, ako členovia nového náboženského kultu opúšťajú Zem vo vesmírnej lodi, aby kolonizovali Alpha Centauri.

***

Aké je ponaučenie z tohto rozsiahleho prieskumu predpovedí a vízií, ktoré sa pred niekoľkými desaťročiami týkali nášho každodenného života?

Pravdepodobnou skutočnosťou je, že dystopie sa vyskytujú často, ale najčastejšie len čiastočne.