Vojna algoritmov

Pokiaľ ide o využitie umelej inteligencie v armáde, okamžite sa prebúdza nočná mora sci-fi, rebelská a smrtiaca AI, ktorá povstane proti ľudstvu, aby ho zničila. Obavy armády a vodcov, že nás „nepriateľ dobehne“, sú, žiaľ, rovnako silné pri vývoji bojových algoritmov.

Algoritmická vojnačo by podľa mnohých mohlo zásadne zmeniť tvár bojiska, ako ho poznáme, hlavne preto, že by bojovanie bolo rýchlejšie, ďaleko pred schopnosťami ľudí rozhodovať sa. Americký generál Jack Shanahan (1), šéf amerického Spoločného centra pre umelú inteligenciu, však zdôrazňuje, že pred zavedením umelej inteligencie do arzenálov musíme zabezpečiť, aby tieto systémy boli stále pod ľudskou kontrolou a nezačínali vojny samy od seba.

"Ak má nepriateľ stroje a algoritmy, tento konflikt prehráme"

Jazdné schopnosti algoritmická vojna je založená na využití pokroku vo výpočtovej technike v troch hlavných oblastiach. najprv desaťročia exponenciálneho rastu výpočtovej silyto výrazne zlepšilo výkon strojového učenia. Po druhé rýchly rast zdrojov “Big data”, teda obrovské, zvyčajne automatizované, spravované a priebežne vytvárané dátové sady vhodné pre strojové učenie. Tretia sa týka rýchly rozvoj technológií cloud computingu, prostredníctvom ktorého môžu počítače jednoducho pristupovať k dátovým zdrojom a spracovávať ich na riešenie problémov.

Vojnový algoritmusako je definované odborníkmi, musí byť najprv vyjadrené s počítačový kód. Po druhé, musí byť výsledkom platformy schopnej zhromažďovať informácie a robiť rozhodnutia, robiť rozhodnutia, ktoré si, aspoň teoreticky, nevyžadujú ľudský zásah. Po tretie, čo sa zdá byť samozrejmé, ale nie nevyhnutne, pretože až v akcii sa ukáže, či technika určená na niečo iné môže byť užitočná vo vojne a naopak, musí byť schopná fungovať v podmienkach. Ozbrojený konflikt.

Analýza vyššie uvedených smerov a ich vzájomného pôsobenia to ukazuje algoritmická vojna nejde o samostatnú technológiu ako napr. energetické zbrane alebo hypersonické rakety. Jeho účinky sú široké a postupne sa stávajú všadeprítomnými v nepriateľských akciách. Prvýkrát vojenské vozidlá stanú sa inteligentnými, čo potenciálne zefektívni a zefektívni obranné sily, ktoré ich implementujú. Takéto inteligentné stroje majú jasné obmedzenia, ktoré treba dobre pochopiť.

"" Shanahan povedal minulú jeseň v rozhovore s bývalým generálnym riaditeľom Google Ericom Schmidtom a viceprezidentom Google pre medzinárodné záležitosti Kentom Walkerom. "".

Návrh správy Rady národnej bezpečnosti USA o AI sa viac ako 50-krát zmieňuje o Číne, pričom zdôrazňuje oficiálny cieľ Číny stať sa svetovým lídrom v oblasti AI do roku 2030 (pozri tiež: ).

Tieto slová zazneli vo Washingtone na špeciálnej konferencii, ktorá sa konala po tom, čo spomínané centrum Shanakhan predstavilo Kongresu svoju predbežnú správu pripravenú v spolupráci s renomovanými odborníkmi v oblasti umelej inteligencie, vrátane riaditeľa výskumu Microsoftu Erica Horwitza, generálneho riaditeľa AWS Andyho Jassu a Andrew Moore, hlavný výskumník Google Cloud. Záverečná správa bude zverejnená v októbri 2020.

Zamestnanci Google protestujú

Pred pár rokmi sa do toho vložil Pentagon. algoritmická vojna a množstvo projektov súvisiacich s AI v rámci projektu Maven, založených na spolupráci s technologickými spoločnosťami vrátane Google a startupov ako Clarifai. Išlo najmä o prácu na umela inteligenciana uľahčenie identifikácie predmetov na.

Keď sa na jar 2018 dozvedelo o účasti spoločnosti Google na projekte, tisíce zamestnancov gigantu Mountain View podpísali otvorený list protestujúci proti účasti spoločnosti na nepriateľských akciách. Po mesiacoch pracovných nepokojov Google prijal svoj vlastný súbor pravidiel pre AIktorého súčasťou je aj zákaz účasti na podujatiach.

Google sa tiež zaviazal dokončiť zmluvu Project Maven do konca roka 2019. Odchod Google neskončil Project Maven. Kúpil ho Palantir Petra Thiela. Letectvo a americká námorná pechota plánujú v rámci projektu Maven použiť špeciálne bezpilotné prostriedky, ako napríklad Global Hawk, pričom každé z nich má vizuálne monitorovať až 100 kilometrov štvorcových.

Pri príležitosti diania okolo Projektu Maven vyšlo najavo, že americká armáda nutne potrebuje vlastný cloud. Toto povedal Shanahan počas konferencie. Bolo to evidentné, keď sa videozáznamy a aktualizácie systému museli prepravovať do vojenských zariadení roztrúsených po poli. V budove unifikovaný cloud computing, ktorá pomôže riešiť problémy tohto typu, v rámci projektu jednotnej IT infraštruktúry pre armádu Jedi, Microsoft, Amazon, Oracle a IBM. Google nie je kvôli ich etickým kódexom.

Z Shanahanovho vyhlásenia je jasné, že veľká revolúcia AI v armáde sa ešte len začína. A úloha jeho centra v ozbrojených silách USA rastie. To je jasne vidieť v odhadovanom rozpočte JAIC. V roku 2019 to bolo necelých 90 miliónov dolárov. V roku 2020 by to už malo byť 414 miliónov dolárov, teda asi 10 percent rozpočtu Pentagonu na AI v hodnote 4 miliárd dolárov.

Stroj rozpozná odovzdaného vojaka

Americké jednotky sú už vybavené systémami ako Phalanx (2), čo je typ autonómnej zbrane používanej na lodiach amerického námorníctva na útok na prichádzajúce rakety. Keď je detekovaná raketa, automaticky sa zapne a zničí všetko, čo jej stojí v ceste. Podľa Forda dokáže zaútočiť štyrmi alebo piatimi strelami za pol sekundy bez toho, aby musel prejsť a pozrieť sa na každý cieľ.

Ďalším príkladom je poloautonómna Harpya (3), komerčný bezpilotný systém. Harpya sa používa na ničenie nepriateľských radarov. Napríklad v roku 2003, keď USA zaútočili na Irak, ktorý mal vzdušné radarové zachytávacie systémy, izraelské drony ich pomohli nájsť a zničiť, aby mohli Američania bezpečne vletieť do irackého vzdušného priestoru.

3. Štart dronu systému IAI Harpya

Ďalším známym príkladom autonómnych zbraní je Kórejský systém Samsung SGR-1, ktorý sa nachádza v demilitarizovanej zóne medzi Severnou a Južnou Kóreou, určený na identifikáciu a streľbu narušiteľov na vzdialenosť až štyroch kilometrov. Podľa popisu systém „dokáže rozlíšiť medzi osobou, ktorá sa vzdáva a osobou, ktorá sa nevzdáva“ na základe polohy rúk alebo rozpoznania polohy zbrane v rukách.

4. Ukážka detekcie vzdávajúceho sa vojaka systémom Samsung SGR-1

Američania sa boja, že zostanú pozadu

V súčasnosti minimálne 30 krajín sveta používa automatické zbrane s rôznou úrovňou rozvoja a využitia AI. Čína, Rusko a Spojené štáty považujú umelú inteligenciu za nevyhnutný prvok pri budovaní svojej budúcej pozície vo svete. „Kto vyhrá preteky AI, bude vládnuť svetu,“ povedal ruský prezident Vladimir Putin študentom v auguste 2017. Prezident Čínskej ľudovej republiky Si Ťin-pching nerobil v médiách také výrazné vyhlásenia, no je hlavným ťahúňom smernice vyzývajúcej na to, aby sa Čína do roku 2030 stala dominantnou silou v oblasti AI.

V Spojených štátoch narastajú obavy z „satelitného efektu“, ktorý ukázal, že Spojené štáty sú mimoriadne zle vybavené na to, aby zvládli nové výzvy, ktoré predstavuje umelá inteligencia. A to môže byť pre mier nebezpečné, už len preto, že krajina ohrozená nadvládou môže chcieť eliminovať strategickú výhodu nepriateľa iným spôsobom, teda vojnou.

Hoci pôvodným zámerom projektu Maven bolo pomôcť nájsť bojovníkov islamského ISIS, jeho význam pre ďalší vývoj vojenských systémov umelej inteligencie je obrovský. Elektronický boj založený na rekordéroch, monitoroch a senzoroch (vrátane mobilných, lietajúcich) je spojený s obrovským množstvom heterogénnych dátových tokov, ktoré je možné efektívne využiť len pomocou algoritmov AI.

Hybridným bojiskom sa stalo vojenská verzia internetu vecí, bohatý na dôležité informácie pre hodnotenie taktických a strategických hrozieb a príležitostí. Schopnosť spravovať tieto údaje v reálnom čase má veľké výhody, ale nepoučenie sa z týchto informácií môže byť katastrofálne. Schopnosť rýchlo spracovať tok informácií z rôznych platforiem pôsobiacich vo viacerých oblastiach poskytuje dve hlavné vojenské výhody: rýchlosť i dosah. Umelá inteligencia vám umožňuje analyzovať dynamické podmienky bojiska v reálnom čase a udrieť rýchlo a optimálne a zároveň minimalizovať riziko pre vaše vlastné sily.

Toto nové bojisko je tiež všadeprítomné a. AI je jadrom takzvaných rojov dronov, ktorým sa v posledných rokoch venuje veľká pozornosť. S pomocou všadeprítomných senzorov umožňuje dronom nielen navigáciu v nepriateľskom teréne, ale v konečnom dôsledku môže umožniť vytvorenie zložitých formácií rôznych typov bezpilotných lietadiel operujúcich v mnohých oblastiach s dodatočnými zbraňami, ktoré umožňujú sofistikovanú bojovú taktiku, ktorá sa okamžite prispôsobí nepriateľa. manévre s cieľom využiť bojisko a hlásiť meniace sa podmienky.

Pokroky v zameriavaní a navigácii s pomocou AI tiež zlepšujú vyhliadky na účinnosť v širokej škále taktických a strategických obranných systémov, najmä protiraketovej obrany, a to zlepšením metód detekcie, sledovania a identifikácie cieľov.

neustále zvyšuje silu simulácií a herných nástrojov používaných na výskum jadrových a konvenčných zbraní. Hromadné modelovanie a simulácia budú nevyhnutné pre vývoj komplexného viacdoménového systému cieľových systémov pre bojové riadenie a komplexné misie. AI tiež obohacuje interakcie viacerých strán (5). Umelá inteligencia umožňuje hráčom pridávať a upravovať herné premenné, aby preskúmali, ako môžu dynamické podmienky (výzbroj, zapojenie spojencov, dodatočné jednotky atď.) ovplyvniť výkon a rozhodovanie.

Pre armádu je identifikácia objektov prirodzeným východiskovým bodom AI. Po prvé, je potrebná komplexná a rýchla analýza rastúceho počtu obrázkov a informácií zozbieraných zo satelitov a bezpilotných lietadiel, aby sa našli objekty vojenského významu, ako sú rakety, presuny vojsk a ďalšie údaje súvisiace so spravodajstvom. Dnes toto bojisko pokrýva všetky krajiny – more, pevninu, vzduch, vesmír a kyberpriestor – v celosvetovom meradle.

Kyberpriestorako inherentne digitálna doména je prirodzene vhodná pre aplikácie AI. Na strane ofenzívy môže AI pomôcť nájsť a zacieliť jednotlivé uzly siete alebo jednotlivé účty, aby ich zhromažďovala, narúšala alebo dezinformovala. Kybernetické útoky na vnútornú infraštruktúru a veliteľské siete môžu byť katastrofálne. Pokiaľ ide o obranu, AI môže pomôcť odhaliť takéto prieniky a nájsť deštruktívne anomálie v civilných a vojenských operačných systémoch.

Očakávaná a nebezpečná rýchlosť

Rýchle rozhodovanie a promptná realizácia vám však nemusia dobre poslúžiť. pre efektívny krízový manažment. Výhody umelej inteligencie a autonómnych systémov na bojisku možno nedajú čas na diplomaciu, ktorá, ako vieme z histórie, bola často úspešná ako prostriedok na predchádzanie alebo zvládanie krízy. V praxi môže byť spomalenie, pauza a čas na vyjednávanie kľúčom k víťazstvu alebo aspoň odvráteniu katastrofy, najmä ak sú v stávke jadrové zbrane.

Rozhodnutia o vojne a mieri nemožno ponechať na prediktívne analýzy. Existujú zásadné rozdiely v tom, ako sa údaje používajú na vedecké, ekonomické, logistické a prediktívne účely. ľudské správanie.

Niektorí môžu vnímať AI ako silu, ktorá oslabuje vzájomnú strategickú citlivosť a tým zvyšuje riziko vojny. Náhodne alebo úmyselne poškodené údaje môžu viesť systémy AI k vykonaniu neúmyselných akcií, ako je nesprávna identifikácia a zameranie na nesprávne ciele. Rýchlosť akcie predpokladaná v prípade vývoja vojnových algoritmov môže znamenať predčasnú alebo dokonca zbytočnú eskaláciu, ktorá bráni racionálnemu zvládnutiu krízy. Na druhej strane, algoritmy tiež nebudú čakať a vysvetľovať, pretože sa od nich tiež očakáva, že budú rýchle.

Rušivý aspekt fungovanie algoritmov umelej inteligencie aj nami prezentované nedávno v MT. Ani odborníci presne nevedia, ako AI vedie k výsledkom, ktoré vidíme vo výstupe.

V prípade vojnových algoritmov si nemôžeme dovoliť takú nevedomosť o prírode a o tom, ako ju „myslia“. Nechceme sa prebúdzať uprostred noci na jadrové erupcie, pretože „naša“ alebo „ich“ umelá inteligencia sa rozhodla, že je čas hru konečne urovnať.