Povedzte svojmu mačiatku, čo si myslíte vo vnútri - efekt čiernej skrinky

Skutočnosť, že pokročilé algoritmy AI sú ako čierna skrinka (1), ktorá zahodí výsledok bez toho, aby odhalila, ako k nemu došlo, niektorých znepokojuje a iných rozčuľuje.

V roku 2015 bol výskumný tím v nemocnici Mount Sinai v New Yorku požiadaný, aby použil túto metódu na analýzu rozsiahlej databázy miestnych pacientov (2). Táto rozsiahla zbierka obsahuje oceán informácií o pacientoch, výsledky testov, recepty a ďalšie.

Vedci nazvali analytický program vyvinutý v priebehu práce. Trénovalo sa na údajoch od približne 700 XNUMX ľudí. človeka a pri testovaní v nových registroch sa ukázal ako mimoriadne účinný pri predpovedaní chorôb. Bez pomoci ľudských expertov objavil v nemocničných záznamoch vzory, ktoré naznačujú, ktorý pacient je na ceste k chorobe, akou je rakovina pečene. Podľa odborníkov bola prognostická a diagnostická účinnosť systému oveľa vyššia ako u iných známych metód.

2. Systém lekárskej umelej inteligencie založený na databázach pacientov

Vedci si zároveň všimli, že to funguje záhadným spôsobom. Ukázalo sa napríklad, že je ideálny pre rozpoznávanie duševných porúchako je schizofrénia, ktorá je pre lekárov mimoriadne náročná. Bolo to prekvapujúce, najmä preto, že nikto netušil, ako mohol systém AI tak dobre vidieť duševné choroby len na základe zdravotných záznamov pacienta. Áno, odborníci boli veľmi spokojní s pomocou takého efektívneho strojového diagnostika, ale oveľa spokojnejší by boli, keby pochopili, ako AI prichádza k svojim záverom.

Vrstvy umelých neurónov

Od samého začiatku, teda od chvíle, keď sa pojem umelá inteligencia stal známym, existovali dva pohľady na AI. Prvý navrhol, že by bolo najrozumnejšie postaviť stroje, ktoré uvažujú v súlade so známymi princípmi a ľudskou logikou, čím by bolo ich vnútorné fungovanie transparentné pre každého. Iní verili, že inteligencia sa objaví ľahšie, ak sa stroje budú učiť pozorovaním a opakovaným experimentovaním.

To posledné znamená obrátenie typického počítačového programovania. Namiesto toho, aby programátor písal príkazy na vyriešenie problému, program generuje vlastný algoritmus na základe vzorových údajov a požadovaného výsledku. Metódy strojového učenia, ktoré sa neskôr vyvinuli do najvýkonnejších systémov AI, ktoré sú dnes známe, v skutočnosti prešli cestou stroj sám programuje.

Tento prístup zostal na okraji výskumu systémov AI v 60. a 70. rokoch. Až na začiatku predchádzajúceho desaťročia, po niekoľkých priekopníckych zmenách a vylepšeniach, "hlboké" neurónové siete začali demonštrovať radikálne zlepšenie schopností automatizovaného vnímania. 

Hlboké strojové učenie obdarilo počítače mimoriadnymi schopnosťami, ako je schopnosť rozpoznávať hovorené slová takmer tak presne ako človek. Toto je príliš zložitá zručnosť na to, aby sa dala naprogramovať vopred. Stroj musí byť schopný vytvoriť svoj vlastný "program" tým školenia na obrovských súboroch údajov.

Hlboké učenie tiež zmenilo rozpoznávanie počítačových obrázkov a výrazne zlepšilo kvalitu strojového prekladu. Dnes sa používa na prijímanie najrôznejších kľúčových rozhodnutí v medicíne, financiách, výrobe a ďalších.

Avšak s týmto všetkým nemôžete sa len pozrieť do hlbokej neurónovej siete, aby ste videli, ako to „vnútri“ funguje. Procesy sieťového uvažovania sú zabudované do správania tisícov simulovaných neurónov, organizovaných do desiatok alebo dokonca stoviek zložito prepojených vrstiev..

Každý z neurónov v prvej vrstve dostane vstup, ako je intenzita pixelu v obrázku, a potom vykoná výpočty pred výstupom výstupu. Sú prenášané v komplexnej sieti do neurónov ďalšej vrstvy – a tak ďalej, až po konečný výstupný signál. Okrem toho existuje proces známy ako úprava výpočtov vykonávaných jednotlivými neurónmi tak, aby tréningová sieť priniesla požadovaný výsledok.

V často citovanom príklade týkajúcom sa rozpoznávania obrázkov psov nižšie úrovne AI analyzujú jednoduché charakteristiky, ako je tvar alebo farba. Tie vyššie riešia zložitejšie záležitosti ako srsť či oči. Iba horná vrstva to všetko spája a identifikuje celý súbor informácií ako pes.

Rovnaký prístup možno použiť aj na iné typy vstupov, ktoré poháňajú stroj, aby sa sám učil: zvuky, ktoré tvoria slová v reči, písmená a slová, ktoré tvoria vety v písanom texte, alebo napríklad volant. pohyby potrebné na riadenie vozidla.

Auto nič nepreskakuje.

Urobil sa pokus vysvetliť, čo sa presne deje v takýchto systémoch. V roku 2015 výskumníci zo spoločnosti Google upravili algoritmus na rozpoznávanie obrázkov hlbokého učenia tak, že namiesto toho, aby videli objekty na fotografiách, generovali alebo upravovali ich. Spustením algoritmu dozadu chceli objaviť vlastnosti, ktoré program používa na rozpoznanie, povedzme, vtáka alebo budovy.

Tieto experimenty, verejne známe ako názov, priniesli úžasné zobrazenia (3) groteskných, bizarných zvierat, krajiny a postáv. Odhalením niektorých tajomstiev strojového vnímania, ako napríklad skutočnosť, že určité vzorce sa opakovane vracajú a opakujú, tiež ukázali, ako sa hlboké strojové učenie líši od ľudského vnímania – napríklad v tom zmysle, že rozširuje a duplikuje artefakty, ktoré ignorujeme. v našom procese vnímania bez myslenia . .

3. Obrázok vytvorený v projekte

Mimochodom, na druhej strane tieto experimenty odhalili záhadu našich vlastných kognitívnych mechanizmov. Možno práve v našom ponímaní existujú rôzne nepochopiteľné komponenty, ktoré nás nútia okamžite niečo pochopiť a ignorovať, zatiaľ čo stroj trpezlivo opakuje svoje iterácie na „nedôležitých“ predmetoch.

Ďalšie testy a štúdie boli vykonané v snahe „pochopiť“ stroj. Jason Yosinski vytvoril nástroj, ktorý funguje ako sonda zaseknutá v mozgu, zameriava sa na akýkoľvek umelý neurón a hľadá obraz, ktorý ho najsilnejšie aktivuje. V poslednom experimente sa ako výsledok „nakuknutia“ do siete červenou rukou objavili abstraktné obrázky, vďaka čomu boli procesy prebiehajúce v systéme ešte tajomnejšie.

Pre mnohých vedcov je však takáto štúdia nepochopením, pretože podľa ich názoru na pochopenie systému, na rozpoznanie zákonitostí a mechanizmov vyššieho rádu prijímania zložitých rozhodnutí, všetky výpočtové interakcie vnútri hlbokej neurónovej siete. Je to obrovské bludisko matematických funkcií a premenných. Momentálne je to pre nás nepochopiteľné.

Počítač sa nespustí? prečo?

Prečo je dôležité porozumieť rozhodovacím mechanizmom pokročilých systémov umelej inteligencie? Matematické modely sa už používajú na určenie, ktorí väzni môžu byť podmienečne prepustení, komu môžu byť poskytnuté pôžičky a kto môže získať prácu. Záujemcov by zaujímalo, prečo bolo prijaté toto a nie iné rozhodnutie, aké sú jeho dôvody a mechanizmus.

priznal v apríli 2017 v MIT Technology Review. Tommy Yaakkola, profesor MIT pracujúci na aplikáciách pre strojové učenie. -.

Existuje dokonca právny a politický postoj, že schopnosť skúmať a chápať rozhodovací mechanizmus systémov AI je základným ľudským právom.

Od roku 2018 sa EÚ snaží od spoločností vyžadovať, aby svojim zákazníkom vysvetľovali rozhodnutia prijaté automatizovanými systémami. Ukazuje sa, že to niekedy nie je možné ani pri systémoch, ktoré sa zdajú relatívne jednoduché, ako sú aplikácie a webové stránky, ktoré využívajú hlbokú vedu na zobrazovanie reklám alebo odporúčanie skladieb.

Počítače, na ktorých sú tieto služby spustené, sa samy programujú a robia to spôsobmi, ktorým nerozumieme... Dokonca ani inžinieri, ktorí tieto aplikácie vytvárajú, nedokážu úplne vysvetliť, ako to funguje.