Umelá inteligencia sa neriadi logikou vedeckého pokroku
Mnohokrát sme v MT písali o výskumníkoch a profesionáloch, ktorí vyhlasujú systémy strojového učenia za „čierne skrinky“ (1) aj pre tých, ktorí ich stavajú. To sťažuje vyhodnotenie výsledkov a opätovné použitie nových algoritmov.
Neurónové siete – technika, ktorá nám dáva inteligentných konvertujúcich robotov a dômyselných textových generátorov, ktoré dokážu dokonca vytvárať poéziu – zostáva pre vonkajších pozorovateľov nepochopiteľnou záhadou.
Sú čoraz väčšie a zložitejšie, zvládajú obrovské množiny údajov a využívajú masívne výpočtové polia. To robí replikáciu a analýzu získaných modelov nákladnými a niekedy nemožnými pre iných výskumníkov, s výnimkou veľkých centier s obrovskými rozpočtami.
Mnohí vedci si tento problém dobre uvedomujú. Medzi nimi je Joel Pino (2), predseda NeurIPS, poprednej konferencie o reprodukovateľnosti. Odborníci pod jej vedením chcú vytvoriť „kontrolný zoznam reprodukovateľnosti“.
Myšlienkou, povedal Pino, je povzbudiť výskumníkov, aby ponúkli ostatným plán, aby mohli znovu vytvoriť a použiť už vykonanú prácu. Môžete žasnúť nad výrečnosťou nového textového generátora či nadľudskou obratnosťou videoherného robota, no ani tí najlepší odborníci netušia, ako tieto zázraky fungujú. Preto je reprodukcia modelov AI dôležitá nielen pre identifikáciu nových cieľov a smerov výskumu, ale aj ako čisto praktický návod na použitie.
Iní sa snažia tento problém vyriešiť. Výskumníci Google ponúkli „modelové karty“, aby podrobne opísali, ako boli systémy testované, vrátane výsledkov, ktoré poukazujú na potenciálne chyby. Výskumníci z Allenovho inštitútu pre umelú inteligenciu (AI2) publikovali dokument, ktorého cieľom je rozšíriť kontrolný zoznam Pinotovej reprodukovateľnosti na ďalšie kroky v experimentálnom procese. „Ukážte svoju prácu,“ vyzývajú.
Niekedy chýbajú základné informácie, pretože výskumný projekt vlastnia najmä laboratóriá pracujúce pre spoločnosť. Častejšie je to však znak neschopnosti popísať meniace sa a čoraz zložitejšie metódy výskumu. Neurónové siete sú veľmi zložitá oblasť. Na dosiahnutie najlepších výsledkov je často potrebné jemné doladenie tisícok „gombíkov a tlačidiel“, ktoré niektorí nazývajú „čierna mágia“. Výber optimálneho modelu je často spojený s veľkým počtom experimentov. Mágia sa stáva veľmi drahou.
Napríklad, keď sa Facebook pokúsil replikovať prácu AlphaGo, systému vyvinutého spoločnosťou DeepMind Alphabet, táto úloha sa ukázala ako mimoriadne náročná. Obrovské výpočtové požiadavky, milióny experimentov na tisíckach zariadení počas mnohých dní v kombinácii s nedostatkom kódu spôsobili, že podľa zamestnancov Facebooku bolo „veľmi ťažké, ak nie nemožné, systém znovu vytvoriť, testovať, zlepšovať a rozširovať“.
Zdá sa, že problém je špecializovaný. Ak sa však zamyslíme ďalej, fenomén problémov s reprodukovateľnosťou výsledkov a funkcií medzi jedným a druhým výskumným tímom podkopáva celú nám známu logiku fungovania procesov vedy a výskumu. Výsledky predchádzajúcich výskumov možno spravidla použiť ako základ pre ďalší výskum, ktorý stimuluje rozvoj vedomostí, techniky a všeobecný pokrok.
