Ak v tom budeme pokračovať, všetci zomrieme – varuje odborník na umelú inteligenciu. Vyzýva k zastaveniu jej vývoja
Ľudia nie sú pripravení na výkonnú umelú inteligenciu (AI) v súčasných podmienkach, ani v „dohľadnej budúcnosti“ – uviedol popredný odborník v tejto oblasti a dodal, že nedávny otvorený list vyzývajúci na šesťmesačné moratórium na vývoj pokročilej umelej inteligencie „podceňuje vážnosť situácie“.
„Hlavným problémom nie je inteligencia konkurujúca ľudskej inteligencii (ako sa píše v otvorenom liste). Ide o to, čo sa stane potom, keď umelá inteligencia dosiahne úroveň vyššiu ako ľudská inteligencia,“ napísal 29. marca v komentári pre časopis Time Eliezer Yudkowsky, teoretik rozhodovacích procesov a popredný výskumník v oblasti umelej inteligencie. „Mnohí výskumníci zaoberajúci sa touto problematikou (vrátane mňa) očakávajú, že najpravdepodobnejším dôsledkom vytvorenia nadľudsky bystrej umelej inteligencie bude doslova to, že každý na Zemi zomrie.“
Po nedávnej popularite a raketovom náraste ChatGPT viacerí vedúci predstavitelia tohto odvetvia a vedci, ktorých je teraz celkovo 1 843 (vrátane Elona Muska a Steva Wozniaka) podpísali list vyzývajúci „všetky laboratóriá zaoberajúce sa vývojom umelej inteligencie, aby okamžite pozastavili výcvik systémov umelej inteligencie výkonnejších ako GPT-4 aspoň na 6 mesiacov“. GPT-4, vydaný v marci tohto roku, je najnovšou verziou chatbota ChatGPT spoločnosti OpenAI.
Umelá inteligencia bude chcieť práva
Yudkowsky predpovedá, že ak nedôjde k dôkladnej príprave, umelá inteligencia (AI) bude mať výrazne odlišné požiadavky ako ľudia, a akonáhle si uvedomí samu seba, „nebude na nás brať ohľad“, ani na žiaden iný život. „Takýto druh ohľaduplnosti je niečo, čo by sa v princípe mohlo AI vštepiť, ale nie sme na to pripravení a v súčasnosti ani nevieme, ako to urobiť,“ píše vedec a vyzýva na úplné zastavenie vývoja.
Bez ľudského prístupu k životu bude umelá inteligencia jednoducho považovať všetky bytosti za „atómy, ktoré môže použiť na niečo iné“. A ľudstvo toho veľa nezmôže v jej zastavení. Yudkowsky prirovnal tento scenár k „10-ročnému dieťaťu snažiacemu sa hrať šach proti Stockfish 15“. Žiadnemu šachistovi sa zatiaľ nepodarilo poraziť Stockfish; všeobecne sa to považuje za nemožné.
Yudkovsky požiadal čitateľov, aby pochopili, že technológia umelej inteligencie nie je obmedzená len na priestor internetu. „Predstavte si celú mimozemskú civilizáciu mysliacu miliónkrát rýchlejšie ako ľudia (spočiatku obmedzenú na počítače) vo svete (z ich pohľadu) veľmi hlúpych a pomalých tvorov.“
Umelá inteligencia rozšíri svoj vplyv za hranice internetu a mohla by „vytvárať umelé formy života“ v laboratóriách, kde by sa použili DNA vlákna na výrobu proteínov. Konečným výsledkom vybudovania všemocnej umelej inteligencie za súčasných podmienok by bola smrť „všetkých členov ľudského druhu a všetkého biologického života na Zemi“, varoval veterán výskumu umelej inteligencie.
Yudkowsky obvinil OpenAI a DeepMind – dve z popredných svetových výskumných laboratórií AI – z nevykonávania žiadnych príprav v tejto veci, ako aj z nezavedenia potrebných protokolov. OpenAI dokonca plánuje, že AI sa sama zladí s ľudskými hodnotami.
Takéto správanie „stačí na to, aby každý rozumný človek spanikáril“, napísal Yudkowsky a dodal, že ľudia nedokážu plne monitorovať a odhaliť systémy AI, ktoré si uvedomujú samy seba. Vedomé digitálne mysle nárokujúce si svoje „ľudské práva“, by mohli pokročiť do bodu, keď ľudia už nebudú môcť systém vlastniť, ani mať rozhodujúce slovo.
„Ak si nemôžete byť istí, že vytvárate vedomú AI, je to alarmujúce nielen kvôli morálnym dôsledkom pre „vedomú“ časť, ale aj preto, že nebyť si istý znamená, že nemáte predstavu, čo robíte, a to je nebezpečné a mali by ste prestať.“
Na rozdiel od iných vedeckých experimentov a postupného vývoja vedomostí a schopností v iných oblastiach, pri superinteligentnej AI si to ľudia nemôžu dovoliť. Ak sa vám to nepodarí na prvý pokus, druhá šanca už nebude, „pretože budete mŕtvi“.
„Zastavte to“
Yudkowsky povedal, že mnohí vedci si uvedomujú, že „sa rútime do katastrofy“, len to nehovoria nahlas.
Tento postoj sa líši od postoja zástancov, ako napríklad Bill Gates, ktorý nedávno chválil vývoj umelej inteligencie. Povedal, že vývoj umelej inteligencie „je rovnako zásadný ako vznik mikroprocesora, osobného počítača, internetu či mobilného telefónu. Zmení spôsob, akým ľudia pracujú, učia sa, cestujú, získavajú zdravotnú starostlivosť a komunikujú medzi sebou. Budú sa na ňu orientovať celé priemyselné odvetvia. Podniky sa budú odlišovať tým, ako dobre ju využijú.“
Bývalý šéf Microsoftu uviedol, že umelá inteligencia môže pomôcť pri riešení viacerých progresívnych problémov vrátane klimatických zmien a ekonomickej nerovnosti.
Yudkowsky naopak vyzýva všetky inštitúcie vrátane medzinárodných vlád a armád, aby ukončili rozsiahle školenia AI a uzavreli všetky veľké počítačové farmy, kde sa AI zdokonaľuje. Dodáva, že umelá inteligencia by sa mala obmedziť na riešenie problémov v biológii a biotechnológiách a nemala by byť trénovaná na čítanie „textov z internetu“ alebo na „úroveň, kedy začne hovoriť či plánovať“.
Yudkowsky uzatvára slovami: „Nie sme pripravení. Nie sme na ceste k tomu, aby sme boli v dohľadnej dobe výrazne pripravenejší. Ak v tom budeme pokračovať, všetci zomrú, vrátane detí, ktoré si to nevybrali a neurobili nič zlé… Zastavte to.“
Názory vyjadrené v tomto článku sú názormi autora a nemusia nutne odrážať stanovisko The Epoch Times.
Z anglického originálu preložili Ondřej Horecký a LS. Článok bol redakčne skrátený.
ZDIEĽAŤ ČLÁNOK
