Nová umelá inteligencia dokáže previesť myšlienky na text
Vedci vyvinuli systém umelej inteligencie, ktorý dokáže čítať myšlienky ľudí meraním mozgovej aktivity a previesť ich na text. To vyvoláva obavy o súkromie a slobodu.
Štúdia (pdf) publikovaná 1. mája v časopise Nature Neuroscience použila na dekódovanie myšlienok ľudí neurónovú sieť podobnú tej, ktorú využíva ChatGPT od spoločnosti OpenAI. Prevádzací model je neurálnou sieťou, ktorá sa učí pochopiť kontext, a teda aj význam. Testované osoby najprv počúvali hodiny podcastov, počas čoho bola zaznamenávaná ich mozgová aktivita. Na týchto záznamoch potom výskumníci trénovali „dekodér“. Neskôr subjekty počúvali nový príbeh alebo si predstavovali, že ho rozprávajú, čo dekodéru umožnilo vygenerovať zodpovedajúci text na základe analýzy mozgovej aktivity.
Výskumníci trénovali dekodéry na troch subjektoch. „Pretože náš dekodér reprezentuje jazyk skôr pomocou sémantických rysov než motorických alebo sluchových podnetov, dekodér by mal zachytávať význam podnetov,“ uvádza sa v štúdii.
„Výsledky ukazujú, že dekódované sekvencie slov zachytávali nielen význam podnetov, ale často aj presné slová a frázy.“
Technológie schopné čítať myšlienky ľudí môžu byť prínosné pre jedincov, ktorí stratili schopnosť fyzickej komunikácie. Vyvolávajú však obavy ohľadom súkromia a straty slobody.
Nita Farahanyová, futuristka a právna etička z Dukeovej univerzity v Durhame v Severnej Karolíne varovala, že zhromažďovanie údajov o mozgu môžu vlády a ďalšie mocnosti zneužiť na nekalé účely.
„Autoritárska vláda, ktorá by k nim mala prístup, by sa ich mohla pokúsiť zneužiť napríklad na identifikáciu ľudí, ktorí nie súpoliticky vyhovujúci ť. Bolo by to celkom rýchle a závažné zneužitie týchto dát. Alebo by sa mohli pokúsiť identifikovať ľudí, ktorí sú neuroatypickí a diskriminovať ich alebo segregovať,“ povedala Farahanyová.
Na pracovisku môže byť táto technológia zneužitá na „dehumanizáciu“ zamestnancov tým, že ich prinúti podrobiť sa neurologickému dohľadu.
„Problém nastáva, ak sa používa ako povinný nástroj a zamestnávatelia ním zhromažďujú údaje pre rozhodovanie o nábore, prepúšťaní a kariérnom postupe. Urobia z toho akési skóre produktivity. Potom sa to stane naozaj zákerným a problematickým. Podkopáva to dôveru… a môže to spôsobiť, že pracovisko sa stane neľudským.“
Neinvazívna technika, riešenie problémov týkajúcich sa súkromia
Na rozdiel od iných systémov dekódovania jazyka, ktoré sú v súčasnosti vo vývoji, je ten, ktorý vyvinuli vedci v spomínanej štúdii z 1. mája, neinvazívny a nevyžaduje, aby subjekty podstúpili chirurgickú transplantáciu.
Alex Huth, odborný asistent neurovedy a informatiky na Texaskej univerzite v Austine, ktorý štúdiu viedol, označil výsledky za „skutočný skok vpred“ v oblasti neinvazívneho čítania mozgu.„Získavame model, ktorý dokáže dekódovať súvislú reč so zložitými myšlienkami po dlhšiu dobu.“ Dekódované výsledky nie sú úplne doslovnými prepismi. Namiesto toho zachytávajú podstatu toho, čo si subjekt myslí.
Aby výskumníci vyriešili obavy týkajúce sa súkromia, testovali dekodéry, aby zistili, či ich možno vycvičiť bez toho, aby osoba spolupracovala. Tím sa pokúsil dekódovať vnímanú reč testovaných osôb pomocou dekodérov vycvičených na dátach iných osôb, ale výsledky boli výrazne horšie. „To naznačuje, že pre trénovanie dekodérov je naďalej nevyhnutná spolupráca subjektov,“ uvádza štúdia.
Výskumníci tiež potvrdili, že dekodéry nemožno použiť na identifikáciu myšlienok osôb v prípade, že sa tomu vedome bránia. Taktiky, ako je premýšľanie o zvieratách alebo tiché predstavovanie si príbehov, môžu systému zabrániť v čítaní myšlienok.
„Človek musí stráviť až 15 hodín ležaním v MRI skenery, byť úplne nehybný a venovať sústredenú pozornosť správam, ktoré počúva, kým to začne naozaj dobre fungovať,“ povedal Huth.
Jerry Tang, spoluautor štúdie, sa domnieva, že hoci je táto technológia v ranej fáze, vlády by mali prijať legislatívu, ktorá bude chrániť ľudí a ich súkromie. „Veľmi dôležitá je tiež regulácia, na čo môžu byť tieto zariadenia používané.“
Preklad a redakčná úprava pôvodnej správy: Juraj Skovajsa a Anikó Hanzlová.
