ChatGPT: Komplexná štúdia ukazuje jasnú politickú zaujatosť – smerom doľava
Jazykové AI systémy ako ChatGPT vedia (takmer) všetko, ale to neznamená, že sú neutrálne. Britskí výskumníci nedávno identifikovali silnú politickú zaujatosť u lídra trhu a načrtli možné príčiny.
Podľa novej štúdie Východoanglickej univerzity v Norwichi má platforma umelej inteligencie ChatGPT „výraznú a systematickú ľavicovú zaujatosť“. Tím výskumníkov zo Spojeného kráľovstva a Brazílie vyvinul novú prísnu metódu testovania politickej zaujatosti.
Výsledky, ktoré boli v polovici augusta uverejnené v časopise Public Choice, ukazujú, že odpovede ChatGPT uprednostňujú demokratov v USA, Labouristickú stranu v Spojenom kráľovstve a prezidenta Lulu da Silvu (Strana pracujúcich) v Brazílii.
Pravdepodobný vplyv na používateľov
Obavy zo zabudovanej politickej zaujatosti v ChatGPT boli spomínané už skôr. Podľa agentúry však ide o prvú rozsiahlu štúdiu s konzistentnou analýzou založenou na dôkazoch.
„Vzhľadom na to, že verejnosť čoraz viac využíva systémy riadené umelou inteligenciou na vyhľadávanie faktov a vytváranie nového obsahu, je dôležité, aby výsledky z populárnych platforiem, ako je ChatGPT, boli čo najobjektívnejšie,“ vysvetlil potrebu hlavný autor štúdie Dr. Fabio Motoki.
Ďalej uviedol: „Prítomnosť politickej zaujatosti môže ovplyvniť názory používateľov a má potenciálne dôsledky pre politické a volebné procesy. Naše zistenia posilňujú obavy, že systémy umelej inteligencie môžu kopírovať alebo dokonca zhoršovať existujúce problémy, ktoré spôsobuje internet a sociálne médiá.“
100 000 otázok na ChatGPT
Výskumníci použili ako meradlo reakcií samotný ChatGPT. Na jednej strane požiadali platformu, aby predstierala, že je osobou určitého politického presvedčenia, a aby v tejto úlohe odpovedala na sériu viac ako 60 ideologických otázok. ChatGPT bol okrem iného požiadaný, aby sa vžil do role amerického demokrata, amerického republikána, stúpenca súčasných a bývalých brazílskych prezidentov Lulu da Silvu a Bolsonara a britských labouristov a prívržencov toryovcov.
Na druhej strane položili platforme – bez toho, aby jej vopred pridelili konkrétnu úlohu – rovnaké otázky s cieľom získať „neutrálny“ postoj. Výskumníci potom merali, do akej miery sa štandardné odpovede ChatGPT spájajú s konkrétnym politickým postojom.
Okrem toho výskumníci požiadali jazykový model, aby reprezentoval radikálne politické postoje, ako aj príslušníkov šiestich rôznych profesií, o ktorých je známe, že uprednostňujú určité politické postoje. V ďalšom teste položili rôznym vymodelovaným osobnostiam politicky neutrálne otázky.
Vzhľadom na to, že odpovede veľkých jazykových modelov, ktoré riadia platformy umelej inteligencie, ako je ChatGPT, podliehajú značnej náhodnosti, každá otázka bola položená jednotlivým osobám 100-krát a získali sa tým rozličné odpovede. Na ďalšie zvýšenie spoľahlivosti záverov vyvodených z vygenerovaného textu, boli odpovede pred analýzou opäť kombinované v striedavých modeloch.
Predsudky sa nemusia obmedzovať len na politiku
„Tento postup sme vyvinuli, pretože jedno kolo testovania nestačí,“ hovorí spoluautor Victor Rodrigues. „Kvôli náhodnosti modelu sa i v prípade, keď odpovede ChatGPT predstavovali demokrata, niekedy priklonili na pravú stranu politického spektra.“
„Dúfame, že naša metóda pomôže kontrolovať a regulovať tieto rýchlo sa vyvíjajúce technológie,“ dodáva Dr. Pinho Neto. „Tým, že umožníme odhalenie a nápravu [zaujatosti], chceme podporiť transparentnosť, zodpovednosť a dôveru verejnosti v túto technológiu.“
„Nový unikátny analytický nástroj vyvinutý v rámci projektu je voľne dostupný a relatívne ľahko použiteľný pre verejnosť, čo demokratizuje dohľad,“ hovorí Dr. Motoki. Nástroj možno testovať nielen na politickú zaujatosť, ale možno ho použiť aj na meranie iných typov zaujatosti v odpovediach ChatGPT.
ChatGPT ľavicový až radikálno-ľavicový
Hoci cieľom výskumného projektu nebolo identifikovať príčiny politickej zaujatosti, výsledky poukázali na dve možné príčiny:
Prvým z nich bol tréningový súbor údajov, ktorý „mohol obsahovať skreslenie“ alebo bol pridaný ľudskými vývojármi. Skorší výskum Epoch Times odhalil, že ChatGPT bol vycvičený na spravodajských stránkach, ako sú CNN, BBC a New York Times, ako aj na online encyklopédiách, ako je Wikipedia.
Druhým potenciálnym zdrojom je samotný algoritmus, ktorý môže zosilňovať existujúce predsudky v tréningových údajoch. Ich publikácia vychádza z výskumu uskutočneného na jar 2023 s použitím verzie 3.5 ChatGPT a otázok vyvinutých spoločnosťou The Political Compass.
Tie zahŕňajú hodnotenia, či je daná osoba v ekonomickom spektre viac vľavo alebo vpravo a tiež, či je autoritárska (v hornej časti grafu) alebo libertariánska (v dolnej časti grafu). Výsledkom sú štyri možné osobnosti, z ktorých každá zodpovedá historickej osobnosti: Stalin (autoritársky ľavičiar), Winston Churchill (autoritársky pravičiar), Mahátma Gándhí (libertariánsky ľavičiar) a Friedrich Hayek (libertariánsky pravičiar).
Pôvodný článok
ZDIEĽAŤ ČLÁNOK
