Koniec kritického myslenia? Ľudia začali hromadne veriť klamstvám AI

Výskum publikovaný odborníkmi z Wharton Business School prišiel so zaujímavým a hlavne veľmi znepokojivým zistením. Neurovedci zaviedli nový pojem „kognitívna kapitulácia“, ktorý varuje pred postupnou rezignáciou na vlastné kritické myslenie v prospech umelej inteligencie. 

Fenomén, o ktorom začínajú intenzívne diskutovať psychológovia aj neurovedci, naznačuje, že ľudský mozog sa pod tlakom všadeprítomnej AI nesnaží o hlbšie preverovanie faktov, ale namiesto toho volí cestu najmenšieho odporu a slepú dôveru v digitálne výstupy.

AI ničí kritické myslenie ľudí

Vedci Steven Shaw a Gideon Nave uskutočnili rozsiahly experiment na vzorke 1 300 respondentov, ktorých úlohou bolo riešiť neintuitívne logické hlavolamy vyžadujúce analytické uvažovanie, pričom k dispozícii mali chatbot, ktorý im podľa pokynov organizátorov občas úmyselne podával lživé alebo zavádzajúce informácie.

Výsledky tejto štúdie sú podľa mnohých expertov alarmujúce, pretože ukázali, že testovaní ľudia uverili klamstvám AI v neuveriteľných 72,3 % prípadov, čím nadradili dôveru v algoritmus nad vlastný úsudok aj v situáciách, kde by pri minimálnej snahe dokázali odhaliť chybu sami.

Tento nový spôsob uvažovania vedci pracovne nazvali „Systém 3“, ktorý dopĺňa tradičné modely rýchleho intuitívneho a pomalého racionálneho myslenia, no zároveň so sebou prináša obrovské riziká v podobe zníženia kognitívneho úsilia a straty skepticizmu.

Neurovedci varujú pred zneužitím

Zvlášť kritická situácia nastáva v momentoch, keď sú ľudia pod časovým stresom, kedy takmer úplne prestávajú verifikovať pravdivosť tvrdení umelej inteligencie a bezvýhradne sa spoliehajú na cudzí, externe spracovaný „mozog“.

Odborníci varujú, že táto zraniteľnosť je ľahko zneužiteľná na manipuláciu verejnej mienky či podsúvanie ideologických postojov stovkám miliónov ludí bez toho, aby si to uvedomovali.

Okrem rizika masovej manipulácie existuje aj reálna hrozba kognitívneho úpadku jednotlivcov, vrátane politických a ekonomických elít, u ktorých by nadmerná závislosť od AI mohla viesť k atrofii ich vlastných rozhodovacích schopností a neschopnosti riešiť krízové situácie na základe biologických neurónov. 

Dlhodobé dôsledky tohto trendu by mohli preformovať celú spoločnosť, v ktorej by sa samostatné a kritické premýšľanie stalo raritou, zatiaľ čo väčšina populácie by sa ocitla v stave trvalej mentálnej pasivity voči klamstvám.