Jednoruká AI

Umelá inteligencia ťahá k priemeru. Prečo je to problém pre objavovanie, podnikanie aj rozmanitosť myslenia?

Ak sa pohybujete v kruhoch spoločenských vied, určite viete, že ekonómia patrí medzi disciplíny s najmenšou mierou zhody medzi svojimi zástupcami. O ekonómoch dokonca koluje na túto tému množstvo vtipov, od „Opýtajte sa piatich ekonómov a dostanete šesť názorov” po príbeh o americkom prezidentovi Trumanovi, ktorý vraj žiadal jednorukého ekonóma, lebo jeho poradcovia stále opakovali: „On the one hand... but on the other hand...”.

Problém ekonómie, na rozdiel od fyziky alebo biológie, je, že zložité spoločenské javy nevieme uzavrieť do laboratória. Nemôžeme prehrať dejiny znova a zmeniť pritom jedinú premennú. Tie isté dáta zapadajú do viacerých vysvetlení naraz a samotné čísla medzi nimi nerozhodnú. To, čo v číslach vidíme, závisí od teórie, s ktorou k nim pristupujeme. A tých teórií je viacero.

Je inflácia rast cenovej hladiny, teda dôsledok, alebo je to rast množstva peňazí a rast cien je až jej prejav? Prečo prichádzajú recesie? Sú to vonkajšie šoky, výkyvy nálad, zlyhania trhu? Vzniká nerovnosť fungovaním trhu, alebo jeho deformáciou? A takto by sme mohli pokračovať ďalších niekoľko odsekov.

Teraz vyskúšajme jednoduchý pokus. Opýtajte sa AI na spornú ekonomickú otázku. S veľkou pravdepodobnosťou dostanete uhladenú syntézu, ktorá sedí presne v strede prevládajúceho názoru. Odpoveď bude vecne dobrá, no bude pôsobiť, akoby sa dali celé desaťročia ekonomických sporov uložiť do niekoľkých viet bez ostrých hrán.

Presne tento jav ilustruje skúsenosť ekonóma Antona Korineka. Požiadal pokročilý model, aby rozobral Beveridgeovu krivku, známy graf o vzťahu medzi nezamestnanosťou a voľnými pracovnými miestami. Model si sám stiahol dáta, napísal kód, nakreslil graf a dodal plynulý výklad. Ten výklad sa však držal prevládajúceho, učebnicového príbehu, ktorý pripíše posun krivky neefektívnemu párovaniu, no rakúska či monetaristická škola by v tom videla skôr dôsledok chybnej menovej politiky alebo štruktúry stimulov.

Strop a default

Jazykový model sa počas tréningu učí z obrovského množstva textov, aké slová, tvrdenia a argumenty sa zvyčajne objavujú spolu. Názory a vysvetlenia, ktoré sa v dátach opakujú často a v ustálenej podobe, zanechajú v modeli silnejšiu stopu než pohľady roztrúsené v niekoľkých knihách, lokálnych zdrojoch alebo okrajových odborných debatách. Keď potom dostane všeobecnú otázku, má tendenciu z množstva rôznych poznatkov a pohľadov poskladať odpoveď, ktorá sa prikláňa k stredu.

Treba dodať, že je veľký rozdiel medzi tým, čo model dokáže, a tým, čo urobí sám od seba. Ak modelu povieme, aby spornú otázku rozobral z menšinovej pozície, spraví to kompetentne. To je jeho strop, a ten je vysoký. Ak mu nič nepovieme, vyberie si cestu najmenšieho odporu a skĺzne k priemeru. To je jeho default.

Práve default môže byť pri získavaní informácií väčší problém ako ľahko overiteľná halucinácia. AI nemusí povedať nič vyslovene nepravdivé. Môže uviesť správne fakty, mechanizmy a formulácie, no stále vytvorí dojem, že pred nami leží prirodzené jadro poznania a zvyšok sú iba dodatky. Kto vie, čo hľadá, dostane aj okrajový názor. Kto nevie, dostane stred, podaný hladko, sebaisto a dôveryhodne, takže nemá dôvod hľadať ďalej.

Andrew Peterson pomenoval tento jav ako kolaps poznania. Popisuje ním postupné odrezávanie chvostov, teda vzácnych, výstredných a potenciálne prevratných pohľadov, keď čoraz väčšiu časť informácií sprostredkúva umelá inteligencia. Dá sa to prirovnať k efektu pouličnej lampy: človek hľadá stratené kľúče pod lampou, hoci ich pravdepodobne stratil inde, pretože pod lampou sa hľadá ľahšie. Generatívna AI prudko osvetlila určitú časť poznania. Za niekoľko sekúnd dostaneme súhrn knihy, vysvetlenie teórie, rešerš alebo návrh riešenia. Oblasť mimo svetelného kužeľa nezmizla, iba sa stala relatívne drahšou.

Tragédia spoločnej pastviny AI

Možno ste si všimli, že mnoho dnešných textov a grafík na sociálnych sieťach pôsobí, akoby vznikli v jednej dielni. A nie je to len pocit, prvé dôkazy už existujú.

V jednom experimente používali účastníci pri tvorbe nápadov buď ChatGPT, alebo tlačené kartičky Oblique Strategies na prekonanie tvorivej krízy. S GPT ľudia vytvorili viac a podrobnejšie rozpracovaných nápadov. Keď sa však vedci pozreli na skupinu ako celok, nápady rôznych používateľov sa na seba podobali viac. Jednotlivec mohol mať pocit širšieho záberu, kým kolektív sa zhustil okolo podobných možností.

Iný tím skúmal 118 ľudí z Indie a Spojených štátov, ktorí písali texty o jedle, sviatkoch, verejných osobnostiach a žiadosti o dovolenku. Časť z nich dostávala návrhy od GPT. AI pomohla obom skupinám písať rýchlejšie, no zároveň priblížila indické texty k americkému štýlu. Priemerná podobnosť textov medzi kultúrami stúpla a modelové návrhy ovplyvnili nielen výber slov, ale aj spôsob, akým indickí účastníci opisovali vlastné kultúrne skúsenosti.

Z pohľadu jednotlivca je použitie lacnej AI úplne racionálne. Ak potrebuje základnú odpoveď, nemá dôvod čítať desať kníh. Keď potrebuje plagát na sociálne siete, nemusí stráviť dve hodiny tvorbou návrhu v Canve. Ak však rovnaké rozhodnutie začne robiť väčšina, poznanie a kreativita sa začne koncentrovať okolo rovnakých odpovedí a podobných výstupov. Vzniká situácia, ktorú ekonómia pozná ako tragédiu spoločnej pastviny. Každý z nej čerpá, no obnovuje sa len vtedy, keď niekto investuje do pôvodného, náročného a často nevďačného skúmania.

Pre úplnosť treba dodať, že tie isté dáta, ktoré ukazujú pokles kolektívnej rozmanitosti, ukazujú však aj niečo iné: najviac profitovali menej zruční pisatelia, ktorých AI potiahla nahor, kým najlepší z nej ťažili málo. Zároveň homogenizáciu nevynašla AI. Prvý výsledok Googlu, jeden článok na Wikipédii, SEO optimalizované na to isté, šablóny v grafických nástrojoch, to všetko ťahalo ľudí k rovnakému stredu už dávno pred ChatGPT.

Svet extrémov

Nassim Taleb vo svojej knihe Čierna labuť rozlišuje dva svety. Mediokristan je svet prirodzených fyzických limitov, ako je výška, váha, ale aj príjem zubára alebo priemerná úroda. Tam vládne zvonovitá krivka, extrémy existujú, ale ich vplyv na celok je zanedbateľný. Extrémistan je svet, kde vývoj nie je lineárny a minulé dáta sú zlým ukazovateľom budúcnosti. Zatiaľ čo zubár môže za deň ošetriť len obmedzený počet pacientov, vývojár softvéru môže svoj produkt predať jednému, ale aj miliarde ľudí bez toho, aby pracoval miliardakrát viac.

Talebov odkaz znie, že moderná ekonomika patrí do Extrémistanu a najväčšou chybou je hnať naň nástroje kalibrované na mediánový prípad. A tu je kameň úrazu. AI ťahá k tomu, čo je časté a typické. Lenže v Extrémistane rozhoduje vzácne.

Prenesme si problém straty rozmanitosti z písania a tvorby na podnikanie. Americký ekonóm Israel Kirzner opísal podnikanie ako bdelosť, schopnosť všimnúť si nesúlad, ktorý ostatní prehliadajú. Tento nesúlad sa takmer nikdy nenachádza v strede, ale na okraji. Podnikatelia hrajú v ekonomike podobnú úlohu ako mutácie v evolúcii, sú zdrojom variácií, z ktorých spotrebiteľ na trhu vyberá a rozhoduje, ktorá prežije. Rozptyl je surovinou objavovania.

Ak si tisíc podnikateľov nechá poradiť od podobného zdroja, ich stávky na budúcnosť (na úspešný biznismodel) sa začnú podobať. Spoľahnúť sa naň pri otázke, čo skúmať a kam investovať, znamená nahradiť objavovanie predpoveďou jeho priemerného výsledku. Našťastie trh má vlastnú poistku - konvergencia sa trestá stratou/poklesom zisku. Tisíc kaviarní s tým istým osvedčeným konceptom si maržu vzájomne stlačí k nule, a práve to obnovuje odmenu za odlíšenie.

Nezabúdajme, že umelá inteligencia druhú ruku má, akurát ju v predvolenom nastavení nedvíha. Default nám podá stred. Okraj nezmizol, iba oň treba požiadať, siahnuť po menšinovej pozícii, porovnať viac modelov, ísť za hranicu svetelného kužeľa. To je dobrá aj zlá správa naraz. Zlá z pohľadu hľadania pravdy, ktoré potrebuje rozmanitosť. Väčšina o druhú ruku nepožiada, bude žiť v strede, ktorý vyzerá ako celok, a možností, z ktorých sa dá vyberať, ubudne. Dobrá, lebo problém je v návyku a v nastavení. Jedno aj druhé sa dá meniť: zvykom používateľov, konkurenciou medzi modelmi a teda tlakom na to, aby default sám ponúkal aj okraj.

---

- Katarína