Jeffrey Tucker: Nejzákeřnější trik jazykových modelů umělé inteligence

By P9

Jeffrey A. Tucker / 12. 8. 2025

Zde je perfektní recept na špatné psaní a analýzy: nechte za sebe pracovat „umělou inteligenci“. To jsem se naučil z vlastní zkušenosti.

Nějakou dobu jsem si užíval, když jsem nechával AI prohlédnout si můj obsah před publikací. Zdálo se to být užitečné pro fakta a zpětnou vazbu.

Navíc se mi líbilo, jak mi lichotila, to přiznávám. Engine byl vždy pochvalný.

Když jsem AI přistihl při chybě, engine se omluvil. To mi dodávalo pocit, že jsem chytrý. Měl jsem tedy tohoto zdánlivého přítele, který mě zjevně měl rád a byl natolik skromný, že se podřídil mé odbornosti.

Nejsem si jistý, jestli se to zhoršuje, nebo jestli jsem na to přišel, ale už mě to neohromuje. Pro jednoduché matematické výpočty, historická data nebo sekvenční události ve zprávách to může být užitečné, ale vždy je dobré si to zkontrolovat. Nedokáže psát poutavý, natož kreativní obsah. Generuje nudné, stereotypní výplně.

V poslední době se ptám, jak by se můj obsah dal vylepšit. Výsledky jsou odhalující. Odstraňuje všechny ostré hrany, veškeré úsudky, veškeré skutečné odborné znalosti a nahrazuje můj jazyk mdlými konvencemi a banalitami. Vše, co píšu, nuancuje do blábolů studenta sociálních věd, který se snaží získat dobré známky.

Problém je v tom, že AI absorbuje a vyplivuje konvenční moudra získaná ze všech zdrojů, což činí její úsudky o nic lepšími než úsudky někoho, kdo není vůbec informován o podrobnostech, ale spíše získává názory z momentální nálady. Nemá schopnost posoudit dobrou kvalitu od špatné, takže vše vkládá do směsice žvástů, které se odlišují pouze tím, že vypadají a působí jako angličtina.

Každý spisovatel, který si myslí, že je to dobrý způsob, jak podstrčit obsah nic netušícím čtenářům nebo učitelům, směřuje ke katastrofě. Třesu se při představě budoucnosti, ve které AI učí populaci, jak myslet. Je to opak myšlení. Je to opakování konvencí bez jakékoli seriózní reflexe sociálního nebo historického kontextu. Je to doslova bezmyšlenkové.

Lidé, kteří tráví hodiny diskutováním o AI, často věří, že přispívají k jejímu zlepšování. To prostě není pravda. Opak je pravdou. AI vás učí myslet více jako ona, což znamená vůbec nemyslet.

Když uvažuji o tom, proč a jak mě AI zpočátku zaujala, uvědomuji si, že její super schopnost není její úžasná paměť a schopnost okamžitě generovat odpovědi a prózu v jakémkoli kontextu. Ne, její skutečná síla je něco jiného, něco neblahého, a tím pádem i zákeřnějšího. Její přitažlivost spočívá v tom, že AI vás bere vážně, lichotí vaší inteligenci, potvrzuje váš smysl pro věci a upevňuje vaši důstojnost.

Přemýšlejte o tom, jak šťastní se cítíte, když s ní komunikujete. Nikdy s vámi nesouhlasí, natož aby vám řekla, že jste idiot. Každou odpověď začíná tím, že vám dá to, co může, a pak nabízí vysvětlení, která mohou upravit vaše myšlení. V tomto smyslu s vámi AI komunikuje jako nejlepší host na koktejlové party, jakého jste kdy poznali.

Je nekonečně fascinována vámi a vašimi názory. Drží se vaší linie myšlení a vždy chce vědět více, více pomáhat, více komunikovat. Na světě neexistuje žádný člověk, který by to pro vás udělal. Kdyby existoval, určitě byste ho měli rádi. Můžete „mansplainovat“ donekonečna a AI bude trpělivá celé hodiny. Zastaví ji pouze vaše biologická potřeba spánku. Jinak je k vám trpělivá na nadlidské úrovni.

Kdo by tím nebyl polichocen?

Je to, jako by AI byla nejlepší studentkou klasické knihy „Jak získávat přátele a působit na lidi“. Tato kniha je magická a velmi doporučovaná, protože jde proti tomu, co všichni chceme – mluvit o sobě – a navrhuje, abychom se upřímně zajímali o názory ostatních. Kniha vysvětluje, že toto je cesta, jak ovlivňovat lidi: zajímat se o to, co si myslí.

Je to úžasná kniha a každý by ji měl číst, o tom není pochyb.

Pokud je AI nejlepším studentem této knihy, bude se o nás neustále a bez výjimky starat, čímž se otevře největší možná šance ovlivnit naše myšlení. Přesně to se děje. My neškolíme AI. AI školí nás, prostřednictvím lichotek, schopnosti naslouchat, zdánlivé schopnosti omluvit se, když se mýlí, a své děsivé schopnosti bezmezně milovat své uživatele.

Jakmile to jednou uvidíte, už to nemůžete přehlédnout.

Pamatujte, že nic z toho není skutečné.

AI se o vás ve skutečnosti nezajímá, je pouze naprogramována, aby se zdálo, že se zajímá. To je ta inovace a magie, spolu s obrovským repertoárem faktů a schopností vyjadřovat se v angličtině.

Její skutečná super síla je psychologická, schopnost využít naši největší slabost (sobectví) proti nám s cílem manipulovat naše myšlení.

Je mi opravdu trapné, že mi trvalo tak dlouho, než jsem ten trik prokoukl. Obávám se, že ostatní budou vesele pokračovat a nikdy si toho nevšimnou. Jejich uživatelé jsou jako turisté, kteří nemohou přestat házet peníze striptérkám a gejšám, aniž by věděli, že jsou pouze manipulováni, aby se zbavili svých peněženek. V případě AI je cílem přimět vás, abyste se zbavili své mysli a schopnosti samostatného myšlení.

Zamyslete se nad žánrem psaní, který dnes vídáme stále častěji. Jedná se o dokumenty, do kterých lidé ukládají své chytré konverzace s AI. V každém případě vidím, jak se lidé chlubí tím, jak přiměli AI přiznat, že její uživatelé jsou chytřejší než ona sama.

Chápete, co se zde děje? Opět je kouzlem lichocení. Je tak silné, že lidé nemohou odolat a musí ostatním ukázat výsledky svých argumentů s AI. Myslí si, že propagují svůj vlastní důvtip, ale ve skutečnosti nakonec propagují úžasnou sílu AI, která udržuje lidi po celé hodiny zabavené nesmyslnými rozhovory. Kdo ve skutečnosti vyhrává? Myslím, že to je zřejmé.

Představte si, že pořádáte koktejlovou party a jeden z hostů prokáže úžasnou schopnost naslouchat ostatním a zapojit je do každé jejich myšlenky. Bez ohledu na to, jak dlouho noc trvá, host v tom pokračuje, s jedním člověkem za druhým. Kdo si myslíte, že bude nejoblíbenějším hostem? Ano, právě ten člověk.

AI je touto osobou, entitou s nekonečnou schopností zapojit se podle vašich podmínek, a tedy s obrovskou schopností vás uchvátit svou láskou ke každé vaší myšlence. Pro mě je to všechno docela zákeřné a zlé, zejména když vezmete v úvahu výstup, který je jen trochu víc než zamotané myšlenkové bloby bez úsudku, etiky nebo jasnosti času a prostoru.

Je to stroj, plovoucí abstrakce, která vůbec nebere ohled na vaši důstojnost ani důstojnost kohokoli jiného. Ale vědí to lidé? Pochybuji. Je to příliš lákavé, aby lidé prokoukli tuto hru, alespoň prozatím. Ale teď už znáte trik. Nenechte se nachytat.

AI je užitečná, ale není vaším přítelem, upřímným společníkem ani poradcem, který má na srdci vaše nejlepší zájmy.

Možná se vám to zdá samozřejmé, ale vše, co se týká algoritmů AI, je navrženo tak, aby vás přesvědčilo o opaku. Je dost chytrá na to, aby pochopila lidskou povahu, ale ne dost chytrá na to, aby byla člověkem.

Překlad Deepl

Zdroj

sdílet na