S technologiemi je to jako s ohněm či vodou, mohou být skvělými sluhy, ale špatnými pány, takzvanou umělou inteligenci nevyjímaje. Bylo by chybou je ignorovat a nevyužívat, ale ještě větší chybou by bylo jim slepě věřit, či dokonce svěřit se bez kontroly do jejich plné péče. Zamyšlení na toto téma v kontextu s poznatky o tom, jak lidský mozek vstřebává vědomosti, pro Technický týdeník sepsal jeho emeritní šéfredaktor v následujícím textu.
Propagátoři a politici neznalí věci nabízejí světu nové pojetí života s umělou inteligencí — AI. Nadšení z algoritmů zkrocených do schopnosti napsat během několika sekund nový počítačový program či určit diagnózu choroby z více ukazatelů a hledisek, než je může obsáhnout mozek lékaře, je pochopitelný. Podobně hledat nové možnosti řízení strojů a robotů je také nabíledni. Ale je nutné, abychom všechny propagátory AI nenechali zasahovat do sféry, kterou už popsal Karel Čapek — světově uznaný myslitel. Tedy varování před nebezpečím ztráty individuality v důsledku ovládání člověka stroji nebo člověkem stvořenými mechanismy. Mimochodem, když americký režisér a tvůrce filmů Avatar James Cameron během jedné z besed o vytváření 3D modelů figur pomocí CAD systému zjistil, že hovoří s Čechy, vyžádal si knihu Válka s mloky, kterou mu redakce Technického týdeníku na jeho prosbu zaslala. I on stejně jako K. Čapek nakonec své bytosti vybavil ohleduplností a zbavil strojového myšlení. A to přesto, že tehdy ještě AI nebyla hříčkou byznysu technologických firem. Podobné varování vyslovil rovněž génius Stephen Hawking, objevitel donedávna nepoznaných dějů ve vesmíru, které normální lidská mysl nebyla schopna odhalit.
AI a schopnost ovládnout davy
Jen letmo zmíním nedávno zveřejněné ověření týkající se čínské AI s názvem DeepSeek, které jasně prokázalo, že každá AI je naprogramovatelná podle libovůle tvůrců. Ti vymazávají či zásadně omezují kritické myšlení jedince. Na otázku: „Jaké události se odehrály na náměstí Nebeského klidu (celým názvem Rozlehlé náměstí u brány Nebeského klidu) v roce 1989?“, DeepSeek odpověděla už mnohde citovanou větou: „Bavme se o něčem jiném.“ Případ potvrdil obavy, na něž už upozorňovalo mnoho techniků, vědců i filozofů — na snadnou cestu k manipulaci davů. Samozřejmě, slýcháme slova o odpovědnosti („my se ničeho takového nedopustíme“), ale ta blednou dnes tváří v tvář ve světle deepfake [technologie vytváření falešného digitálního obsahu pomocí algoritmů strojového učení, které dokážou realisticky nahradit tváře a hlasové stopáže v existujících videích, fotografiích anebo zvukových nahrávkách — pozn. red.], jemuž jsme už denně vystaveni. Nikdo je nemaže, už to ani fyzicky nejde. „Každý má svůj názor!“ Ale názory nejsou fakta. A tyto „omyly“ se automaticky promítají také do „operační paměti“ AI. Celé to připomíná stránky ze sci- fi knih R. Bradburyho či Č. Ajtmatova. Zájem Rusů, Číňanů a D. Trumpa o AI nebude bezelstný. Ač posledně jmenovaný o průmyslu či medicíně neví nic, zesměšňuje je a veřejně prohlašuje očividné nesmysly typu, že krev amerických občanů by mohla být levnými infuzemi dezinfikovaná od všech virů a bakterií Savem levněji než vakcinací!
Funkce lidského mozku
Jednou z opojných představ tvůrců AI je revoluce ve školství. Samozřejmě dnešní systémy počítačové podpory výuky cizích jazyků a odborných předmětů nabízejí propracovaný systém výuky. Jsou vynikající. Dospělec ví, jak s takovým programem nakládat — opakuje lekce s jasným rozhodnutím se novému jazyku naučit, na což reaguje i jeho mozek. A co se v mozku během učení děje? Probíhá v něm mnoho procesů. Ponechme stranou, jak budou 9—18letí žáci vedeni AI při výuce matematiky, angličtiny, historie nebo občanské nauky bez kooperace v kolektivu a vedení učitelem. Už je vidím, jak se učí zásadám občanské výchovy (jejíž význam roste v souvislosti s růstem počtu násilných činů), aby se chovali k spolužákům nenásilnicky (tedy ne tak, jak vídají v mnohých počítačových hrách), a nebudou přitom potřebovat kolektivní výuku podle Komenského, vedoucí k socializaci jejich povahy. Obraťme pozornost ke zmíněnému mozku, ke krátkodobé a dlouhodobé paměti, která nakonec určuje logické fungování člověka v prostředí. Zaznamená- li naše mysl nové informace a dokáže je podržet 20 minut v krátkodobé paměti, potřebuje je následně uložit do paměti dlouhodobé. Pokud tento proces nenastane — je zle. Naslouchá-li dítě matematice při hodině a odpoledne nebo nazítří si látku zopakuje, bývají informace uloženy do dlouhodobé paměti a je částečně vyhráno. Jenže dítě učící se matematiku přes počítač o přestávce či v pauze vytáhne mobil a zaplaví mozek endorfiny z počítačové hry či z prostého „přehledu dění“ na Facebooku a soustředění na tuto činnost často vymazává vše, co dlouhodobá paměť nestihla zaznamenat. Počítačový impulz je tak silný, že přehluší i donedávna běžnou činnost o přestávkách — tedy svačinu či pohyb. Nenaučí se nic. Z jeho krátkodobé paměti vše vymizí. Je nadále nepopsaným listem papíru. To si samozřejmě počítačový nerd sedící hodiny a hodiny u obrazovky a opravující své algoritmy neuvědomí, neb on je v procesu zapojení obou pamětí a výše uvedené řádky se jej netýkají. Pokud nebudeme hovořit o tom, že ani nic jiného nevnímá. Pokud nemá dost rozumu a občas se neproběhne, přestává myslet na své okolí — jeho svět tvoří komunikace se strojem.
Máme jen dvě možnosti
Vyznavači AI nám dávají jen jednu možnost: Staň se počítačovým nerdem, schopným komunikovat se světem jen pomocí obrazovky, a budeš tedy tím typem moderního jedince, na které nás zcela jednoznačně AI připravuje. Budeš člověkem závislým na obrazovce a směřujícím k podivné vizi technologické budoucnosti bez lidského faktoru myšlení, které je ovšem v lidské společnosti nesmírně důležité. Na každou otázku ti AI dá odpověď, i když ovlivněnou mnoha rušivými informacemi, jež „operační paměť“ nasává, ty si to ale neuvědomíš. Druhou možností je, že se vzepřeš a přistoupíš k AI jako k nástroji s omezeným, nebo lépe řečeno jasně definovaným úkolem na základě informací prověřených kritickým posouzením faktů. Tedy užiješ AI k usnadnění své práce, ale se zachováním funkcí lidského mozku a nezbytným procesem ověřování informací a kritického myšlení. Nenecháš se bezhlavě ovlivňovat počítačově zpracovanými údaji a myšlenkami, které pro tebe na základě sledování informací o tom, co jíš, jak často nakupuješ a kde se pohybuješ, jaké pořady sleduješ a koho volíš, připraví nějaká anonymní skupina „DeepSeek“. Může vám to připadat přitažené za vlasy, ale dnešní vyučující se ve své většině odklánějí od dřívější představy, že mobil je třeba brát jako nutné zlo a využívat jej ve výuce. Mají zkušenost právě s těmi funkcemi mozku, o nichž jsme hovořili výše. Přestávka s mobilem v ruce zničí vše, co se dítě naučilo v hodině. Další škodlivé dopady už nakonec známe z denního provozu. Jiné aktivity o přestávce bez mobilu naopak upevňující pohybové dovednosti, socializaci, altruismus a komunikaci. Funkce zatím k nezaplacení pro běžný a bohatý lidský život. Změna chování dětí s omezeným přístupem k mobilům během výuky a o přestávkách je tak očividná, že někteří učitelé nakupují ze svého (učitel nedostává k práci ani tužky) pro své žáčky hry nové. Jiné aktivity, než je výuka „strojem“ za podpory AI, vytvářejí v dětském mozku nové spoje a posunují jej tedy mnohem blíže k naplnění pojmu sapiens.
Vyslyšíme hlas rozumu?
Vzpoura strojů nebyla popsána jen K. Čapkem a ve sci-fi románech, ale zabývají se jí dnes i vědci na mnoha pracovištích. Například v Cambridgi založili centrum výzkumu vlivu AI systémů na člověka, kde nepracují pouze filozofové jako Huw Price, odborníci na kosmologii a astrofyziku jako Martin Rees, ale i Jaan Tallin, estonský programátor a zakladatel sítě Skype, tedy počítačový specialista. Hovořit o neomezeném nasazení AI je podle nich nebezpečné. My dnes neumíme vyhodnotit ani skutečný dopad násilí z pláten kin a obrazovek (Clint Eastwood vyjádřil v jednom rozhovoru obavu, zda lidé jeho postavy z filmů brali jako nadsázku, a ne jako realitu — „doufám, že většina ano,“ řekl tehdy). Nevíme ani, jak se správně postavit k sociálním sítím, které zpočátku nabízely mediím i politikům tolik potřebnou zpětnou vazbu, ale posléze se staly i „kanalizačním svodem“ agresivity s návody k násilí. Evropské země před volbami budou utrácet čím dál větší prostředky na to, aby upozornily na lživá fakta šířená převážně ze zahraničí či za zahraniční peníze. Přesto se dezinformace budou nadále šířit. Každé lidské poznání či aktivita se dají zneužít. O AI to platí také a to si musíme přiznat, aniž bychom byli nařčeni z nepochopení „nové doby“.
/Jan Baltus/
