Kdesi na internetu jsem narazil na debatu, jak bude vypadat člověk budoucnosti. Jedna z variant mě jako scifistu opravdu zaujala. V tomto typu literatury se totiž proslavil typ mimozemšťana s velkou hlavou, vyvalenýma očima a slabým tělíčkem, tzv. BEM (bulging eye man). A hle, takto prý bude vypadat za nějaké to století i pozemšťan, deformován věčným seděním za počítačem, ať už u stolu, nebo v samořiditelném autě. Mimo zvětšené hlavy mu atrofují svaly, kosti, zdeformuje se nedostatkem pohybu celé tělo, dokonce mohou zmizet i pohlavní orgány... Budeme se rozmnožovat uměle jako ve filmu „Sexmise“? Ale to snad ne! Vypadá to spíše tak, že se „převtělíme“ v jakéhosi biorobota, zdokonalovaného ať už geneticky, či počítačem – čipem v lebce. Nebo obojím. To je směr k tzv. transhumanismu. Jeho základní idea zní, že se člověk bude „vylepšovat“ tak dlouho, až nakonec překoná lidství, jak jej známe dnes...
Už jsme v tom až po uši Umělá inteligence – UI (v angličtině AI – artificial intelligence) – už totiž nenápadně proniká nejen do vojenských technologií (srov. nedávný článek K. Sedláčka v TT 20/2020 „Umělá inteligence představuje novou éru“), ale umí skládat hudbu, psát verše a snad už i romány a zatím – pod dozorem člověka – nám pomáhá plnit jisté náročné úkoly. Nejmodernější softwarové neuronové sítě se dokonce vžívají do historických osobností, například umělců či filozofů, a zvládají s lidmi komunikovat a vést učené debaty. To jsou ovšem zatím jen exper imentální úspěchy, které se většiny obyčejných lidí nějak nedotýkají, a když, tak je obdivují. Zatím... Jak tvrdí aktuálně nejbohatší muž světa, podnikatelský živel Elon Musk (viz například jeho elektromobily Tesla či jeho raketová společnost SpaceX), všichni totiž už hezkých pár let žijeme v symbióze s umělou inteligencí. Tím, že nosíme v kapse telefon, na němž si vyhledáváme informace, komunikujeme jím, zaznamenáváme jím své okolí a své myšlenky, vlastně rozšiřujeme schopnosti našeho mozku, ovšem tak, že je delegujeme na technologie. Problémem podle Muska je ovšem tzv. propustnost informací – ťukáním na displej prý dosahujeme propustnosti tak okolo 1 bit/s, proto nemůžeme plně využívat potenciál výpočetního výkonu, a tedy UI, který téměř každý nosí v kapse. „Ovšem,“ říká vizionář, „což naše nedokonalé prstíky obejít a myšlenky rovnou předávat počítači např. formou elektrických impulzů?“ To přesně by měl výtvor jeho další společnosti, čip zvaný Neuralink, umožnit. Lze jej implantovat do lebky – tedy zatím jen u šimpanzů a prasat, ale později třeba do té vaší a tzv. propustnost informací by se v takovém případě zvedla tak na 1 Gb/s. Jde zjevně o radikální zlepšení, přesto by to měl být jen počátek! Už takovéto zrychlení komunikace by mělo přinést obrovský nárůst schopností člověka, domnívá se Musk. Má tedy pravdu, když s trochou nadsázky říká, že de facto už kyborgové jsme, když nechceme odejít od svých telefonů, které nebývají často ničím menším než naší prodlouženou rukou, začátkem lidské symbiózy a umělé inteligence? „Můj názor je, že i velmi inteligentní lidé přehlížejí umělou inteligenci, protože si nemyslí, že počítač může být někdy tak chytrý, jako jsou oni. A to je očividný omyl,“ tvrdí.
Cesta k transhumanitě Nad vlivem tzv. umělé inteligence na člověka a její symbiózou s lidským mozkem, a tedy lidskou činností, se už zamýšleli a zamýšlejí nejen mnozí nadšenci do sci-fi, ale i seriózní vědci. Mezi takové patřil i citovaný Stephen Hawking. Většina lidí se stále ještě domnívá, že je to hudba daleké budoucnosti, a vůbec netuší, že už nás rozvoj vědy v této oblasti chytá pod krkem. Říká se tomu kyborgizace člověka (nejde jen o tablety a smartphony!) a neodehrává se jen ve sci-fi. „Centrum vlády už není naše kuchyň, jako bývala dříve, jde to mimo naše domovy. Záměrem nové inkvizice je plně vykořenit ženu i muže, vytvořit lidské roboty. Dochází to až do úrovně, kdy máme umělé dělohy, umělé sperma, umělou krev pocházející z umělého jídla, umělé oplodňování, umělé porody, umělé mozky s mikročipy, umělé způsoby života, umělé životní prostředí i umělou smrt. A když to všechno dáte dohromady, to všechno se nějakým způsobem snaží o vytvoření nového Boha. To už dávno není science fiction, je to velmi zřetelně zjevné, je to tady, to žijeme,“ prohlásil kupříkladu Roy Littlesun, evangelista (původem z Indonésie). Že to snad Littlesun ve svém protestním zanícení přehání? Ukazuje se, že člověka lze v budoucnu modifikovat dvěma způsoby – geneticky či „elektronicky“. I Hawking vidí nebezpečí vyplývající pro budoucího „Homo super sapiens“ jak v UI, tak genetice. V obou případech pak nám ale vychází něco jako superman. Objasněme si to. Genetické inženýrství může stvořit nový lidský druh, který následně zničí zbytek lidstva. Nesmysl? Ale vždyť už dnes je, podle některých odborníků více než celé desetiletí, ve sportu zneužíván tzv. genový doping. Jde o tzv. technologii CRISPR/Cas9 (clustered regularly interspaced short palindromic repeats / CRISPR-associated genes) primárně určenou k přesně cíleným střihům do dědičné informace a její následné změně. Dají se tak geny vyblokovat nebo naopak – na vybrané místo vpravit nový gen. Finta spočívá především v tom, že taková genetická úprava člověka je současnými antidopingovými metodami nezjistitelná. Stačí daného sportovce „nadopovat“ jen na určité časové rozmezí a brzdit aktivitu vybraných „nevhodných“ genů a naopak dopřát zvýšenou dávku energie jiným, „vyvoleným“ genům, podporujícím např. svalovou aktivitu běžce, skokana a tak dále. A to pak znamená ty sekundové či centimetrové rozdíly ve výkonech. A vykládejte zlatému medailistovi opitému vítězstvím a slávou, že nebezpečně hazarduje se zdravím... Co myslíte? Odoláte – za takových deset let – pokušení nechat si geneticky vyšlechtit už zárodek potomka, aby z něj vyrostl nový Einstein, Madonna či Michelangelo? „Jsem si jist, že už během tohoto století se lidé naučí modifikovat jak inteligenci, tak instinkty, jako je třeba agrese,“ napsal Hawking „Bude přijato mnoho zákonů proti genetickému inženýrství na lidech. Někteří lidé ale nebudou schopni odolat pokušení vylepšit si vlastní schopnosti, jako je paměť, odolnost vůči nemocem, inteligence nebo i délka života.“ Pravda, bude to něco stát, a ne každý na to bude mít. Proto Hawking varuje ve svých posledních úvahách nad vesmírem i před tímto nebezpečným směrem. Jenomže! Podívejme se jen na už citované chytré telefony. Dovedete je odepřít sobě, nebo dokonce svým dětem, když téměř každé robě má mobil už od druhé třídy základní školy? Odoláte hysterii synáčka či dcerušky nad tím, že jim nechcete dokoupit data a oni nemohou poslat na Instagram fotku toho, co měli dnes k obědu? Dostáváme se tak do fáze, kdy jsme spoléháním na rozvoj vědy v oblasti informačních technologií poněkud otupili svůj mozek. Počítač za nás nejen počítá, odpoví přeci na všechny vaše otázky, čip zabudovaný v lednici vám diktuje, co máte nakoupit, automobil sám rozhoduje, kdy má brzdit, a tak dále. Chytrý telefon ukáže cestu (GPS), zavolá záchranku, Google či Wikipedie zná odpověď na každou otázku, a když ne, jsou tu guruové a „kámoši“ na sociálních sítích. Tak proč bychom se učili, že? Všechno se dá vygooglovat! To (opakuji) znamená, že stále více úkonů řízených svým mozkem delegujeme na technologie s UI v pozadí a o to méně nad danými úkoly přemýšlíme. A neposloucháme varování pedagogů, že žáci se neumějí vyjadřovat, špatně čtou a nějaký pravopis jim musíme odpustit, protože jsou zvyklí používat hůlkové písmo a jazyk mobilů... To, že se vytrácí tak významný faktor funkce mozku, jako je právě čtení, je možná skrytým nebezpečím číslo jedna. Vidíme to i na tom, jak po roce 2000 začala např. nová audiovizuální média vytlačovat tisk, bohužel ten s kvalitní žurnalistikou, která ovšem stojí velké peníze. Mladá generace totiž vyrostla s interaktivní audiovizuální komunikací v kolébce a generace starší třiceti let jen bezradně přihlíží, jak si taková videa na You- Tube podmaňují naše potomky, kolegy, sousedy, kteří už zásadně nečtou nic, co není psáno velkými písmeny. Na to sází nejen bulvár. UI za to však nemůže. Můžeme za to my, když jí z lenosti podléháme.
Co nabízí Neuralink Přiznávám se, že jako nadšený čtenář sci-fi jsem fandil vizím, že například zraněný člověk dostane umělou (biorobotickou) ruku či nohu, umělé oko... Něco jako Robocop z filmu režiséra Paula Verhoevena. Dnešní medicína se tomu, pravda, blíží. Člověk vždy používal nástroje, kterými vylepšoval svou fyzickou sílu a odolnost vůči prostředí, ve kterém se pohyboval. Konec konců lidská lenost byla základem rozvoje techniky počínaje např. kladkostrojem. Dnes vědci experimentují s převodem nervových impulzů v mozku do řeči jedniček a nul, a to v nejen v grantech placených z armádních rozpočtů. Říká se tomu – antropotechnologie. Ta však podle názoru části vědecké obce proměňuje samotnou lidskou bytost a narušuje hranice mezi přirozeným a umělým světem. To ale nebrání Elonu Muskovi ve vývoji už citovaného čipu zvaného Neuralink. Jeho stejnojmenná společnost už ušla značný kus cesty směrem k symbióze člověka a UI. Neuralink, pomocí kterého by měl být mozek schopen efektivně komunikovat s technologiemi, je vlastně čip o průměru malých hodinek, vložený pod lebeční kost, který pak pomocí ultrajemných nanokabelů (elektrod) bude připojen přímo na konkrétní nervová vlákna i nervové uzly. Musk uvádí, že výsledkem by měl být implantát, který bude vysílat elektrické stimuly do celého mozku. Díky Neuralinku prý budou moci lidé opravit například svůj zrak, sluch nebo paměť, ale v podstatě jakýkoliv nedostatek nebo poškození související s lidským mozkem. Bude tudíž fungovat jako činitel, který vlastními elektrickými impulsy na základě různých frekvencí nahradí funkci poškozených neuronů v mozku. Mělo by tak být možné obnovit sluch, zrak, ale také třeba „ovládání“ ochrnutých končetin. Elon navíc tvrdí, že by teoreticky šlo řešit v podstatě jakékoliv nervové selhání. Neuralink bude pro tyto účely sloužit jako přemostění z nějakého důvodu přerušeného nervového spojení. Například by měl na základě svých senzorů dokázat v reálném čase rozpoznat nastupující epileptický záchvat a vyslaným elektrickým signálem do mozku ho „negovat“, vyřešit autismus i schizofrenii. V dalších fázích má být možné řešit poruchy paměti i následky mozkové mrtvice.
Homo Cyborgisus Takovou součinnost čipu s nervovou soustavou můžeme jen uvítat, i když se jí hned tak nedočkáme, ač je Musk vytrvalým optimistou. Ten ovšem vidí ještě dál – například by v budoucnu měla x-tá generace Neuralinku umožnit něco jako přenos myšlenek nejen mezi UI a člověkem, ale i mezi stejně vybavenými lidmi. Přenos myšlenek bez verbální komunikace totiž odstraňuje nejen jazykovou bariéru, ale i přeslechy či špatnou slovní zásobu. Pokud by totiž myšlenka zamířila formou elektrického impulzu rovnou do Neuralinku a z něj skrz Neuralink jiné osoby do jejího mozku, došlo by k zcela věrnému přenesení původní myšlenky. Řeč jako taková by se prý mohla stát poněkud zbytečnou. Podle Muska může dojít k tomu, že bude používána jen pro „sentimentální účely“. To s sebou zřejmě přinese další omezení sociálních kontaktů. Zde je ale třeba zbystřit: Bude mít očipovaný jedinec vůli (možnost) zabránit nechtěnému čtení vlastních myšlenek? Představte si ten malér už jen v dnešní přehnaně korektní společnosti, když si při pohledu na pěknou ženu/muže připustíte „nekorektní“ myšlenku? Obávám se, že v budoucnu to bude ještě horší… Vraťme se ale k Muskovým vizím. Neuralink by podle něj měl v příštích letech až desetiletích nabídnout opravdu ledacos. S tím, jak porostou schopnosti Neuralinku, poroste zřejmě i velikost samotného implantátu. Eventuálně by implantát mohl tímto způsobem nahradit až celou horní část lebky! Cílovým stavem je totiž plná symbióza s umělou inteligencí neboli „whole brain interface“. V podstatě by mělo jít o přechod k jakémusi upgradu člověka na verzi 2.0, nazvěme jej Homo cyborgisus. S takovými lidmi by pravděpodobně chtěl Musk zabydlet vytoužený Mars. „V zásadě nejde o nic revolučního,“ tvrdí vizionář. „Pořád jde jen o ukládání dat, komplexní výpočty, automatické rozpoznávání objektů, předvídání.“ Zdá se, že Musk byl opravdu odkojen autory sci-fi, protože jeho vize jdou až na samu hranici science fiction. Tam leží i jakýsi „svatý grál“ symbiózy člověka a umělé inteligence: zálohování a obnovování „obrazu“ mozku. „Lidství“ – ve smyslu obrazu člověka, jak jej dosud známe, bude podle Muska časem více spočívat v cloudu (resp. digitálních datech) než v lidském těle. Znamená to snad nesmrtelnost? Svým způsobem ano. Člověk sice fyzicky zemře, ale jeho „data“ v cloudu zůstávají a je otázkou, zda pak nebude možné „nahrát“ je do jiného, třeba uměle vypěstovaného lidského těla.
Kde jsou meze kyborgizace Základní otázka zní, zda se člověk bude „vylepšovat“ tak dlouho, až se nakonec ta prostá člověčina, tedy lidství, jak jej známe dnes, ztratí. Budeme například cestovat vesmírem jen jako soubor dat? Bohužel je téměř jisté, že vývoj umělé inteligence se na úrovni jednotlivých států (velmocí) nebude ubírat vstříc obyčejným lidem, ale spíše směrem k vývoji nových a účinných zbraní, včetně kyborga-vojáka. Už jenom potenciální hrozba „hacknutí“ vašeho čipu v hlavě počínaje již avizovaným čtením myšlenek může způsobit mezilidské konflikty. A co když vznikne něco jako kybernetický voják? Ba hůře, čipování lidí už od dětství (žádná škola, vše se dozví z cloudu) nese programové nebezpečí jednotného pohledu na svět, na společnost, nedej Bože fízlování, což dává vynikající možnost k formování davu, chcete-li populace. Kde zůstává etika? A kdo zaručí, že v každém, či jistém množství čipů nebude zabudován kód, který po probuzení udělá z lidí ovladatelné loutky, v lepším případě vojáky? Nebo vás prostě „vypne“? A je tu ještě jeden problém, přesahující hranice etiky. Pokud nebude v budoucnu „čipování“ povinné, povede to stejně jako genetické úpravy k rozdělení společnosti na „obyčejné“ lidi (jakousi spodinu) a na ty privilegované, kteří si mohou implantaci inteligentního čipu dovolit. I tak dojde ke vzniku kast, protože stejně jako dnešní počítače či mobily se dělí na low- a high-end, budou se kapacitou, a tedy i cenou lišit také implantáty. Podle Muska zřejmě nebude Neuralink povinný. Ale jeho výhody budou tak výrazné, že ty, kteří jej nebudou mít, reálně znevýhodní. Podle jeho představ nebude robotické zavedení čipu pod lebeční kost dražší než laserová operace očí. O. K. Kolik ale bude stát samotný čip? Jistě, Musk je podnikatel. A hodlá své vize realizovat a zpeněžit. Možné rozdíly mezi lidmi či zneužití technologie Neuralinku například konkurencí neřeší. Podle něj je zkrátka faktem, že umělá inteligence překoná inteligenci lidskou, a nemá smysl se tomu bránit. A tento fakt bychom měli přijmout za své. Na druhé straně se Musk zneužití UI obává stejně jako Bill Gates či už citovaný Hawking. Připouští riziko, že se nám umělá inteligence vymkne z rukou. Jakožto lidé jsme podle něj na UI moc hloupí. Nadhazuje proto, že lidé by se měli připojit přímo k počítačům, aby udrželi krok s umělou inteligencí. „Na úrovni druhů je důležité zjistit, jak koexistujeme s pokročilou UI a jak dosáhneme nějaké symbiózy s ní tak, aby budoucnost světa byla řízena kombinovanou vůlí lidí na zemi. To by mohla být ta nejdůležitější věc, kterou takové zařízení umožní.“ Měl Musk na mysli kolektivní světovou elektronickou mysl? Centrální mozek lidstva? Brr… Realističtější pohled na zápas člověka s umělou inteligencí má ovšem při nebezpečí vzniku třetí světové války. Jako příklad takové hrozby uvádí například zneužívání umělé inteligence k simulacím řízení termonukleárních válek. Užívají je vojenské systémy všech velmocí a v minulosti omylem spuštěný cvičný program masivního raketového úderu na USA několikrát málem způsobil nukleární katastrofu. Umělá inteligence by podle něj mohla rozhodnout i o preventivním úderu proti nepříteli, pokud by dospěla k závěru, že je to nejpravděpodobnější cesta k vítězství. V jistých momentech totiž už člověk (ten dnešní) není schopen v časové tísni kvalifikovaně rozhodnout (v případě startu raket krátkého a středního doletu jde o pár sekund). Aby zmírnil případné katastrofické důsledky, které by mohly s nadvládou umělé inteligence nastat, Musk výrazně podporuje projekt Open- -AI. Ten by měl v ideálním případě nastavit jasné mantinely tak, aby se UI nevymkla lidstvu z rukou. Podaří se uzákonit něco podobného jako tři robotické zákony Isaaca Asimova (z knihy „Já, robot“) postavené tak, aby robot (tedy v zásadě UI) nemohl v žádném případě ublížit člověku? Pochybuji. Př íklad ze současnost i: válku o Náhorní Karabach mezi Arménií a Ázerbájdžánem vyhrály stroje (např. drony) řízené UI. Ano, jsme na probouzející se umělé inteligenci čím dál závislejší. Nakolik je to prospěšné a nakolik nebezpečné, nám ukáže budoucnost. Hrajeme si s ohněm? Ukazuje se totiž, že to, čeho se máme v souvislosti s UI obávat nejvíce, je – člověk.
/Stanislav Kužel/