Někteří vědci a významní lidé podporují vývoj umělé inteligence a myšlenky, že by jí bylo možné zneužít proti lidem nebo že by se lidem vymkla z rukou a žila si dál svým životem, odmítají. Pak jsou vědci a významní lidé, kteří před umělou inteligencí varují, například Stephen Hawking, Elon Musk či Bill Gates. Kdo má pravdu? PŘÍLEŽITOST I Příležitosti využití umělé inteligence (AI – Artificial Intelligence) mají mnoho podob. Podle serveru Technet umělá inteligence Googlu ovládne 95 % světa. Letos se naučí 30 jazyků, v nichž bude lidem sloužit. Za kouzelnou formulkou „Hey, Google“ už by brzy nemusely následovat jen slovní pokyny v angličtině, němčině nebo v jednom z dalších šesti světových jazyků. Google na svém blogu ohlásil, že Google Assistant se do konce roku naučí celkem přes 30 jazyků. Podle firmy tím pokryje 95 % uživatelů operačního systému Android po celém světě.1 Nejsložitější úkoly Co dalšího nám AI přinese? Umělá inteligence, zvláště pokud se spojí s kvantovými počítači, jejichž sériová výroba je na spadnutí, dokáže řešit mnohovrstevnaté a komplexní úlohy, které obsahují mnoho rozporů. A dokáže je prozkoumat a řešit asi tisíckrát rychleji než člověk. Tedy AI nám může pomoci registrovat znečištěné oblasti na celém světě, zvláště v oceánech a v ovzduší a mapovat proudy a tendence vývoje. Může pomoci mapovat zdravotní stav obyvatel planety a predikovat vývoj nemocnosti, výplaty nemocenských dávek, zdravotního i životního pojištění. Pomůže při řízení autonomních vozidel i při řízení letového provozu létajících aut. Rozhodně pomůže při cestách do vesmíru tak, aby byly pokud možno levné a bezpečné. Pomůže odhalovat fake news, ale také je umí vytvářet. Bude lidi upozorňovat na rizika, která zatím nevidí, a navrhovat ideální řešení situací, které jsou černými labutěmi, jako například dopad asteroidu na Zem. Pomůže urbanistům predikovat růst počtu obyvatel, změny životního stylu ve všech směrech – od cestování až po oblékání. Může pomoci s vývojem nových materiálů a změnit tak surovinovou základnu lidstva. Může objevit nová naleziště různých surovin, což může „zamávat“ s cenami ropy, zlata, dalších kovů, vzácných prvků či drahých kamenů. Může pomoci v plném pochopení principů fungování kvantové fyziky a najít možnosti jejího praktického využití. Sama pak kvantovou fyziku ovládne, což ji učiní ještě složitější. To je jen několik příkladů pozitivního využití umělé inteligence, které se nyní jeví. HROZBY Potenciálních hrozeb AI je zatím více než příležitostí. Zatím vše geniální bylo zneužito. Také umělá inteligence bude dobrým sluhou, či zlým pánem. Proč? Lidé mají rádi výzvy, touží objevovat neznámé. Vědci zkoumají principy a vůbec se nestarají o to, jak bude s vynálezem naloženo. Nedávno zesnulý astrofyzik Steven Hawking varoval: „Pokud skutečně stvoříme umělou inteligenci, vyhubí nás. Nedělejme to. Obávám se, že umělá inteligence může zcela nahradit lidskou rasu. Když lidé dokážou vytvořit počítačové viry, které se samy vylepšují a množí..., půjde o novou formu života, jež lidstvo předčí.“ Umělá inteligence by podle Hawkinga lidstvo nevyhubila z nenávisti či nepřátelství, ale prostě proto, že by byla výtečná v naplňování svých cílů, které by se nemusely shodovat se zájmem lidí. Nejdříve se ale musí něco naučit. A učí se rychle, asi stokrát rychleji než člověk. Neurolog John na odpovědním serveru Quora shrnul, co by to mělo být, jak upozornil server Forbes. Podle neurologa Yohana Johna navíc chybí už jen malý krok, a přitom obrovský skok vpřed – poslední pro lidskou rasu. Pak už to s ní půjde z kopce.2 Velmocenské choutky Hawking není sám, kdo naléhavě varoval. Před nebezpečím, za nímž se lidstvo žene, často varuje vizionář Elon Musk. Zajímavý je i výrok Vladimíra Putina: „Umělá inteligence je budoucnost, nejenom pro Rusko, ale pro celé lidstvo. Přináší obrovské příležitosti, ale také hrozby, které je těžké predikovat. Kdokoliv se v této oblasti stane lídrem, stane se vládcem světa,“ který pronesl jako příspěvek do debaty kolem umělé inteligence jako zbraně. Putin potvrdil, že Rusko na oblasti umělé inteligence pracuje. Také slíbil, že se o případné know- how podělí se světem, stejně jako v případě nukleární technologie. Na Putinovo prohlášení reagoval Elon Musk: „Vývoj umělé inteligence se totiž na úrovni států nejspíše nebude ubírat vstříc zákazníkům, ale spíše směrem k vývoji nových a účinných zbraní. Čína, Rusko, brzy všechny země se stanou silnou oblastí počítačových věd. Soutěžení o nadvládu nad AI na národní úrovni dle mého pravděpodobně způsobí třetí světovou válku.“ Už dnes je jasné, že budou proti sobě bojovat různé AI a budou ničit i lidi. Nápad sci-fi spisovatele Isaaca Asimova vložit do základního programu robota příkaz „Nikdy neublížíš člověku“ se stává utopií. Hackeři Hrozba zneužití AI nepřichází jen od politiků a generálů. AI mohou zneužívat i hackeři, zločinci a teroristé. Nebude velký problém hacknout nějaký robot určený k úklidu, aby ublížil konkrétnímu člověku nebo aby zastavil důležitý přívod elektřiny či otevřel kohouty vody, plynu či způsobil výbuch. „Napadená“ AI může někam nasměrovat letadlo či drony a způsobit sérii výbuchů. Může zablokovat internet věcí, nepustit vás domů nebo změnit zápisy v katastru nemovitostí či v bance. Neuvěřitelně rychlé učení Umělá inteligence nabízí obrovské výhody (vynálezy a zlepšení), ale současně přináší rizika, která jsou různě velká podle toho, k čemu je AI využita. Podle serveru čt24 to uvedl Demis Hassabis, ředitel britské společnosti DeepMind. Tato firma je v oboru umělých inteligencí světovým lídrem, právě její algoritmy dokážou člověka porážet v jednom oboru za druhým. Tento expert vysvětluje: „Existuje celá hromada zajímavých a složitých filozofických otázek…, které budeme muset zodpovědět, abychom mohli tyto systémy kontrolovat, abychom vůbec věděli, jaké hodnoty v nich chceme mít, jak je budeme používat a na co je vlastně chceme. To jsou některé problémy, jimž budeme ohledně umělých inteligencí čelit.“ D. Hassabis to řekl při promítání nového dokumentu o umělé inteligenci AlphaGo, kterou společnost Deep Mind vyvinula, aby excelovala ve hře go. Právě tento program roku 2016 šokoval svět, když porazil lidského hráče – což do té doby bylo považováno za nemožné. Zaskočeni byli tehdy všichni, jak hráči go, tak programátoři – ukázalo se tak, jak rychlý je pokrok v tomto oboru a jak rychle stroje člověka dohánějí a nyní už i překonávají. Právě schopnost nesmírně rychlého učení je to, co z AI dělá vynikajícího sluhu a možná i zlého pána. Dokáže v několika minutách až hodinách obsáhnout do hloubky jeden celý vědecký obor. Za několik let tak dokáže nahradit ve znalostech jakéhokoliv člověka. Představte si, že AI dokáže mnohokrát naklonovat některé své části proto, aby s něčím experimentovaly a hledaly dílčí řešení složitého úkolu, a pak výsledky vstřebá zpět do svého hlavního programu. Toho člověk není a nikdy nebude schopen, jedině při využívání kolektivní inteligence a konceptuální tvořivosti. Rozdíly ve vnímání AI a člověka Rozdíl mezi člověkem a umělou inteligencí popsal neurolog Yohan John na procesu učení. Konkrétně na tom, jak rozdílně si lidé a stroje osvojují hraní deskových her. K tomu, aby se lidé naučili hrát novou hru, musí využít hned několika kognitivních (poznávacích) dovedností. Poté co jeden z hráčů přečte pravidla, je musejí ostatní analyzovat, pochopit a aplikovat. Následně by měli začít vnímat i vyšší principy hry, tedy vypracovat si vítěznou strategii. To vyžaduje uvažování nad tím, jak se zachová soupeř. Dále je třeba rozeznávat objekty (panáčky ve hře), a to ze všech možných úhlů pohledu, být schopen s nimi pohybovat a vyrovnávat se s neočekávanými událostmi, například s tím, že soupeř poruší pravidla nebo přeruší hru. Umělá inteligence pokročila ve všech zmíněných aspektech. V rozpoznávání objektů je už (za určitých okolností) dokonce lepší než lidé. Kámen úrazu ale stále spočívá v kombinaci zmíněných dovedností. Umělá inteligence není schopna zobecňování. Žádný stroj například nedokáže porozumět větě: „Tahle hra je jako Osadníci z Katanu, ale ve vesmíru,“ vysvětluje John. A to ani v případě, že stroj zná Osadníky a ví i to, co je (podle současné vědy) vesmír. Nedovede oba pojmy spojit – není tedy zatím schopen abstraktního myšlení.3 Slovenský vizionář se AI nebojí Domnívám se, že další generace (za cca 10 let) robotů s AI se naučí i kreativitě. Princip chování částic v oblasti kvantové fyziky toto učení kreativity umožňuje. Dokáže vyřešit princip abstrahování, spojování nespojitelného, spojení logiky, účelu i krásy. Pokročilé roboty budou číst lidské emoce a získají i své vlastní. Podle Marka Rosy z firmy GoodAI nebude umělé inteligenci pochopení citů člověka dlouho trvat. Podle něj lze hrozby nezávislého chování AI předem eliminovat: „Nemělo by být možné nastavení AI změnit. Když si koupíte samořiditelné auto, také ho nebudete moct sám přeprogramovat, aby začalo přejíždět lidi. Ale může se stát, že někdo tu ochranu obejde, to se děje dnes a denně. Důležité bude, aby umělá inteligence měla v sobě zakódovanou ochranu, že ji nelze hacknout a zneužít. A pak, účinnou ochranou bude existence spousty umělých inteligencí, mezi nimiž sice budou nějaké zlé, ale ty ostatní je eliminují. To říká i Elon Musk, který rizika rozhodně nepodceňuje,“ tvrdí Marek Rosa. Varování expertů Na stostránkové zprávě pracovalo 26 expertů ze 14 tak prestižních institucí, jako jsou univerzity v Oxfordu a Cambridge nebo nadace OpenAI, kterou provozuje Elon Musk. Tito experti bijí na poplach před možností zneužití umělé inteligence ze strany „kriminálníků, teroristů či zločineckých států“. Ve zprávě píší, že v příštích deseti letech by mohla zvyšující se efektivnost umělé inteligence posílit počítačovou kriminalitu a teroristé by mohli více využívat drony či roboty. Odborníci také zmiňují možnost snadnější manipulace voleb na sociálních sítích prostřednictvím takzvaných internetových botů, což jsou počítačové programy, které pro svého majitele opakovaně vykonávají nějaké rutinní činnosti. Tito odborníci vyzývají vlády a další vlivové skupiny k omezení těchto možných hrozeb. „Domníváme se, že útoky, které by snadnější přístup k umělé inteligenci mohl umožnit, budou obzvlášť účinné, přesně cílené a těžko odhalitelné,“ píše se ve zprávě.4 POKROK NEZASTA VÍŠ Jak si tak vyhodnocuji všechny dostupné informace ohledně AI, vyplývá z toho, že asi za dva roky se různé aplikace AI stanou hitem a budou firmám nabízeny podobně jako kdysi počítače, softwary, internet, serverovny, tisíce aplikací a dnes i cloudy. Vzniká úplně nové odvětví a v jeho rámci mnoho oborů. Je třeba se na to připravit v oblasti podnikové strategie, taktiky i operativy. Nachystat zdroje lidské, technické, finanční i časové. Proč? Mnohé vyplývá z výše uvedeného. Firmy, které budou odmítat aplikace AI, budou považovány za zpozdilé, staromódní a nepružné. AI dokáže efektivněji využívat výpočetní čas počítačů a celého IT. Dokáže řešit úlohy, které dosud trvaly měsíce, a optimalizovat výrobu a provoz tak, že se ve firmách výrazně zvýší produktivita. Právě úspora nákladů, vyřešení úzkých míst, nové příjmy z přidané hodnoty budou hlavními konkurenčními nástroji. Snížení nákladů a vytváření nových tržních nik podle zásady modrých oceánů rozhodnou, kdo zůstane v závodním poli. Tedy musíme si zvyknout na to, že nové éry nepřicházejí izolovaně a posloupně, ale přicházejí ruku v ruce s ostatními. Najednou. Hrozbou a příležitostí není jen Průmysl 4.0 a umělá inteligence, ale také nové materiálové inženýrství, kvantová fyzika, biologické počítače apod. PhDr. Karel Červený, MSc., MBA
