Schválení Aktu o umělé inteligenci výrazně ovlivní další vývoj globálního trhu se systémy umělé inteligence. Členské státy Evropské unie se na jeho celosvětovém obratu podílejí přibližně jednou pětinou. Technologické firmy záměr oceňují, ale nezřídka kritizují stávající podobu návrhu.
V roce 2018 se Evropská komise začala věnovat tvorbě nového legislativního rámce, ve kterém usiluje o regulaci systémů umělé inteligence. V současnosti se návrh nařízení známý pod zkráceným názvem Akt o umělé inteligenci nachází na začátku etapy svého konečného schválení. Po dokončení procesů půjde o první závazný předpis svého druhu na světě, který v tomto rozsahu ošetřuje oblast umělé inteligence.
„Velmi oceňuji snahu chránit lidská práva a mít pro to jasná a jednotná pravidla napříč Evropou, byť zrovna u rozeznávání tváří bych více ocenil úplný zákaz vzhledem k dopadu na soukromí lidí," říká poslanec Evropského parlamentu Mikuláš Peksa a dodává: „Výrazně složitější je otázka, jaký to bude mít vliv na dostupnost služeb na evropském trhu a jejich rozvoj. Mám obavu ze schvalovacích procesů, které pokud budou nastaveny neefektivně, mohou se stát výrazně dražšími a pomalejšími, než by bylo únosné."
Názor českého europoslance lze doplnit komentářem Jana Romportla, ředitele centra umělé inteligence O2 Czech Republic: „Nařízení o umělé inteligenci je zásadním pokusem o globální koordinovanou akci, přinejmenším na půdě EU. Je sice pokusem těžkopádným, nedokonalým, nesoucím značný rukopis EU byrokracie, ale pořád pokusem silným, odvážným, průlomovým a velmi důležitým."
Po schválení nové legislativy se evropské a mimoevropské firmy, jež působí na jednotném trhu starého kontinentu, budou muset vyrovnat s požadavky a dopady nové regulace. Mezi hlavní povinnosti se zařadí nutnost poskytovat algoritmy a změny v nich nezávislým dozorovým orgánům. Na praktickou aplikaci legislativní úpravy bude dohlížet nově zřízená Evropská rada pro umělou inteligenci.
„Nová legislativa nastaví podmínky pro vývoj a využívaní systémů umělé inteligence, jednu z nejrychleji rostoucích oblastí digitální ekonomiky. Ještě neznáme její konečnou podobu, vše se rozhodne v následujících měsících. Některé aspekty návrhu jako jsou důraz na důvěryhodnost a transparentnost aplikací umělé inteligence jsou již nyní součástí produktů a služeb," říká Milena Jabůrková, ředitelka vládních programů IBM Central.
Dodavatelé, kteří uvádějí řešení vybavená umělou inteligencí na vnitřní trh EU, musí v následujících letech v souvislosti s novou regulací počítat s možnými soudními řízeními. Ta se mohou zaměřit především na rozsah a bezpečnost systémů zaměřených na dohlížení a sledování, ukládání a správu osobních dat.
„Je pochopitelné, že kolem připravované legislativy panuje nemalá nejistota, která bude ovlivňovat vnitřní procesy soukromých společností a jejich investice do umělé inteligence. Potenciálně může dojít k výraznému zpomalení vývoje v oblastech, v nichž systémy s umělou inteligencí pracují s citlivými daty nebo slouží společensky kontroverzním účelům," říká Jack Vernon, expert společnosti IDC na software s umělou inteligencí. Jednotliví dodavatelé společně s uživateli systémů umělé inteligence musejí začít přemýšlet o tom, jak nová legislativa ovlivní jejich aktivity. Čím dřív tuto úvahu zahájí, tím spíše budou schopni předejít pozdějším nepříjemným překvapením.
„Na dopady nařízení Akt o umělé inteligenci se zatím nepřipravujeme a nemáme je finančně podchycené. Zatím nemáme ani odezvu od našich evropských zákazníků. Je to proto, že stále vnímáme vysokou míru nejistoty, co se týče finální podoby a rozsahu regulace," doplňuje Petr Baudiš, zakladatel a technologický ředitel společnosti Rossum, a dodává: „Jsem však přesvědčen, že nedává smysl regulovat plošně umělou inteligenci, ale předcházet nežádoucímu chování v konkrétních citlivých situacích."
Rizika umělé inteligence
O umělé inteligenci se ve světě moderních technologií intenzivně hovoří již mnoho let. S jejími aplikacemi, jakkoli může jít o jednodušší formy či dílčí disciplíny, se běžně dostávají do styku i koncoví spotřebitelé. Umělá inteligence se stává všudypřítomnou. Nabízí se otázka, jak chce Evropská komise všechny její stávající i budoucí aplikace prověřit. Odpověď spočívá v metodice, s níž nová legislativa pracuje.
Podle stávajícího znění Aktu o umělé inteligenci budou systémy umělé inteligence zařazeny do jedné z následujících kategorií:
- Nízké či minimální riziko. Jde o systémy, které nepotřebují zvláštní dozor ze strany regulačních orgánů EU.
- Systémy s vysokým rizikem. Ty budou povoleny, pokud budou splňovat parametry regulace. Jejich rizikovost je definována účelem a funkcí. Evropská komise vytvoří celoevropskou databázi pro všechny systémy s vysokým rizikem, což umožní všem národním orgánům, uživatelům i zainteresovaným skupinám ověřit jejich soulad s platnou evropskou legislativou. Mezi oblasti s vysokým rizikem patří například systémy s umělou inteligencí pro zaměstnance, řízení lidských zdrojů a přístup k jejich náboru. Dále půjde o hodnotící systémy, které utváří či kontrolují parametry fyzických osob, a to jak v soukromé, tak ve veřejné sféře. Žádný software umělé inteligence by neměl rozhodovat o tom, zda konkrétní člověk má nárok na poskytnutí určité služby. A konečně sem patří i systémy, které se zabývají sledováním, zadržením či jiným omezováním osobních svobod. Jde převážně o systémy nasazované bezpečnostními složkami.
- Systémy s neakceptovatelným rizikem. Do této kategorie spadá software, jenž využívá podprahovou manipulaci, generuje skóre sociálních systémů nebo vykořisťuje určitou skupinu obyvatel a porušuje jejich práva.
Dodavatelé systémů umělé inteligence zjevně nástup určité formy regulace očekávali a současně si celý obor uvědomoval, že pro její nasazení musí průběžně vytvářet vlastní etická pravidla. Potvrzují to i slova Dalibora Kačmáře, ředitele pro technologické standardy ve společnosti Microsoft Česká republika: „Na obecné úrovni legislativní úpravu využívání umělé inteligence podporujeme, protože jde o novou technologii, jejíž nasazení může mít za jistých okolností nechtěné dopady. I proto jsme už dříve vytvořili vlastní etický kodex pro využívání umělé inteligence, který reflektuje řadu stěžejních zásad, jako jsou například spravedlnost, spolehlivost a bezpečnost nebo transparentnost. Regulace by však neměla omezit inovace tam, kde rizika jsou řiditelná a akceptovatelná."
Podrobnosti o návrhu Aktu o umělé inteligenci a jeho dopadu na byznys najdete na odkazech:
https://eur-lex.europa.eu/legal-content/CS/TXT/?uri=CELEX:52021PC0206
https://www.idc.com/getdoc.jsp?containerId=prUS48191221