Heureka, která v ČR spolupracuje s více než 50 000 e-shopy, upozornila na to, že nové povinnosti se mohou týkat i běžných internetových obchodů. „AI Act se netýká jen technologických firem nebo velkých korporací. Pokud provozujete e-shop s AI chatbotem pro zákaznickou podporu nebo používáte umělou inteligenci při tvorbě obsahu, měli byste si ověřit, jakou roli zastáváte a jaké povinnosti se na vás vztahují. Nejde přitom jen o to, zda AI používáte, ale také o to, zda přesně víte, kde a jak ji využíváte,“ uvedl vedoucí produktu a vývoje Heureky Stanislav Sopko. Společnostem, které nařízení poruší, přitom hrozí pokuty až do výše 15 milionů eur, tedy přes 360 milionů korun, nebo tří procent celosvětového obratu firmy. Mezi novinky s nejviditelnějším dopadem patří podle advokáta poradenské firmy Rödl Jaroslava Kuby jasné a včasné informování o tom, že zákazník či uživatel komunikuje prostřednictvím chatbotu či virtuálního nebo hlasového asistenta s umělou inteligencí. „Totéž platí pro AI agenty, kteří samostatně například rezervují, objednávají nebo vyřizují korespondenci. Podle čerstvých pokynů Evropské komise musí prozradit nejen, že jsou umělou inteligencí, ale i za koho jednají,“ dodal Kuba. „Tohle nejsou okrajové situace, ale každodenní scénáře pro velkou část e-shopů. Firmy, které budou mít problém, nebudou nutně ty, které znaly rizika, rozhodly se je podstoupit, a třeba nakonec i chybovaly. Budou to především firmy, které předpokládaly, že je vše v pořádku, aniž by si to ověřily,“ dodala advokátka eLegal Karolína Houžvičková. Neorganický obsah musí bžt označený Jasně označený musí být i jakýkoli umělou inteligencí vytvořený či upravený obsah, tedy třeba obraz, zvuk či video, připomínající reálné osoby a události, to znamená tzv. deepfakes. Takové výstupy musí navíc být opatřeny strojově čitelným označením. Dohled nad plněním AI Actu bude na evropské i národní úrovni. V Česku má být hlavním a obecným dozorovým orgánem Český telekomunikační úřad, který bude zároveň fungovat jako jednotné kontaktní místo. V oblastech, kde již existuje specializovaný dohled, se však zapojí také další instituce, zejména Česká národní banka nebo Úřad pro ochranu osobních údajů. Podle ředitele České asociace AI Lukáše Benzla je pro praxi klíčové nepokládat si otázku, zda to vytvořila AI, ale správná otázka zní spíš, kdo AI systém používá, v jaké roli, jaký obsah vzniká, komu je určen a jaké riziko omylu nebo klamání může vyvolat. „Transparentnost podle AI Actu tedy není o mechanickém lepení ikon. Je o tom, aby člověk v rozhodujících situacích věděl, že jedná s AI nebo že sleduje obsah, který může působit jako realita, ale realitou není. Dobře nastavená transparentnost proto nemá AI brzdit. Má pomoci udržet důvěru tam, kde se hranice mezi lidskou komunikací, syntetickým obsahem a realitou začíná rozostřovat,“ uzavřel. Na nedostatečnou orientaci firem v umělé inteligenci upozorňují také data Eurostatu. Pro téměř 54 procent podniků, které zavedení AI zvažovaly, představovala překážku nejasnost právních důsledků a 53 procent mělo obavy z možného porušení pravidel ochrany osobních údajů a soukromí.