I. panel: MODERNÍ TECHNOLOGIE, MOŽNOSTI UMĚLÉ INTELIGENCE, DEEPFAKE VE VZTAHU K DEZINFORMACÍM A SVOBODĚ PROJEVU

Patrik Nacher, poslanec, Poslanecká sněmovna
Jaroslav Plesl, šéfredaktor, Mladá fronta DNES
Jan Macháček, předseda správní rady, Institut pro politiku a společnost
Daniel Vávra, předseda správní rady, Společnost na obranu svobody projevu

S nástupem umělé inteligence je někdy těžké rozeznat, co je realita a co je uměle vytvořené. Na jedné straně nabízí tyto technologie velkou příležitost pro rychlejší tvorbu digitálního obsahu a firmy, média nebo soukromí uživatelé už to taky dělají. Na druhou stranu umělá inteligence dopomáhá k tvorbě například deepfake videí a dalších kyberpodvodů. Je na pořadu dne, aby státy zasáhly a přišly s nějakou regulací? A bude vůbec účinná? Nebo svobodu slova budeme hájit za každou cenu? Kolik nás to ale bude stát? Jak veřejnost přesvědčit, aby byla obezřetnější a informace si sama ověřovala? I to jsou otázky, které padly na první debatě. Provázel jí Jan Hořeňovský z Institutu H21.

Svoboda projevu je základní právo každého člověka a není v zájmu nikoho ho omezovat. Deepfake videa jsou tu s námi každý den a rozeznat je od pravdivých, je prakticky nemožné. Tak by se daly shrnout základní myšlenky první diskuze. Podle Daniela Vávry, předsedy správní rady Společnosti na obranu svobody projevu, se to dá shrnout jednoduše: „Je to velmi snadné, zabránit se tomu nedá a možné je všechno. To nemá jednoduché řešení.“ Manipulace s obrazem začala už dávno a už za minulého režimu si lidé mohli všimnout, jak z fotografií mizí Stalinovi spolupracovníci. Připomněli řečníci nedávnou historii. Teď podle Vávry stačí, aby měl člověk na svém počítači nainstalovaný program na úpravu fotek a může si s obrazem manipulovat, jak chce. K tomu připojil poslanec Patrik Nacher vlastní zkušenost: „Nechci, aby moje fotky procházely přes photoshop. Tam už dochází k nějaké úpravě (technické a grafické) pro tisk, jasně, ale ne žádné změny. Aby tam nedocházelo k extrémnímu výkyvu mezi tím, jak člověk vypadá ve skutečnosti a jak vypadá na billboardu, protože chce, aby ho lidi poznávali, protože proto v té politice je“.
Stejně mluvil Vávra taky o umělé inteligenci. I k těmto programům má podle něj přístup každý a stejně snadno může vytvářet deepfake videa. „Každý, kdo je trochu schopnější, si může vytvořit velmi dobrou umělou inteligenci u sebe na počítači. Stačí, když si ji natrénuje na vlastních datech, tak s ní pak může dělat velké věci. A klidně to může být i nějaký člověk doma ve sklepě,“ dovysvětlil Vávra.

A jestli má smysl umělou inteligenci a vytváření a šíření deepfake videí regulovat? Podle řečníků je na to těžké odpověď, a to s ohledem práva na svobodu projevu. „Podle mě je nejdůležitější, abychom hájili svobodu slova, a to tak, že absolutně. A nejde jenom o ty technologické záležitosti, ale taky o to, co si kdo říká jen tak ústy a nebyl za to posílán do vězení, pokutován nebo něco podobného. To si myslím, že je zcela zásadní věc bez ohledu na to, v jaké fázi technologického vývoje se nacházíme,“ řekl šéfredaktor Mladé fronty DNES Jaroslav Plesl. V podobném duchu mluvil i předseda správní rady Institutu pro politiku a společnost Jan Macháček, který uvedl, že například Spojené státy ze své podstaty k nějakým regulacím obsahu zřejmě nepřistoupí. Evropská unie na druhou stranu je podle něj mistrem v regulacích. „Podstatou té regulace má být, klíčovým bodem, že ten, kdo šíří produkty umělé inteligence, bude povinen upozornit konzumenta, že toto je produkt umělé inteligence. Ale asi to nepůjde, já jsem tady skeptik,“ dodal Macháček. A například Vávra upozornil na to, že to dost dobře regulovat ani nejde. Jednak proto, že teď a asi ani v blízké budoucnosti nebude existovat software, který by deepfake videa dokázal bezpečně rozpoznat a také proto, že možnosti umělé inteligence jsou běžně dostupné pro každého občana bez rozdílu.

Umělá inteligence ale neznamená pouze deepfake videa nebo kybernetické podvody. Firmy ji využívají k mnoha užitečným věcem. Plesl jako příklad uvedl přepis hlasových záznamů nebo překlady či rychlé zpracování obrázků pro internet. „Je ještě možné, že dalším krokem bude generování ilustračních obrázků, to si umíme představit, které budou označené jako výtvor umělé inteligence. Dál jsme se nedostali,“ doplnil. Co bude následovat, nikdo neví. „Během deseti patnácti let nás čekají nepředstavitelné změny, nic nebude stejné jako dnes. A to tak, že hodně jiné to bude. To je nevyhnutelné. Nikdo nedokáže předpovědět co bude, protože je to tak obrovská změna, že se naprosto nedá předvídat, co se stane,“ uzavřel diskuzi Vávra.

II. panel: VEŘEJNÁ MOC A DEZINFORMACE

Vojtěch Bahenský, analytik; předseda správní rady, Asociace pro mezinárodní otázky
Oldřich Kužílek, poradce pro otevřenost veřejné správy a ochranu soukromí, Otevřená společnost
Adam Růžička, ředitel, Institut H21
Štěpán Hobza, komentátor, Lidové noviny

Vlády po celém světě musí čelit problému dezinformací. Hlavním úkolem zřejmě je dezinformaci definovat a legislativně podchytit. Kde ovšem leží hranice mezi nebezpečnou lží a svobodou projevu? I v Česku jsme svědky toho, jak soudy potrestaly aktivisty například za šíření poplašné zprávy nebo za genocidní či nenávistná prohlášení. Jsou dezinformační weby něco, na co má každý uživatel právo, nebo už jde o překročení červené linie? I na to odpovídali panelisté ve druhé debatě. Otázky kladla Frederika Klčová z Institutu pro politiku a společnost.

„Máme právo na lež,“ řekl hned v úvodu debaty Oldřich Kužílek, poradce pro otevřenost veřejné správy a ochranu soukromí z Otevřené společnosti. Je ale třeba někde uvnitř hledat hranice a kde přesně leží, to je podle něj na společnosti, aby si je našla. Ve světle toho se také nesla celá debata. Řečníci na jedné straně hájili svobodu projevu, hned ale dodávali, že nelze publikovat nebo prohlašovat informace, které škodí, pomlouvají či vyvolávají paniku. Ostatně tak o tom také hovoří česká legislativa.

Samotné slovo dezinformace je podle diskutujících zavádějící a nikdo přesně neví, co se za ním schovává. „Často směšujeme dezinformace zahraniční nebo vlivové kampaně cizích států, což z bezpečnostního hlediska je nějaký problém. Můžeme se bavit o tom jak velký. Směšujeme dezinformace domácí – tedy záměrné lži a manipulace šířené domácími aktéry, směšujeme to s misinformacemi, že lidé často říkají věcí, které nejsou pravda, nicméně tomu sami věří. A to celé směšujeme s něčím, a to je podle mě nejdůležitější proces za tím, a to je celková proměna informačního a mediálního prostředí, která započala s vzestupem internetu a sociálních sítí,“ vysvětlil předseda správní tady Asociace pro mezinárodní otázky a analytik Vojtěch Bahenský. Každý má někde jinde nastavený práh, který mu říká, co už je urážlivé a co ještě ne, poznamenal komentátor Lidových novin Štěpán Hobza. Na vysvětlenou uvedl, že každá kulturní společnost a její členové se nějak chovají a vytvářejí své vlastní prostředí. A když se nějaká myšlenka zabydlí ve společnosti, je jen otázkou času, kdy se nakonec dostane i do legislativního procesu.

Jak se ve světě dezinformací chová stát? Nyní už méně poplašně než před čtyřmi nebo třemi lety, když se ve společnosti začaly dezinformace objevovat ve velké míře. Byla to doba pandemie covidu-19 a následně pak válka na Ukrajině a ruská propaganda. Ředitel Institutu H21 Adam Růžička v této souvislosti poukázal na to, že z legislativních návrhů například vymizela snaha o zablokování internetových stránek. S návrhem na zavedení nového trestního činu, a sice úmyslného šíření dezinformací, se nijak nepokročilo a podle něj ani nepokročí. „Jsme se vzdali těch tvrdých nástrojů a uplatňujeme ty nástroje měkké, a to je o dost méně nebezpečné,“ dodal Růžička. „Pokud by mělo dojít k nějakým opatřením ze strany státu,“ uvedl Bahenský, „je potřeba, aby na nich spolupracovaly všechny strany napříč politickým spektrem.“ A jestli by někdy mohlo dojít k přípravám takového procesu (tedy veřejné diskuze), tak je to právě teď, když stát nečelí žádné krizi. Kužílek ovšem upozorňoval, že taková debata bude vždycky vyhrocená a polarizovaná. „Když by se ten proces dal do pohybu, bude to podrobeno obrovskému útoku, že je to pokus o cenuru, uvedl.

Na závěr debaty zaznělo od více řečníků, že víc než legislativní opatření a zásahy státu by bylo třeba pracovat se společností. Lidé by se měli vzdělávat v oblasti mediální výchovy, sami by se měli orientovat v obsahu, a nakonec by si měli sami vytvářet závěry.

III. panel: ROLE MÉDIÍ V BOJI S DEZINFORMACEMI

Veselin Vačkov, ředitel, Lidové noviny
Pavel Štrunc, kreativní ředitel vydavatelství SPM Media, bývalý ředitel zpravodajství CNN Prima News
Pavel Matocha, místopředseda, Rada České televize
Alexander Tomský, politolog, překladatel, publicista

Jaká je role médií v boji proti dezinformacím? Jsou to právě televize, noviny, zpravodajské servery a další kanály, které nesou za šíření dezinformací zodpovědnost? A měly by vést boj proti šíření nepravd? I to byly otázky, na které se pokusili odpověď řečníci ve třetí panelové diskuzi. Co to vůbec je dezinformace, zeptala se na úvod moderátorka Irena Krcháková.

Dezinformace nemá svoji zákonnou definici a každý si ji může vykládat po svém. A je dezinformace z pohledu novináře? Například bývalý ředitel zpravodajství CNN Prima NEWS a kreativní ředitel vydavatelství SPM Media Pavel Štrunc se nebál použít slovo lež. Jde podle něj o úmyslné šíření nepravdy za nějakým účelem. „Problém ale nastává v okamžiku, kdy tomu ten člověk skutečně věří,“ dodal Štrunc. Alexandr Tomský, politolog, překladatel a publicista poznamenal, že dezinformace lze rozklíčovat například jako válečnou propagandu. A tu lze podle něj poměrně snadno rozpoznat. Problém ale nastává v okamžiku, kdy je ideologie mírnější a skrytá. Svoboda slova, upozorňoval Tomský, není absolutní: „Existují určitá ohraničení nebo by aspoň měla, zejména pokud jde o způsobení újmy nějaké osobě, a nejen to, nenávistné a genocidní projevy a izralofobii můžeme sledovat po celém světě, šíření nenávisti. Ale je tu problém, kdo to má kontrolovat, kdo to má určit, jakým způsobem a kde vůbec je ta hranice? A tady nemám jasno.“

Mají to být média, která povedou boj proti dezinformacím? Řečníci se shodli na tom, že od toho tu zpravodajské a jiné kanály nejsou. Hlavním úkolem médií je informovat, poukazoval ředitel Lidových novin Veselin Vačkov. „Informování je jeden z hlavních nástrojů, jak se některým těm neblahým problémům kolem dezinformací vyhnout nebo jak jim čelit,“ dodal. Místopředseda Rady České televize Pavel Matocha to ještě rozšířil: „Úkolem médií je poskytovat svým čtenářům informace a názory. O relevanci těch informací a názorů rozhodují čtenáři, rozhodují svojí peněženkou a případně pozorností, kterou danému médiu věnují.“ Štrunc k tomu dodal, že úkolem médií by mělo být pravdu odhalit: „Je bezpochyby úkolem médií, když někdo lže, tak toho člověka konfrontovat nebo ho na tu lež upozornit. Tak je to správně. Na druhou stanu v některých ohledech ten boj s dezinformacemi nabral až takovou prazvláštní atmosféru, kde řada médií hraje roli těch, kteří vynášejí soudy nad těmi ostatními.“

A jak pravdu odhalit nebo jinak – jak odhalit dezinformaci? „Pokud zaměstnávají inteligentní lidi, kteří to okamžitě poznají. Ono to není vůbec obtížné tenhle problém rozpoznat,“ uvedl Tomský. Vačkov, Štrunc i Matocha s tím sice souhlasí – média by skutečně měla zaměstnávat, učit a vychovávat kvalitní novináře, kteří dokáží dezinformaci rozpoznat. V tomto ohledu ale upozorňují na jeden zásadní problém – a tím jsou peníze. Kvalitní redakce je drahá. Například Vačkov mluvil o rozpadu tržního ekosystému v médiích a vinu podle něj nesou nadnárodní platformy. „Nadnárodní platformy dneska inkasují největší část příjmů z digitální reklamy a dělají to tak, že zdaleka nenesou v takové míře odpovědnost za obsah, který šíří. Protože odpovědnost, to jsou náklady,“ dodal na vysvětlenou Vačkov. A pokud už kvalitní člověk v redakci sedí, pak samozřejmě podle řečníků ověřuje informace. Matocha to vysvětluje tak, že nezáleží na veřejnoprávním nebo soukromém kanálu, každé médium přistupuje ke zpravodajství zodpovědně a vydává pouze fakta ověřená ze dvou nezávislých zdrojů.

Nakonec v otázce, jestli to má být stát nebo média, kdo povede boj proti dezinformacím, se diskutující shodnou. Stát má podle nich zajistit podmínky pro svobodné šíření ověřených informací.