Host:
Marek Novák, poslanec PSP ČR, předseda podvýboru pro ICT, AI, digitální ekonomiku a kryptoaktiva

Umělá inteligence s sebou přináší nové možnosti, ale také nové formy zneužití. Jednou z nejrychleji se šířících praktik je vytváření falešných intimních snímků pomocí AI nástrojů, které dokážou během několika sekund doslova „svléknout“ člověka na základě běžné fotografie. Ohrožené jsou ženy, děti i veřejně známé osobnosti. Technologie, která byla ještě nedávno doménou odborníků, je dnes snadno dostupná široké veřejnosti a bývá zneužívána bez vědomí a souhlasu obětí.

Nová forma sexuálního násilí

Digitální „svlékání“ je podle poslance a předsedy podvýboru pro ICT, AI, digitální ekonomiku a kryptoaktiva Marka Nováka závažný bezpečnostní a společenský problém, který společnost ani legislativa zatím nedokážou plně řešit. Zneužití umělé inteligence chápe jako zásah do soukromí i lidské důstojnosti – jde o novou formu sexuálního násilí bez fyzického kontaktu. „Je to sexualizace osoby bez její vůle. Zásah do soukromí, který může mít obrovské psychologické dopady,“ uvedl politik.

Technologie, kterou lze zneužít k takové formě digitálního násilí, je dnes rychle dostupná, levná a snadno použitelná. Vytvořit falešný intimní snímek nebo video je otázkou několika sekund a výsledek je často natolik realistický, že ho běžný uživatel nerozezná od skutečnosti. Novák upozornil, že pro oběť to znamená ztrátu kontroly nad vlastním obrazem i reputací. „Nezvratnost dopadu je obrovská. Jakmile se materiál dostane do online prostoru, šíří se dál a oběť ho jen těžko odstraní,“ dodal poslanec.

Digitální násilí má podle něj několik rovin – individuální, společenskou i bezpečnostní. Vedle psychických dopadů může sloužit také jako nástroj vydírání, politické manipulace či nátlaku. Tím se podle Nováka dostáváme na hranici ohrožení fungování demokratické společnosti jako celku. „Pokud je někdo vydíratelný kvůli falešnému materiálu, může to mít dopad nejen na něj, ale i na veřejné rozhodování,“ upozornil.

Digitální násilí proto není pouze otázkou individuálního soukromí, ale i širší bezpečnosti. Umělá inteligence podle něj již překročila bod, za kterým přestává být jen pomocníkem, a stává se potenciálním nástrojem manipulace a zneužití.

Jedním z klíčových faktorů je anonymita online prostředí. Ta podle Nováka zvyšuje ochotu pachatelů riskovat a zároveň komplikuje vyšetřování. „Lidé mají pocit, že si mohou dovolit víc, protože nejsou vidět. Ovšem i v digitálním prostředí je možné pachatele dohledat a tyto případy řešit,“ řekl poslanec.

I proto je důležité, aby oběti čin ohlásily policii, a to i přesto, že vyšetřování může být složité. Novák zdůraznil roli rodičů, škol a linek důvěry: „Musíme o tom mluvit a dát jasně najevo, že tohle není v pořádku a že jde o násilí.“ Děti a nejzranitelnější skupiny musí vědět, na koho se v případě nejistoty, nátlaku nebo dokonce vydírání mohou obrátit.

Legislativní mezery a role platforem

České právo podle Nováka obsahuje nástroje k ochraně osobnosti a k trestání některých forem digitálního zneužití, ale nové technologie vytvářejí situace, které nejsou jednoznačně definované. „Je na místě zvážit aktualizaci trestního zákoníku a lépe definovat trestnou činnost v digitálním prostředí,“ uvedl politik.

Za klíčovou považuje spolupráci s technologickými platformami. Ty by měly zavádět vlastní ochranné mechanismy a etické kodexy. Ideální je samoregulace, ale pokud nebude fungovat, může přijít na řadu regulace ze strany státu či EU.

Jedním z diskutovaných nástrojů je například povinné označování AI-generovaného obsahu vodoznakem. „Mnoha lidem se to nebude líbit, ale tyto případy nás nutí přemýšlet i tímto směrem,“ připustil Novák.

Řešení podle poslance spočívá v kombinaci legislativy, prevence a vzdělávání. Vedle možných úprav trestního práva zdůrazňuje potřebu systematické edukace dětí i rodičů o rizicích digitálního prostředí. „Musíme se s dětmi bavit o tom, co dělají online a jak se tam cítí. I krátká každodenní komunikace může odhalit problém včas,“ řekl Novák. Stát má podle něj poskytovat nástroje a podporu, ale nemůže nahradit roli rodiny. Důležité je také prostředí a šíření informací ze škol, médií a veřejných institucí.

Zákazy a restrikce by podle něj měly být až posledním krokem. „Zákaz je vždy krajní řešení. Lepší je kombinace odpovědnosti platforem, vzdělávání a cílené regulace,“ uzavřel Novák.