NSFW AI generátor videí a deepfake legislativa: Kde přesně leží hranice mezi legálním použitím a trestným činem v EU a USA

NSFW AI generátor videí otevřel možnosti, které ještě před třemi lety patřily výhradně do oblasti pornografických produkčních studií. Dnes zvládne explicitní video clip vygenerovat kdokoli s přístupem k internetu a základní znalostí promptování. Právě tato dostupnost přitáhla pozornost zákonodárců, soudů i technologických regulátorů. Kde konkrétně leží hranice mezi legálním použitím a trestným činem a jak se tato hranice liší napříč jurisdikcemi?

Co deepfake je a kde začíná problém

Termín deepfake se v mediálním prostoru používá volně pro jakýkoli AI generovaný obsah zobrazující reálné osoby. Z právního hlediska je ovšem přesnější definice podstatná. Deepfake v právním smyslu označuje obsah, který věrohodně zobrazuje reálnou, identifikovatelnou osobu v situaci, k níž nedala souhlas, s cílem poškodit, uvést v omyl nebo sexuálně zneužít její podobiznu.

Čistě syntetický obsah bez vazby na reálnou osobu do této definice nespadá. AI video zobrazující fiktivní postavu, která není odvozena z konkrétního člověka, nepředstavuje deepfake v právním smyslu bez ohledu na explicitnost obsahu. Toto rozlišení je pro uživatele NSFW AI generátorů prakticky nejdůležitější.

Problém nastává ve třech konkrétních situacích: kdy uživatel nahraje fotografii reálné osoby jako referenci pro generování, kdy výsledné video osobu věrohodně připomíná i bez přímé reference, nebo kdy je video šířeno s tvrzením, že zachycuje reálnou osobu.

Jak to řeší legislativa v EU a USA

Právní rámec se v posledních dvou letech výrazně zpřísnil na obou stranách Atlantiku.

  • V Evropské unii vstoupil v platnost AI Act, který explicitně řeší syntetická média. Generování deepfake obsahu sexuální povahy bez souhlasu zobrazené osoby je klasifikováno jako porušení základních práv a podléhá sankcím. Zároveň EU Digital Services Act ukládá platformám povinnost rychle odstraňovat nahlášený deepfake obsah a zavést mechanismy pro jeho detekci.
  • Ve Spojených státech situaci komplikuje federální struktura. Na federální úrovni prošel v roce 2024 DEFIANCE Act, který zakládá civilní žalobní právo pro oběti sexuálních deepfake. Řada států přijala vlastní legislativu: Texas, Kalifornie a New York mají zákony kriminalizující šíření nekonsensuálních sexuálních deepfake s tresty odnětí svobody. Generování samo o sobě ovšem federálně trestné není – trestné je šíření s úmyslem poškodit.

Praktický výklad pro uživatele generátorů

Z pohledu běžného uživatele NSFW AI video generátoru to znamená konkrétní hranice:

  • Fiktivní postavy bez vazby na reálnou osobu – právně bezproblémové ve všech jurisdikcích za předpokladu, že nejsou zobrazeny jako nezletilé
  • Celebrity a veřejné osoby – generování explicitního obsahu je v EU porušením GDPR a práva na podobiznu, v USA závisí na státu, ovšem šíření je téměř všude postižitelné
  • Soukromé osoby – nejvyšší právní riziko, ve většině zemí EU jde o trestný čin bez ohledu na to, zda je obsah šířen
  • Historické nebo fiktivní verze reálných osob – šedá zóna, soudy dosud nevytvořily jednotnou judikaturu

Jak platformy reagují na legislativní tlak

Seriózní NSFW AI generátory videí reagují na zpřísňující se regulaci proaktivně, nikoli až pod tlakem. Technická opatření zavedená v posledních dvou letech zahrnují několik vrstev.

Detekční modely pro rozpoznávání tváří kontrolují, zda nahraný referenční obraz neodpovídá tváři v databázi veřejně známých osob. Tato ochrana není stoprocentní, ovšem výrazně zvyšuje technickou náročnost zneužití platformy. Vodoznaky a metadata vložená do každého vygenerovaného videa umožňují zpětné dohledání původu obsahu v případě právního sporu. Některé platformy přešly na systém C2PA (Coalition for Content Provenance and Authenticity), který kryptograficky potvrzuje AI původ videa.

Věková verifikace jako samostatná právní oblast

Generování explicitního obsahu zobrazujícího osoby mladší 18 let je trestné ve všech relevantních jurisdikcích bez výjimky a bez ohledu na to, zda jde o syntetický nebo reálný obsah. Tento bod není předmětem právní debaty.

Složitější otázkou je věkové ověření uživatelů samotných. Online Safety Act ve Spojeném království a připravovaná regulace v EU ukládají platformám nabízejícím explicitní obsah povinnost ověřovat věk uživatelů. Technické implementace se liší: část platforem využívá document verification, jiné pracují s age estimation na základě platebních dat. Žádná metoda není stoprocentní a debata o soukromí při věkové verifikaci zůstává otevřená.

Hranice existují, nejsou ovšem stejné všude

Právní situace kolem NSFW AI generátorů videí se ustálila v jednom klíčovém bodu: fiktivní obsah bez vazby na reálné osoby zůstává v drtivé většině jurisdikcí legální. Deepfake reálných osob bez jejich souhlasu naopak čelí stále přísnější regulaci s reálnými právními důsledky.

Myslíte si, že stávající legislativa deepfake obsah reguluje dostatečně přísně, nebo naopak zachází příliš daleko a omezuje i legitimní tvůrčí použití AI video nástrojů?

Jiřina Marešová
Latest posts by Jiřina Marešová (see all)
Share

Author

Jiřina Marešová

Fitness se věnuji intenzivně a v podstatě každý den. Nebylo tomu tak ale vždycky. Deset let zpátky jsem vážila o čtyřicet kilo víc a vyhýbala se zrcadlům, než jsem si řekla dost. Svůj příběh hubnutí den za dnem jsem tehdy mapovala ve svém osobním blogu a radost z psaní mi od té doby už zůstala.

All posts