---

Umělá inteligence dokáže během několika sekund vytvořit falešný intimní snímek člověka, který s tím nikdy nesouhlasil. Stačí běžná fotografie z internetu, sociálních sítí nebo soukromé galerie. Evropská unie chce proti této praxi tvrději zasáhnout. Rada EU 29. června definitivně schválila novou regulaci, která upravuje část pravidel pro umělou inteligenci a současně přidává zákaz některých nejškodlivějších forem jejího zneužití. 

Nový zákaz míří na nahé snímky a sexuální deepfaky

Nejvýraznější změna se týká právě falešných intimních snímků. Nová pravidla mají zakázat AI systémy, které vytvářejí nahé snímky skutečných lidí nebo upravují existující fotografie tak, aby z nich odstraňovaly oblečení a odhalovaly intimní partie. Zákaz se má vztahovat i na materiály zobrazující sexuální zneužívání dětí. Podle Rady EU mají tato pravidla začít platit od prosince 2026. 

„Technologický pokrok musí vždy jít ruku v ruce s ochranou našich základních hodnot,“ uvedla Marilena Raouna, náměstkyně ministra pro evropské záležitosti Kyperské republiky. Reagovala právě na zákaz sexuálních deepfaků vytvořených nebo upravených pomocí umělé inteligence a na zákaz materiálů zobrazujících sexuální zneužívání dětí. 

foto: Nextnews.cz

Dopady na oběti nejsou virtuální

Téma se v posledních letech stalo jedním z nejcitlivějších problémů generativní AI. Falešné nahé snímky a sexuální deepfaky mohou vznikat bez vědomí oběti, šířit se na sociálních sítích, v uzavřených skupinách nebo přes anonymní platformy. Dopad přitom není virtuální. Pro oběti může znamenat psychickou újmu, vydírání, poškození pověsti i zásah do soukromého a profesního života.

Součást širší změny pravidel pro AI

Nová pravidla nejsou samostatným zákonem pouze o deepfacích. Jsou součástí širších změn v evropském AI Actu, tedy nařízení o umělé inteligenci. Rada EU uvádí, že schválená regulace má zjednodušit a zpřehlednit některé povinnosti v oblasti AI. Patří do balíčku označovaného jako Omnibus VII, jehož cílem je snížit administrativní zátěž a upravit provádění digitálních pravidel v EU. 

Firmy dostanou více času

Evropa tím zároveň reaguje na tlak firem, které upozorňují, že evropská digitální regulace je složitá a v některých oblastech se překrývá. Reuters připomněl, že dohoda počítá mimo jiné s odkladem pravidel pro vysoce rizikové AI systémy z 2. srpna 2026 na 2. prosince 2027. U některých systémů zabudovaných do výrobků má být termín ještě pozdější. 

To ale neznamená, že by Evropská unie od AI Actu ustupovala. Komise nadále popisuje evropský rámec jako pravidla založená na míře rizika. Nejtvrdší omezení se týkají zakázaných praktik, dále následují vysoce rizikové systémy, pravidla transparentnosti a aplikace s minimálním rizikem. U generativní AI Komise zdůrazňuje také povinnost, aby byl uměle vytvořený obsah rozpoznatelný. Zvlášť má být označován například deepfake obsah. 

AI obsah má být jasně označený

Právě označování AI obsahu je další důležitou částí změn. AI generované materiály mají být povinně označované od 2. prosince 2026. Cílem je, aby uživatelé poznali, kdy sledují nebo čtou obsah vytvořený či upravený umělou inteligencí. 

Nejen pravidla pro firmy, ale ochrana lidí

Evropská úprava tak spojuje dvě různé debaty. Na jedné straně má firmám dát více času na plnění složitých povinností. Na straně druhé zpřísňuje postoj vůči zneužití AI k tvorbě intimního obsahu bez souhlasu. Právě v tom je změna důležitá i pro běžné uživatele. Neřeší jen technologické firmy, dokumentaci a termíny, ale i situace, kdy se z obyčejné fotografie může stát nástroj vydírání nebo veřejného ponížení.

Výsledkem není konec zneužívání umělé inteligence ze dne na den. Evropská unie ale dává jasně najevo, že falešné nahé snímky skutečných lidí, sexuální deepfaky a AI nástroje určené k takovému zneužití nemají být běžnou součástí digitálního prostoru.

 

Zdroje: consilium.europa.eu, digital-strategy.ec.europa.eu

Anketa

Setkali jste se již se zneužitými fotkami modifikovanými pomocí AI na erotický obsah?

Ano Ne Hlasovat

AI umělá inteligence evropská unie AI Act kyber bezpečnost deepfake