Zabrana iz čl. 5(1)(ba) i (bb) — nekonsenzualni intimni sadržaj i CSAM

Što je uvedeno

Uredba (EU) 2026/1744 umeće dvije nove točke u čl. 5. st. 1. AI Acta, iza postojeće točke (b):

• t. (ba) — stavljanje na tržište, stavljanje u upotrebu ili korištenje UI sustava koji generira ili manipulira realistične slike, videozapise, audio ili sličan materijal koji prikazuje intimne dijelove tijela odredive fizičke osobe, ili tu osobu u seksualno eksplicitnim radnjama, bez njezina dobrovoljnog, specifičnog, informiranog, nedvosmislenog i izričitog pristanka za to generiranje ili manipulaciju.

• t. (bb) — isto, za materijal ili prikaz u smislu čl. 2. t. (c) i (e) Direktive 2011/93/EU (materijal seksualnog zlostavljanja djece), osim kad se prema nacionalnom pravu primjenjuje obrana "bez prava".

Rok primjene: 2. prosinca 2026.

Zabrane ne vrijede odmah. Iako je Uredba 2026/1744 na snazi od 27. srpnja 2026., nove točke (ba) i (bb) primjenjuju se od 2. prosinca 2026., prema izmijenjenom čl. 113. st. 3. t. (a).

Opseg je uži nego što se na prvi pogled čini

Uz nove zabrane dodana su i dva stavka koja bitno sužavaju odgovornost — čl. 5(1a) i 5(1b), s istim datumom primjene. Bez njih se zabrana pogrešno čita kao opća zabrana generativnih modela.

Za dobavljače (čl. 5(1a) t. (a))

Dobavljač odgovara samo ako je ispunjen jedan od dva uvjeta:

1. generiranje ili manipulacija takvog materijala je namjena sustava, ili
2. dizajn, treniranje, arhitektura, sposobnosti ili funkcionalnosti dostupne korisniku čine takav ishod razumno predvidivim i ponovljivim, bez potrebe za znatnom tehničkom preinakom,

i istovremeno sustav nema razumne i primjerene tehničke zaštitne mjere koje pouzdano sprječavaju takav ishod te omogućuju ispravljanje uočene ili prijavljene zlouporabe.

Drugim riječima, postoji safe harbour: dobavljač koji je ugradio djelotvorne zaštitne mjere (filtriranje sadržaja, odbijanje takvih zahtjeva, čišćenje podataka za treniranje, mehanizam prijave i ispravljanja) nije obuhvaćen zabranom samo zato što je model teoretski sposoban proizvesti takav izlaz.

Za subjekte koji uvode sustav (čl. 5(1a) t. (b))

Subjekt koji uvodi sustav obuhvaćen je zabranom samo ako sustav koristi u svrhu generiranja ili manipulacije takvog materijala. Slučajno ili nenamjerno generiranje ne aktivira zabranu.

Što se ne smatra manipulacijom (čl. 5(1b))

Manipulacija koja ne povećava izloženost prikazanih intimnih dijelova tijela niti mijenja narav prikazanih seksualnih radnji ne smatra se manipulacijom u smislu točke (ba).

Recital 47 Uredbe izrijekom navodi da zabrana ne bi smjela spriječiti dobavljače da razvijaju tehničke sposobnosti kao takve.

Praktične implikacije

Ako razvijate generativne UI sustave za slike ili video

1. Procijenite je li takav ishod razumno predvidiv i ponovljiv bez znatne tehničke preinake vašeg sustava.
2. Implementirajte i dokumentirajte tehničke zaštitne mjere — safe harbour ovisi o njihovoj djelotvornosti, ne o njihovom postojanju na papiru.
3. Uspostavite mehanizam za prijavu i ispravljanje uočene zlouporabe; čl. 5(1a)(a) izrijekom traži i korektivnu komponentu, ne samo preventivnu.
4. Rok je 2. prosinca 2026.

Ako koristite UI sustave (subjekt koji uvodi sustav)

Zabrana vas pogađa samo ako sustav koristite u tu svrhu. Uobičajena poslovna uporaba generativnih alata nije obuhvaćena.

Kazne — nerazriješeno pitanje

Povrede čl. 5 spadaju u najvišu razinu kazni iz čl. 99. st. 3. AI Acta. Međutim, datum od kojeg se nove točke (ba) i (bb) mogu sankcionirati nije izrijekom određen: Poglavlje XII (kazne) primjenjuje se od 2. kolovoza 2025., a same zabrane tek od 2. prosinca 2026. Dostupne stručne analize navode različite iznose za ove konkretne točke i međusobno si proturječe.

Ne oslanjajte se na konkretan iznos kazne bez pravnog savjeta. Recital 51 dodatno napominje da države članice moraju poštovati načelo ne bis in idem kad je isto ponašanje sankcionirano i kaznenim pravom (Direktiva 2011/93/EU, Direktiva (EU) 2024/1385).

Ograničenja ovog pregleda

• Konsolidirani službeni tekst AI Acta s ugrađenim izmjenama još ne postoji; ovo je rekonstrukcija iz izvornih tekstova Službenog lista.
• Terminologija slijedi službeni hrvatski prijevod Uredbe (EU) 2024/1689 („UI sustav", „dobavljač", „subjekt koji uvodi sustav"). Citati odredaba prevedeni su iz engleske verzije Uredbe 2026/1744; hrvatska jezična verzija je objavljena i naslovljena „Digitalni omnibus o umjetnoj inteligenciji".

Povezani članci

• Smjernice o zabranjenim praksama AI — izvorne zabrane iz čl. 5
• Digital Omnibus on AI — Uredba (EU) 2026/1744 — pregled svih izmjena

Izvori

• Uredba (EU) 2026/1744 — Službeni list EU
• AI Act čl. 5 — Zabranjene prakse
• Direktiva 2011/93/EU