Smjernice za UI sustave visokog rizika

Što je ovaj dokument?

Smjernice za UI sustave visokog rizika (Guidelines on High-Risk AI Systems) službeni su dokument Europske komisije koji pojašnjava praktičnu primjenu članka 6. EU AI Acta (Uredba 2024/1689). Komisija je bila obvezna objaviti ove smjernice do 2. veljače 2026., a one uključuju sveobuhvatan popis praktičnih primjera uporabe UI sustava koji jesu i koji nisu visokog rizika.

Dokument je namijenjen dobavljačima (providers), korisnicima (subjekti koji uvode sustav) i svim drugim akterima u lancu vrijednosti UI sustava koji trebaju razumjeti spadaju li njihovi sustavi u kategoriju visokog rizika.

Ključne točke

Klasifikacija visokog rizika

EU AI Act definira dvije glavne kategorije UI sustava visokog rizika:

1. UI sustavi ugrađeni u regulirane proizvode (Annex I) — UI sustavi koji su sigurnosna komponenta proizvoda obuhvaćenih postojećim EU zakonodavstvom o harmonizaciji (npr. medicinski uređaji, strojevi, igračke, vozila). Za ove sustave primjenjuju se pravila od 2. kolovoza 2028. (izmijenjeno Uredbom (EU) 2026/1744; prije je bilo 2. kolovoza 2027.).

2. Samostalni UI sustavi visokog rizika (Annex III) — UI sustavi u osam područja primjene: biometrija, kritična infrastruktura, obrazovanje, zapošljavanje, pristup javnim uslugama, provedba zakona, upravljanje migracijama i pravosuđe. Za ove sustave pravila se primjenjuju od 2. prosinca 2027. (izmijenjeno Uredbom (EU) 2026/1744; prije je bilo 2. kolovoza 2026.).

Ključni zahtjevi za sustave visokog rizika

Članci 8.-15. AI Acta propisuju obvezne zahtjeve:

• Sustav upravljanja rizicima (čl. 9.) — kontinuirana identifikacija i ublažavanje rizika
• Upravljanje podacima (čl. 10.) — kvaliteta podataka za treniranje, validaciju i testiranje
• Tehnička dokumentacija (čl. 11.) — detaljna dokumentacija prije stavljanja na tržište
• Vođenje zapisa (čl. 12.) — automatsko bilježenje rada sustava (logovi)
• Transparentnost (čl. 13.) — upute za uporabu za korisnike
• Ljudski nadzor (čl. 14.) — mogućnost ljudske intervencije
• Točnost, robusnost i kibernetička sigurnost (čl. 15.)

Izuzeće od klasifikacije visokog rizika

Članak 6. stavak 3. predviđa da se UI sustav iz Annexa III ne smatra visokorizičnim ako ne predstavlja značajan rizik za zdravlje, sigurnost ili temeljna prava fizičkih osoba, uključujući situacije kada UI sustav ne utječe materijalno na ishod odlučivanja.

Kako se primjenjuje na organizacije?

Za dobavljače (providers)

Organizacije koje razvijaju UI sustave visokog rizika moraju:

• Uspostaviti sustav upravljanja kvalitetom (čl. 17.)
• Provesti ocjenu sukladnosti prije stavljanja na tržište (čl. 43.)
• Registrirati sustav u EU bazi podataka (čl. 49.)
• Uspostaviti sustav praćenja nakon stavljanja na tržište (čl. 72.)
• Prijavljivati ozbiljne incidente nadležnim tijelima (čl. 73.)

Za korisnike (subjekti koji uvode sustav)

Organizacije koje koriste UI sustave visokog rizika moraju:

• Osigurati uporabu u skladu s uputama (čl. 26.)
• Provoditi ljudski nadzor nad sustavom
• Osigurati da su ulazni podaci relevantni i reprezentativni
• Provoditi procjenu učinka na temeljna prava (čl. 27.) — za javna tijela i privatne subjekte koji pružaju javne usluge

Praktični koraci

1. Identificirajte sve UI sustave u organizaciji
2. Klasificirajte svaki sustav prema Annexu I i Annexu III
3. Procijenite primjenjuje li se izuzeće iz čl. 6. st. 3.
4. Implementirajte zahtjeve za sustave koji su klasificirani kao visokorizični
5. Dokumentirajte cijeli proces za potrebe revizije

Relevantni članci EU AI Acta

Članak	Tema
Čl. 6.	Pravila za klasifikaciju UI sustava visokog rizika
Čl. 8.-15.	Zahtjevi za sustave visokog rizika
Čl. 16.-17.	Obveze dobavljača sustava visokog rizika
Čl. 26.-27.	Obveze korisnika sustava visokog rizika
Čl. 43.	Ocjena sukladnosti
Čl. 49.	Registracija u EU bazi podataka
Annex I	Popis harmonizacijskog zakonodavstva EU
Annex III	Područja primjene UI sustava visokog rizika

Izvorni dokument

Službene smjernice Europske komisije dostupne su na: Supporting the implementation of the AI Act with clear guidelines

Dodatne informacije o klasifikaciji dostupne su na: Article 6 — Classification Rules for High-Risk AI Systems