Vysokorizikové AI systémy podľa Aktu o umelej inteligencii - ako ich regulovať?

1.219 Vysokorizikové AI systémy podľa Aktu o umelej inteligencii – ako ich regulovať?

JUDr. Jakub Pavčík

Úvod

Európska únia sa stáva lídrom v regulácii umelej inteligencie prostredníctvom Aktu o umelej inteligencii (AI Act), ktorý zavádza rámec pre bezpečné a transparentné využívanie AI technológií. Jednou z kľúčových oblastí regulácie sú vysokorizikové AI systémy, ktoré môžu mať významný vplyv na základné práva, bezpečnosť a súkromie občanov. Tento článok sa venuje ich kategorizácii, právnym požiadavkám a opatreniam na ich riadenie.

Čo sú vysokorizikové AI systémy?

Akt o AI klasifikuje systémy podľa úrovne rizika a vysokorizikové systémy patria medzi najprísnejšie regulované. Patria sem AI aplikácie používané v:

• Kritických infraštruktúrach (napr. energetika, doprava), kde môžu ohroziť verejnú bezpečnosť.

• Vzdelávaní a zamestnávaní (napr. hodnotenie…