Jaké jsou rizikové kategorie?

Nařízení rozlišuje čtyři úrovně rizika u systémů AI a navíc systémové riziko u obecných modelů:

  • Nepřijatelné riziko – zakázané praktiky (článek 5). Např. sociální skórování nebo rozpoznávání emocí na pracovišti a ve školách.
  • Vysoké riziko – systémy, které mohou významně ohrozit zdraví, bezpečnost nebo základní práva (článek 6 a přílohy I a III). Musí splnit přísné požadavky.
  • Riziko transparentnosti – např. chatboti a deepfakes; platí povinnost informovat uživatele a označovat AI obsah (článek 50).
  • Minimální / žádné riziko – naprostá většina systémů; bez zvláštních povinností (kromě průřezové AI gramotnosti podle článku 4), doporučeny jsou dobrovolné kodexy chování.
U obecných modelů AI (GPAI) se navíc posuzuje systémové riziko – u velmi schopných nebo velmi rozšířených modelů, které by mohly mít rozsáhlé dopady.