Které praktiky AI jsou zakázané?

Článek 5 zakazuje mimo jiné:

  • škodlivé manipulativní a klamavé (podprahové) techniky ovlivňující chování;
  • zneužívání zranitelnosti osob (věk, zdravotní postižení, sociální situace);
  • sociální skórování osob vedoucí k neoprávněnému nebo nepřiměřenému znevýhodnění;
  • prediktivní policejní práci založenou výhradně na profilování osob;
  • necílené získávání (scraping) snímků obličejů z internetu nebo z kamer za účelem budování databází pro rozpoznávání obličejů;
  • rozpoznávání emocí na pracovišti a ve vzdělávacích institucích (mimo lékařské a bezpečnostní důvody);
  • biometrickou kategorizaci osob za účelem odvození citlivých údajů (např. rasa, politické názory, náboženství, sexuální orientace);
  • biometrickou identifikaci na dálku v reálném čase ve veřejně přístupných prostorách pro účely vymáhání práva (s úzce vymezenými výjimkami).
  • uvedení na trh, do provozu nebo používání systémů AI, které generují či manipulují realistický intimní materiál zobrazující identifikovatelnou osobu bez jejího svobodného, konkrétního, informovaného a výslovného souhlasu (čl. 5 odst. 1 písm. ba), a systémů AI generujících či manipulujících materiál představující pohlavní zneužívání dětí (čl. 5 odst. 1 písm. bb) – nové zákazy doplněné novelou Digital Omnibus; použijí se od 2. prosince 2026.
Rozsah těchto dvou zákazů vymezují nové odstavce 1a a 1b článku 5. U poskytovatelů je uvedení na trh nebo do provozu zakázáno pouze tehdy, je-li generování či manipulace takového materiálu zamýšleným účelem systému, nebo je-li to rozumně předvídatelný a reprodukovatelný výsledek, kterého lze dosáhnout bez významné technické úpravy, a systém současně nemá přiměřená technická bezpečnostní opatření, která by mu spolehlivě zabránila. U provozovatelů je použití zakázáno pouze tehdy, pokud systém k vytvoření takového materiálu skutečně použijí; náhodné vygenerování ani použití k legálním účelům pod zákaz nespadá. Samotnou technickou schopnost generovat obraz, video či zvuk tyto zákazy nezakazují.