Evropský parlament nedávno schválil zákon o umělé inteligenci. Jde o první komplexní zákon na světě regulující umělou inteligenci. Členské státy mají dva roky na to, aby tato pravidla převedly do vnitrostátního práva. Samotný text je však obtížně srozumitelný. Co přesně pokrývá? Jaká použití jsou zakázána? A proč jsou technologické společnosti nervózní?
S AI komunikujeme každý den. Filtruje spam. Píše emaily. Vytváří seznamy skladeb, které skutečně odpovídají vaší náladě. Generativní nástroje jako ChatGPT, DALL-E a Stable Diffusion již nejsou futuristickými koncepty. Pevně se usadili v soukromém i pracovním životě.
AI však zůstává černou skříňkou. Vývojáři často přesně nevědí, co se děje uvnitř digitálního mozku jejich výtvorů. Proč systémy halucinují? Proč dělají diskriminační prohlášení? Odpovědi jsou neúplné. Navzdory širokému používání neexistoval žádný rozsáhlý právní rámec. Tato mezera ztěžovala zadržování škodlivého použití. V tomto vakuu vzkvétaly deepfakes, podvodní roboti a porušování soukromí.
Čtyři kategorie regulace AI ve tvaru rizika
Zákon o AI řeší tento problém klasifikací AI do čtyř úrovní rizika. Klasifikace určuje přísnost regulace.
Aplikace s minimálním nebo žádným rizikem nečelí novým překážkám. Patří mezi ně e-mailové filtry nevyžádané pošty nebo videohry, které využívají AI ke generování dialogu postav. Můžete je bez obav používat i nadále.
Omezené riziko vyžaduje transparentnost
AI interaguje přímo s lidmi s omezeným rizikem. Zvažte chatboty jako ChatGPT. Tyto systémy jsou ze zákona povinny jasně odhalit, že nejsou lidské. Uživatelé by si neměli myslet, že komunikují s lidskou bytostí. Cíl je jednoduchý: zabránit náhodnému podvádění.
Vysoce riziková AI podléhá mnohem větší kontrole. Tyto systémy mají dopad na kritickou infrastrukturu, zdravotnictví nebo soudní systém. Špatné rozhodnutí zde může stát životy nebo živobytí.
Zákon o AI vyžaduje lidský dohled nad všemi vysoce rizikovými aplikacemi. Člověk musí mít poslední slovo. Tyto systémy musí také splňovat vysoké standardy transparentnosti a bezpečnosti. Testovací datové sady a protokoly musí splňovat přísné požadavky. Interní systém řízení rizik je povinný. Evropská komise odhaduje, že do této kategorie bude spadat pouze 5 až 15 procent všech aplikací umělé inteligence.
Zákaz nevhodné umělé inteligence
Umělá inteligence, která je považována za „nepřijatelnou“, představuje hrozbu pro základní práva. Tyto aplikace jsou zcela zakázány. Zákon se zaměřuje na technologie, které jsou v rozporu s evropskými hodnotami.
Nepřijatelná použití zahrnují:
– Identifikace pomocí biometrických údajů v reálném čase na dálku na veřejných místech, s výjimkou úzkého okruhu případů pro orgány činné v trestním řízení.
– Systémy, které hodnotí emoce na pracovišti.
– Mechanismy sociálního hodnocení používané vládami k hodnocení občanů.
Čína používá sociální žebříčky ke sledování chování. „Správné“ chování vám může zajistit místo na univerzitě nebo schválení půjčky. EU tuto logiku zcela odmítá. Rozpoznávání obličeje na veřejných místech zůstává za určitých odůvodněných podmínek omezeno na bezpečnostní služby.
Nedodržení bude mít za následek vysoké sankce. Společnosti používající zakázané technologie by mohly čelit pokutě až 35 milionů eur nebo 7 procent jejich celosvětového ročního obratu. Jiná porušení mohou mít za následek pokuty ve výši 15 milionů eur nebo 3 procenta z příjmů. Sázky jsou vysoké.
Regulace jako konkurenční strategie
Digitální odborníci jsou ve svých názorech rozděleni. Někteří vítají zákon o umělé inteligenci jako historický, dlouho opožděný krok. Bez pravidel, tvrdí, se důvěra v AI zhroutí.
Jiní to považují za konkurenční výhodu. Evropské technologické společnosti jsou obezřetné vůči regulační zátěži. Ve srovnání s konkurencí v USA nebo Číně mohou být evropské společnosti méně flexibilní. Přísnější pravidla mohou potlačit kreativitu a rychlost. Argumentem je, že přísný dohled činí inovace pomalejší a dražší.
Anita Klingelová, expertka na umělou inteligenci, nesouhlasí. Příležitost vidí v omezeních.
“Vidím obrovskou příležitost. Nevyhrajeme závod o hrubou rychlost a vysoký výkon. To můžete získat od Elona Muska. Ale v EU získáte důkladná, čistá a spolehlivá řešení.”
EU sází na to, že bezpečnost a etika budou její silné stránky. Otázkou zůstává: odmění globální trh spolehlivost před hrubou rychlostí? Ukáže dvouleté období realizace. V tuto chvíli platí zákon. Členské státy se musí přizpůsobit.
