Směrnice o odpovědnosti za umělou inteligenci - Otázky a odpovědi

Směrnice o odpovědnosti za umělou inteligenci doplňuje a modernizuje rámec EU pro občanskoprávní odpovědnost a poprvé zavádí pravidla specifická pro škody způsobené systémy umělé inteligence (UI).

Nová pravidla zajistí, aby oběti újmy způsobené technologií UI měly stejný přístup k nápravě, jako kdyby byly poškozeny za jakýchkoli jiných okolností. Směrnice zavádí dvě hlavní opatření: tzv. „domněnku příčinné souvislosti“, která oběti zbavuje povinnosti podrobně vysvětlit, jak byla škoda určitým zaviněním nebo opomenutím způsobena, a přístup k důkazům od společností nebo dodavatelů při nakládání s vysoce rizikovými systémy UI.

Proč potřebujeme novou směrnici?

Vzhledem k pokračujícímu technologickému pokroku musí být zavedeny záruky, které zajistí, aby spotřebitelé v EU profitovali z nejvyšších standardů ochrany, a to i v digitálním věku. Komise je odhodlána zajistit, aby průkopnické technologické inovace nikdy nebyly na úkor záruk pro občany. Na úrovni EU je zapotřebí harmonizovaný právní rámec, aby se zabránilo riziku právní roztříštěnosti při odstraňování mezer, které tento bezprecedentní technologický pokrok způsobuje.

Současná vnitrostátní pravidla odpovědnosti nejsou vhodná pro řešení nároků na náhradu škody způsobené produkty a službami založenými na UI. Při uplatňování nároku na základě subjektivní odpovědnosti musí oběť určit, koho má žalovat, a podrobně vysvětlit zavinění, škodu a příčinnou souvislost mezi nimi. To není vždy snadné, zejména pokud se jedná o umělou inteligenci. Systémy mohou být často složité, neprůhledné a autonomní, což poškozeným velmi ztěžuje, ne-li znemožňuje nesení tohoto důkazního břemene. Jednou z nejdůležitějších funkcí pravidel občanskoprávní odpovědnosti je zajistit, aby poškození mohli uplatnit nárok na náhradu škody. Pokud problémy spojené s umělou inteligencí příliš komplikují přístup k nápravě, neexistuje účinný přístup ke spravedlnosti. Zaručením účinného odškodnění přispívají tato pravidla k ochraně práva na účinnou právní ochranu a spravedlivý proces, jež jsou součástí Listiny základních práv EU.

Nová pravidla zajistí, aby měly všechny typy obětí (jednotlivci nebo podniky) spravedlivou šanci na odškodnění, pokud jsou poškozeny zaviněním nebo opomenutím poskytovatele, vývojáře nebo uživatele umělé inteligence. Kromě toho investice do důvěry a vytváření záruk v případě, že by došlo k potížím, představují investice do tohoto odvětví a přispívají k zavádění umělé inteligence v EU. Účinná pravidla o odpovědnosti rovněž prostřednictvím hospodářských pobídek motivují k dodržování bezpečnostních pravidel, a přispívají tak k předcházení škod.

Jak tato směrnice pomůže obětem?

Nová pravidla se vztahují na vnitrostátní nároky z odpovědnosti na základě zavinění nebo opomenutí jakékoli osoby (poskytovatelů, vývojářů, uživatelů) na náhradu veškerých škod, na něž se vztahují vnitrostátní právní předpisy (život, zdraví, majetek, soukromí atd.) a které se týkají všech typů obětí (jednotlivci, společnosti, organizace atd.).

Nová pravidla zavádějí dvě hlavní záruky:

Zaprvé směrnice o odpovědnosti za umělou inteligenci zmírňuje důkazní břemeno obětí zavedením „domněnky příčinné souvislosti“: pokud mohou oběti prokázat, že někdo nedodržel určitou povinnost, jež se vztahuje k újmě, a že existuje přiměřená pravděpodobnost příčinné souvislosti s výkonem umělé inteligence, může soud předpokládat, že tímto nedodržením byla způsobena škoda. Na druhé straně může odpovědná osoba tuto domněnku vyvrátit (například tím, že prokáže, že škoda vznikla z jiné příčiny).
Zadruhé pokud je způsobena škoda například proto, že provozovatel dronů dodávající balíky nedodržuje návod k použití nebo že poskytovatel při využívání náborových služeb založených na umělé inteligenci nedodržuje příslušné požadavky, nová směrnice o odpovědnosti za UI pomůže poškozeným získat přístup k příslušným důkazům. Poškození budou moci požádat soud, aby nařídil zpřístupnění informací o vysoce rizikových systémech UI. To poškozeným umožní identifikovat osobu, která by mohla být shledána odpovědnou, a zjistit, kde se stala chyba. Na druhou stranu se budou na zveřejnění vztahovat přiměřené záruky na ochranu citlivých informací, jako je obchodní tajemství.

Spolu s revidovanou směrnicí o odpovědnosti za vadné výrobky podpoří nová pravidla důvěru v umělou inteligenci tím, že zajistí, aby poškození byli účinně odškodňováni, pokud dojde k újmě navzdory preventivním požadavkům aktu o UI a dalších bezpečnostních předpisů.

Na jaký typ umělé inteligence se návrh vztahuje?

Směrnice se zaměřuje na poskytnutí stejné úrovně ochrany obětem poškozeným systémy UI, jako by byly poškozeny za jakýchkoli jiných okolností. Návrh o odpovědnosti za UI se tedy vztahuje na škody způsobené jakýmkoli typem systémů UI: jak vysoce rizikovými systémy, tak systémy, jež vysoce rizikové nejsou.

Jak nová pravidla přispějí k inovacím a rozvoji v oblasti umělé inteligence?

Návrh směrnice o odpovědnosti za UI vyvažuje zájmy obětí újmy související se systémy UI a zájmy podniků působících v tomto odvětví.

Za tímto účelem Komise zvolila nejméně intervenční nástroj (vyvratitelné domněnky) pro zmírnění důkazního břemene. Směrnice o odpovědnosti za UI nenavrhuje obrácení důkazního břemene, aby se zabránilo vystavení poskytovatelů, provozovatelů a uživatelů systémů UI vyššímu riziku odpovědnosti, což by mohlo omezovat inovace u produktů a služeb založených na UI.

Kromě toho návrh směrnice o odpovědnosti za UI tím, že zajišťuje, aby osoby poškozené umělou inteligencí požívaly stejné úrovně ochrany jako v případech, které nezahrnují systémy UI, přispívá k posílení důvěry veřejnosti v technologie UI, a podporuje tak zavádění a používání umělé inteligence v celé Unii.

Podniky budou moci lépe předvídat, jak budou stávající pravidla odpovědnosti uplatňována. Proto budou také v lepši pozici, pokud jde o posouzení a pojištění jejich odpovědnosti. To platí zejména pro podniky obchodující přes hranice, včetně malých a středních podniků, které patří v odvětví UI k nejaktivnějším.

Jaká je spojitost se směrnicí o odpovědnosti za vadné výrobky?

Revidovaná směrnice o odpovědnosti za výrobky modernizuje stávající režim upravující objektivní odpovědnost za výrobky na úrovni EU. Bude se vztahovat na nároky vůči výrobci za škody způsobené vadnými výrobky, materiální ztráty v důsledku úmrtí, škody na zdraví nebo majetku a ztráty údajů. Omezuje se na nároky soukromých osob.

Nová směrnice o odpovědnosti za umělou inteligenci provádí cílenou reformu vnitrostátních režimů v oblasti subjektivní odpovědnosti a bude se vztahovat na nároky vůči jakékoli osobě za zavinění, jež mělo vliv na systém UI, který způsobil škodu, dále pak na jakýkoli typ škody, na kterou se vztahují vnitrostátní právní předpisy (včetně škod vyplývajících z diskriminace nebo porušení základních práv, jako je soukromí), a na nároky vznesené jakoukoli fyzickou nebo právnickou osobou.

Pokud jde o zmírnění důkazního břemene, obě směrnice zavádějí podobné nástroje (právo na zpřístupnění důkazů, vyvratitelné domněnky) a používají podobné formulace k zajištění soudržnosti bez ohledu na zvolenou cestu k odškodnění.

Jaká je spojitost se aktem o umělé inteligenci?

Akt o UI a směrnice o odpovědnosti za UI jsou dvě strany téže mince: uplatňují se v různých okamžicích a vzájemně se posilují. Cílem pravidel zaměřených na bezpečnost je především snížit rizika a předcházet škodám, avšak tato rizika nikdy nebudou zcela odstraněna. Jsou zapotřebí ustanovení o odpovědnosti, která zajistí, aby v případě, kdy riziko vyústí v újmu, bylo odškodnění účinné a realistické. Zatímco cílem aktu o UI je předcházet škodám, směrnice o odpovědnosti za UI stanoví záchrannou síť pro odškodnění, pokud již ke škodě dojde.

Směrnice o odpovědnosti za UI používá stejné definice jako akt o UI, zachovává rozlišení mezi vysoce rizikovými systémy UI a systémy, jež vysoce rizikové nejsou, uznává požadavky na dokumentaci a transparentnost stanovené v aktu o UI tím, že je aplikuje z hlediska odpovědnosti prostřednictvím práva na zveřejňování informací, a motivuje poskytovatele/uživatele systémů UI k plnění jejich povinností podle aktu o UI. Směrnice se bude vztahovat na škody způsobené systémy UI bez ohledu na to, zda jsou podle aktu o UI vysoce rizikové, či nikoli.

Další informace

Návrh směrnice o přizpůsobení pravidel mimosmluvní občanskoprávní odpovědnosti umělé inteligenci

Tisková zpráva

Otázky a odpovědi: směrnice o odpovědnosti za vadné výrobky

Bílá kniha Komise o umělé inteligenci – evropský přístup k excelenci a důvěře

Zpráva Komise o dopadech umělé inteligence, internetu věcí a robotiky na bezpečnost a odpovědnost

Zpráva skupiny odborníků o odpovědnosti za umělou inteligenci a další nové digitální technologie

Srovnávací právní studie o občanskoprávní odpovědnosti za umělou inteligenci