Pět největších hrozeb umělé inteligence

Když se mluví o umělé inteligenci, vybaví se mnohým scény vraždících strojů. Hollywoodské filmy nám vnuknuly strach z toho, že se umělá inteligence postaví proti člověku. Pro průmysl, který by letos mohl vygenerovat hodnotu více než bilionu dolarů, a skoro 4 biliony do roku 2022, mohou mít jakékoliv pochyby o etice vážné následky. Čím je umělá inteligence vyspělejší, tím více do ní firmy investují. A někteří se obávají toho, že nevěnujeme dostatek pozornosti širším sociálním a morálním důsledkům této technologie. Jaké jsou možné nejděsivější scénáře budoucnosti?

Masová nezaměstnanost

Analytici a pracovníci se běžně obávají pravděpodobnosti, s jakou povede umělá inteligence k masové globální nezaměstnanosti tím, jak se bude práce více automatizovat a lidské práce tak již nebude potřeba. „Ztráta zaměstnání je pravděpodobně tou největší obavou,“ řekl Alan Bundy, profesor na katedře informatiky na University of Edinburgh. „Lidé budou potřeba, aby vytvořili soubor úzce zaměřených aplikací a aby odhalili krajní případy, se kterými si žádná z nich nebude vědět rady, ale to nenahradí očekávanou masovou nezaměstnanost – alespoň ne na moc dlouho,“ dodal Bundy.

Přívrženci umělé inteligence jsou přesvědčení, že povede k vytvoření nového druhu pracovních míst. Bude větší poptávka po inženýrech, protože sofistikovanější technologie budou na svůj vývoj vyžadovat skutečný talent. Výzkumná firma Gartner předvídá, že do roku 2020 vytvoří umělá inteligence 2,3 milionu pracovních míst, a naopak jich odstraní 1,8 milionu. Jedná se tedy o čistý přírůstek půl milionu míst.

To ale nevylučuje fakt, že nedojde k propouštění po celém světě. Často zmiňovaná studie oxfordské univerzity z roku 2013 zdůrazňuje, že mezi povolání, která budou nejčastěji nahrazena, patří úředníci, pokladní, pojišťovací agenti a daňoví poradci.

Válka

Mnohé experty trápí příchod tzv. „zabijáckých robotů“ a dalšího využití umělé inteligence ve vojenství. Šéf Tesly, Elon Musk, známý svým svébytným postojem k umělé inteligenci, loni varoval, že umělá inteligence by mohla vyústit ve třetí světovou válku. Přestože jsou jeho názory považovány za přehnané, dokázal jimi vystrašit již několik odborníků.

Někteří analytici tvrdí, že vývoj smrtelných autonomních zbraní a využití umělé inteligence při vojenských rozhodnutích vytváří mnoho etických dilemat a otevírá možnost války. Dokonce existuje i skupina nevládních organizací, která se věnuje zákazu takových strojů. Kampaň Stop Killer Robots, která vznikla v roce 2013, vyzývá vlády, aby zabránily vývoji dronů a vozidel s umělou inteligencí.

Frank van Harmelen, vědec na Vrije Universiteit Amsterdam, řekl: „Jediná oblast, kde si skutečně myslím, že slovo „děsivý“ sedí, je systém autonomních zbraní… systémy, které by mohly i nemusely vypadat jako roboti. Jakýkoliv počítačový systém, ať už s umělou inteligencí, nebo bez ní, který automaticky rozhoduje o otázkách života a smrti (například vypouštění raketových střel), je opravdu děsivá představa.“

Americký obranný think-tank Rand Corporation letos ve své studii varoval, že využití umělé inteligence ve vojenství by mohlo do roku 2040 vést k jaderné válce. Za touto predikcí stojí myšlenka, že vojenské systémy s umělou inteligencí by v případě selhání při analýze situace mohly vést národy k tomu, aby provedly unáhlená a potenciálně katastrofická rozhodnutí. Tyto obavy se opírají i o nechvalně známý incident z roku 1983, kdy se Stanislavu Petrovovi podařilo zabránit jaderné válce tím, že si všiml, že ruské počítače nesprávně vydaly varování, že USA vyslaly jaderné střely.

Robodoktoři

I když se odborníci většinou shodují ohledně přínosů, které umělá inteligence bude pro doktory mít (jako včasná diagnostika onemocnění a zrychlení celkové zdravotnické praxe), někteří doktoři a vědci odrazují od unáhleného směřování lékařské praxe k té založené na datech. Jednou z jejich obav je, že lidé budou očekávat obecnou inteligenci, kterou mají lidé při řešení širokého spektra úkolů.

„Všechny aplikace s umělou inteligencí byly dodnes neuvěřitelně úspěšné, ale mají velmi úzké spektrum využití,“ vysvětlil Bundy z University of Edinburgh. Podle Bundyho by tato očekávání mohla mít vážné důsledky právě pro zdravotnictví. „Aplikace na lékařskou diagnózu, která je výborná na srdeční problémy, by mohla pacientovi se vzácnou srdeční vadou diagnostikovat rakovinu, a mít tak potenciálně fatální důsledky,“ řekl.

Další zdrojem obav je objem potřebných dat, jejich sdílení a způsob jejich zpracování, což má etické dopady na soukromí pacientů. Objem osobních informací, které mohou stroje sbírat, se nafoukl do nevídaných rozměrů. To, kolik dat se ukládá a kde se sdílí, může vyvolat značné kontroverze.

Masové sledování

Odborníci se také bojí, že by se umělá inteligence mohla použít na masové sledování. Zdá se, že v Číně se tyto obavy staly skutečností. V několika oblastech Číny se již používá kombinace rozpoznávání obličeje a umělé inteligence ke snížení kriminality.

Tato světová supervelmoc je proslulá svým sociálním autoritářstvím a kritici varují, že národní tlak na totální sledování není moc daleko od orwellovské noční můry. Podle zprávy publikované v New York Times je v Číně v současnosti asi 200 milionů kamer. Jako první země také rozjíždí systém „společenských kreditů“, který sleduje aktivitu občanů a na základě ní jim udělí skóre, které může určit, zda jim může být zakázán např. vstupu do letadla nebo využití online seznamky.

Diskriminace

Před dvěma lety Microsoft vyvinul chatovacího bota s umělou inteligencí jménem Tay. Bot dostal účet na Twitteru, ale po pouhých 16 hodinách jej musel Microsoft odstranit. Uživatelé Taye vytrénovali tak, aby vkládal urážlivé tweety podporující např. dominanci bílé rasy. Bot se totiž učil napodobováním uživatelů, kteří s ním konverzovali online.

Tento incident nicméně rozpoutal vážnou debatu o tom, že je možné, že umělá inteligence bude mít předsudky. Toby Walsh, profesor umělé inteligence na University of New South Wales, řekl, že diskriminace je jedním z „nenadálých důsledků“, které bychom od technologií nečekali. „Vidíme to v nezamýšlených vlivech v algoritmech, zejm. ve strojovém učení, z kterých by mohly vzejít rasové, sexuální a jiné předsudky, které jsme se v posledních více jak 50 letech snažili z naší společnosti odstranit,“ dodal Walsh.

Vědci např. zcela vážně zkoumají, proč funguje rozpoznávání obličejů lépe na bílých obličejích než na tmavé pleti, a proč systémy s umělou inteligencí na zpracovávání jazyka mohou vykazovat předsudky, co se týče genderových a rasových stereotypů. IBM dokonce najala výzkumníky, kteří se odstraňování diskriminace z umělé inteligence věnují.

Zdroj: CNBC