Anthropic odmítá požadavky Pentagonu na neomezené využití své AI

Americká společnost Anthropic odmítla požadavek amerického ministerstva obrany, aby armáda mohla využívat její AI modely bez běžných omezení. Šéf firmy Dario Amodei uvedl, že takový přístup by byl v rozporu s hodnotami společnosti a mohl by umožnit aplikace, které podkopávají demokratické principy. Pentagon firmu varoval, že v případě nevyhovění může přijít o vládní kontrakty a být označena za riziko pro dodavatelský řetězec.

Americká společnost Anthropic, která se zabývá umělou inteligencí, neustoupí ve sporu americkým ministerstvem obrany ohledně způsobu využívání své technologie. V prohlášení to uvedl šéf podniku Dario Amodei. Ministr obrany Pete Hegseth dal firmě tento týden ultimátum, aby do dneška armádě umožnila používat své produkty bez omezení, která mají běžní uživatelé. V opačném případě start-up riskuje ztrátu vládní zakázky.

Amodei upozornil, že ministerstvo firmě zároveň pohrozilo, že ji v případě nevyhovění této žádosti označí za "riziko pro dodavatelský řetězec". To bylo podle něj dosud označení vyhrazené pro protivníky USA a nikdy předtím nebylo použito na americkou společnost.

"Bez ohledu na to, tyto hrozby nemění náš postoj: nemůžeme s čistým svědomím vyhovět jejich požadavku," uvedl Amodei. Dodal, že jeho společnost raději nebude s Pentagonem spolupracovat, než aby souhlasila s využitím své technologie způsobem, který může "spíše podkopávat než bránit demokratické hodnoty".

Amodei zmínil dvě výjimky, kdy podle Anthropiku použití AI může podkopávat demokratické hodnoty – masové sledování domácností a plně autonomní zbraňové systémy. "Pokud je nám známo, tyto dvě výjimky dosud nebyly překážkou pro urychlení přijetí a používání našich modelů ozbrojenými silami," uvedl.

"Je výsadou ministerstva, aby si vybralo dodavatele, kteří se nejvíce shodují s jeho vizí. Ale vzhledem k podstatné hodnotě, kterou technologie společnosti Anthropic poskytuje našim ozbrojeným silám, doufáme, že to ještě zváží," dodal Amodei.

Loni v létě firma získala smlouvu s ministerstvem obrany v hodnotě 200 milionů dolarů. Spor s administrativou prezidenta Donalda Trumpa trvá nejméně od podzimu. Klauzule, podle níž se technologie Anthropiku nesmí využívat ke sledování lidí, se mimo jiné dotýká Federálního úřadu pro vyšetřování (FBI), Tajné služby USA či imigračních úřadů, uvedl tehdy server Semafor.

Některé vládní agentury se dostaly do potíží, protože modely Claude od Anthropiku jsou v systému Amazon Web Services GovCloud využívaném americkými úřady jediné špičkové modely schválené pro použití v režimu přísně tajné.

Anthropic, který stojí za chatbotem Claude, má přitom zvláštní službu zaměřenou na zákazníky z národní bezpečnosti. S americkou vládou uzavřel kontrakt, podle něhož poskytuje služby federálním úřadům za symbolický poplatek jednoho dolaru.