Zákonodárci v americkém Senátu připravují návrh zákona, který by omezil armádu ve využívání umělé inteligence, po vysoce sledovaném sporu mezi společností Anthropic, předním vývojářem AI, a ministerstvem obrany. Cílem tohoto kroku je upevnit etické hranice pro autonomní zbraně a hromadné sledování a zajistit lidskou kontrolu nad rozhodnutími o životě a smrti. Stalo se tak poté, co Trumpova administrativa zařadila Anthropic na černou listinu za to, že odmítla povolit neomezené vojenské použití svých modelů AI, což je rozhodnutí, které nyní Anthropic napadá u soudu.
Podstata konfliktu
Společnost Anthropic veřejně odmítla dohodu s Pentagonem, která by umožnila její AI použít pro plně autonomní zbraňové systémy a rozsáhlé domácí sledování. Tato pozice je v ostrém kontrastu s OpenAI, konkurentem, který s těmito podmínkami souhlasil. Následné zařazení Anthropic na černou listinu administrativy vyvolalo žaloby a nyní legislativní zásah.
Klíčovým problémem je kontrola: kdo rozhoduje, kdy a jak použít AI v kritických aplikacích, zejména těch, které zahrnují smrtící sílu nebo hromadné shromažďování dat? Bez jasných pravidel by vývoj AI mohl urychlit nekontrolované vojenské použití, což by vyvolalo vážné obavy o občanské svobody.
Oboustranné úsilí o stanovení limitů
Senátor Adam Schiff (D-CA) vede úsilí o vytvoření legislativy, která by právně zakotvila omezení vojenského použití AI. Zdůraznil potřebu lidského zapojení do jakéhokoli rozhodnutí o životě a smrti a řekl: “Nechceme delegovat tento druh odpovědnosti za život a smrt na algoritmus.”
Senátorka Elissa Slotkin (D-MI) již představila zákon o AI Guardrails Act, který by dále omezil ministerstvo obrany v používání AI pro hromadné sledování Američanů nebo autonomních smrtících zbraní bez lidského dohledu. Zákon povoluje výjimky pouze za „mimořádných okolností“, které vyžadují oznámení Kongresu.
Role AI ve válce: Křehká rovnováha
Zdůrazněním důležitosti lidského dohledu zákonodárci uznávají potenciální vojenské výhody AI. Umělá inteligence dokáže zpracovávat informace rychleji než lidé a poskytuje taktickou výhodu na bojišti. Riziko chyb – například rozlišování mezi civilisty a bojovníky – však zůstává značné.
Debata se soustředí na to, jak využít rychlost a efektivitu umělé inteligence, aniž byste se vzdali kontroly nad rozhodováním o životě a smrti. Navrhovaná legislativa se snaží dosáhnout této rovnováhy.
Politické výzvy a další kroky
Přijmout takovou legislativu bude obtížné vzhledem k současnému politickému klimatu. Vzhledem k těsné většině demokratů bude podpora obou stran kritická. Načasování je také nepříznivé, protože se blíží volby v polovině období a legislativní dynamika se zpomaluje. Zákonodárci zvažují připojení zákona k zákonu o povolení k národní obraně (NDAA), aby se zlepšily jeho šance na průchod.
Navzdory politickým překážkám se Schiff domnívá, že limity umělé inteligence mají širokou podporu veřejnosti. Uznává možný odpor některých kolegů, kteří mohou zákon považovat za kritiku administrativy, ale zůstává optimistický, pokud jde o zajištění podpory obou stran.
“Určitě existuje podpora obou stran pro taková omezení,” řekl Schiff.
Konflikt s Anthropic odhalil slabá místa v současném řízení AI a urychlil úsilí o implementaci právních záruk. Čas ukáže, zda Kongres rychle zasáhne, aby zabránil nekontrolovanému vojenskému použití umělé inteligence, ale debata podtrhuje naléhavou potřebu etické jasnosti v této rychle se vyvíjející oblasti.
