Nach einem hochkarätigen Streit zwischen Anthropic, einem führenden KI-Entwickler, und dem Verteidigungsministerium bereiten Gesetzgeber im US-Senat ein Gesetz vor, um den Einsatz künstlicher Intelligenz durch das Militär einzuschränken. Der Schritt zielt darauf ab, ethische Grenzen rund um autonome Waffen und Massenüberwachung zu kodifizieren und die menschliche Kontrolle bei Entscheidungen über Leben und Tod sicherzustellen. Dies geschah, nachdem die Trump-Regierung Anthropic auf die schwarze Liste gesetzt hatte, weil sie sich weigerte, den uneingeschränkten militärischen Einsatz seiner KI-Modelle zuzulassen. Eine Entscheidung, die Anthropic nun vor Gericht anfechtet.
Der Kern des Konflikts
Anthropic widersetzte sich öffentlich einem Pentagon-Deal, der den Einsatz seiner KI für völlig autonome Waffensysteme und eine umfassende inländische Überwachung ermöglicht hätte. Diese Haltung steht in krassem Gegensatz zu OpenAI, einem Konkurrenten, der den Bedingungen zugestimmt hat. Die anschließende schwarze Liste von Anthropic durch die Regierung hat zu rechtlichen Schritten und nun zu gesetzgeberischen Eingriffen geführt.
Das zugrunde liegende Problem ist die Kontrolle: Wer entscheidet, wann und wie KI in kritischen Anwendungen eingesetzt wird, insbesondere bei solchen, bei denen es um tödliche Gewalt oder die Massendatenerfassung geht? Ohne klare Regeln könnte die KI-Entwicklung den unkontrollierten militärischen Einsatz beschleunigen und ernsthafte Bedenken hinsichtlich der bürgerlichen Freiheiten hervorrufen.
Überparteiliche Bemühungen, Leitplanken zu setzen
Senator Adam Schiff (D-CA) leitet die Bemühungen, einen Gesetzentwurf auszuarbeiten, der gesetzliche Beschränkungen für militärische Anwendungen von KI durchsetzen würde. Er betonte die Notwendigkeit der Beteiligung des Menschen an jeder Entscheidung, die über Leben und Tod entscheidet, und erklärte: „Wir wollen diese Art von Verantwortung über Leben und Tod nicht an einen Algorithmus delegieren.“
Senatorin Elissa Slotkin (D-MI) hat bereits den AI Guardrails Act eingeführt, der das Verteidigungsministerium weiter daran hindern würde, KI zur Massenüberwachung von Amerikanern oder autonome tödliche Waffen ohne menschliche Aufsicht einzusetzen. Der Gesetzentwurf erlaubt Ausnahmen nur unter „außergewöhnlichen Umständen“, die eine Benachrichtigung des Kongresses erfordern.
Die Rolle der KI in der Kriegsführung: Ein heikles Gleichgewicht
Der Gesetzgeber betont zwar die menschliche Kontrolle, erkennt aber auch die potenziellen militärischen Vorteile der KI an. KI kann Informationen schneller verarbeiten als Menschen und bietet so einen taktischen Vorteil auf dem Schlachtfeld. Allerdings besteht nach wie vor ein erhebliches Fehlerrisiko, beispielsweise bei der Unterscheidung zwischen Zivilisten und Kombattanten.
Die Debatte konzentriert sich darauf, wie man die Geschwindigkeit und Effizienz der KI nutzen kann, ohne die Kontrolle über Entscheidungen über Leben und Tod aufzugeben. Die vorgeschlagene Gesetzgebung versucht, dieses Gleichgewicht herzustellen.
Politische Herausforderungen und nächste Schritte
Die Verabschiedung eines solchen Gesetzes wird angesichts des aktuellen politischen Klimas eine Herausforderung sein. Da die Demokraten über eine knappe Mehrheit verfügen, wird die Unterstützung beider Parteien von entscheidender Bedeutung sein. Auch der Zeitpunkt ist ungünstig, da die Zwischenwahlen näher rückten und die gesetzgeberische Dynamik nachließ. Der Gesetzgeber erwägt, den Gesetzentwurf dem National Defense Authorization Act (NDAA) beizufügen, um seine Chancen auf eine Verabschiedung zu erhöhen.
Trotz politischer Hürden glaubt Schiff, dass es eine breite öffentliche Unterstützung für KI-Einschränkungen gibt. Er erkennt den potenziellen Widerstand einiger Kollegen an, die den Gesetzentwurf möglicherweise als Kritik an der Regierung betrachten, bleibt jedoch optimistisch, was die Sicherung parteiübergreifender Unterstützung betrifft.
„In der Öffentlichkeit gibt es sicherlich parteiübergreifende Unterstützung für diese Art von Einschränkungen“, sagte Schiff.
Der Konflikt mit Anthropic hat Schwachstellen in der aktuellen KI-Governance aufgedeckt und die Bemühungen um rechtliche Schutzmaßnahmen beschleunigt. Ob der Kongress schnell handeln kann, um den unkontrollierten militärischen Einsatz von KI zu verhindern, bleibt abzuwarten, aber die Debatte unterstreicht die dringende Notwendigkeit ethischer Klarheit in diesem sich schnell entwickelnden Bereich.
