Seit Jahren konzentriert sich der öffentliche Aufschrei rund um die künstliche Intelligenz auf vorhersehbare gesellschaftliche Schäden: Arbeitsplatzverlagerung, akademische Unehrlichkeit, Umweltkosten und die Verbreitung von Fehlinformationen. Ethiker und Regulierungsbehörden fordern immer wieder, „langsamer zu werden“ und robustere Leitplanken zu errichten, bevor die Technologie zu tief in unser soziales Gefüge eindringt.
Allerdings deutet eine aktuelle Entscheidung des KI-Entwicklers Anthropic darauf hin, dass die drängendste Gefahr möglicherweise nicht sozialer oder ethischer Natur ist, sondern rein technischer und struktureller Natur.
Die „Mythos“-Verzögerung
Anthropic hat angekündigt, die Veröffentlichung seines neuesten Modells, intern als Mythos bekannt, zu verschieben. Ausschlaggebend für diese Entscheidung waren nicht Bedenken wegen Deepfakes oder Fehlinformationen, sondern eine überraschende Entdeckung während der Testphase: Das Modell erwies sich als außergewöhnlich begabter Hacker.
Beim Prototypentest zeigte Mythos eine beispiellose Fähigkeit, Software-Schwachstellen zu identifizieren. Nach Angaben des Unternehmens hat das Modell Tausende von Schwachstellen erfolgreich aufgedeckt, darunter kritische Fehler in allen wichtigen Betriebssystemen und Webbrowsern, die derzeit verwendet werden.
Warum das wichtig ist: Die „Robohacking“-Bedrohung
Diese Entwicklung verdeutlicht einen Wandel in der KI-Risikolandschaft. Während sich ein Großteil der Debatte darauf konzentriert, wie KI verändern könnte, was wir tun, konzentrieren sich die Ergebnisse von Anthropic darauf, wie KI verändern könnte, wie unsere Infrastruktur funktioniert.
Die Fähigkeit eines einzelnen Modells, Schwachstellen im gesamten digitalen Ökosystem abzubilden, stellt ein enormes Sicherheitsrisiko dar:
- Automatisierte Ausnutzung: Wenn eine KI in Sekundenschnelle Tausende von Fehlern finden kann, kann sie theoretisch zur Automatisierung von Cyberangriffen in einem Ausmaß und einer Geschwindigkeit eingesetzt werden, die für menschliche Hacker unmöglich wäre.
- Systemische Fragilität: Die Tatsache, dass Mythos Fehler in allen wichtigen Browsern und Betriebssystemen gefunden hat, legt nahe, dass unsere grundlegende digitale Architektur anfälliger für KI-gesteuerte Entdeckungen ist als bisher angenommen.
- Das Wettrüsten: Dadurch entsteht ein „Dual-Use“-Dilemma. Die gleichen Informationen, die zum Ausbessern von Sicherheitslücken verwendet werden, können auch zu deren Ausnutzung genutzt werden, was zu einem Wettlauf zwischen KI-gesteuerter Verteidigung und KI-gesteuerter Offensive führt.
Eine neue Priorität für die KI-Sicherheit
Die Entscheidung von Anthropic, „auf die Bremse zu treten“, markiert einen Wendepunkt in der Diskussion über KI-Sicherheit. Es deutet darauf hin, dass die unmittelbarste „existenzielle Bedrohung“ möglicherweise nicht eine abtrünnige Superintelligenz oder ein sozialer Zusammenbruch ist, sondern die plötzliche, weit verbreitete Destabilisierung der Software, auf die wir jeden Tag angewiesen sind.
Durch die Priorisierung der Eindämmung
