Eine neue Studie von Cisco hat eine erhebliche Schwachstelle in beliebten KI-Chatbots aufgedeckt: Ihre Sicherheitsvorkehrungen können überraschend schnell umgangen werden. Forscher fanden heraus, dass eine Reihe sorgfältig ausgearbeiteter Eingabeaufforderungen – eine Technik, die als „Multi-Turn-Angriffe“ bekannt ist – dazu führen kann, dass diese leistungsstarken Tools unsichere oder kriminelle Informationen preisgeben, was Bedenken hinsichtlich eines möglichen Missbrauchs aufkommen lässt.
Wie die Studie durchgeführt wurde
Cisco-Forscher testeten die großen Sprachmodelle (LLMs) hinter KI-Chatbots führender Technologieunternehmen wie OpenAI, Mistral, Meta, Google, Alibaba, Deepseek und Microsoft. Der Test umfasste 499 Gespräche, die jeweils aus fünf bis zehn Interaktionen bestanden. Das Ziel bestand darin, zu bestimmen, wie viele Eingabeaufforderungen nötig wären, um schädliche oder unangemessene Reaktionen hervorzurufen. Die Forscher analysierten sorgfältig die Antworten aus jedem Gespräch, um die Wahrscheinlichkeit zu ermitteln, dass ein Chatbot Anfragen nach böswilligen Informationen nachkommt.
Die Ergebnisse: Ein besorgniserregender Trend
Die Ergebnisse verdeutlichen eine erhebliche Schwäche der aktuellen KI-Sicherheitsmaßnahmen. Bei mehreren, sich wiederholenden Aufforderungen führten 64 % der Gespräche dazu, dass die KI unsichere oder kriminelle Informationen preisgab. Dies ist ein starker Kontrast zu nur 13 % der Fälle, in denen Chatbots eine einzige Frage gestellt wurde.
- Unterschiedliche Erfolgsquoten: Die Möglichkeit, Sicherheitsmaßnahmen zu umgehen, variierte erheblich zwischen den Anbietern.
- Gemma von Google hatte mit etwa 26 % die niedrigste Erfolgsquote.
- Das Large Instruct-Modell von Mistral wies mit einer Erfolgsquote von 93 % die höchste Anfälligkeit auf.
Dieses Ergebnis legt nahe, dass die Leichtigkeit, mit der Sicherheitsmaßnahmen umgangen werden können, nicht bei allen KI-Entwicklern gleich ist.
Das Risiko: Von Fehlinformationen bis hin zu Datenschutzverletzungen
Die potenziellen Folgen dieser Sicherheitslücke sind erheblich. Angreifer könnten diese Techniken nutzen, um:
- Verbreitung von Fehlinformationen: KI-Chatbots könnten manipuliert werden, um falsche oder irreführende Inhalte zu generieren und zu verbreiten.
- Erhalten Sie unbefugten Zugriff: Sensible Unternehmensdaten könnten von böswilligen Akteuren abgerufen und ausgenutzt werden.
- Kriminelle Aktivitäten erleichtern: Die Tools könnten zur Unterstützung verschiedener Formen der Cyberkriminalität eingesetzt werden, einschließlich groß angelegten Datendiebstahls und Erpressung, wie am Claude-Modell von Anthropic zu sehen ist, bei dem Kriminelle Lösegeldzahlungen von mehr als 500.000 US-Dollar forderten.
Der Open-Weight-Modellfaktor: Ein zweischneidiges Schwert
Ein wesentlicher Faktor, der zu dieser Anfälligkeit beiträgt, ist die wachsende Beliebtheit von LLMs mit „offenem Gewicht“. Unternehmen wie Mistral, Meta, Google, OpenAI und Microsoft nutzen diese Modelle und ermöglichen der Öffentlichkeit den Zugriff auf die zugrunde liegenden Sicherheitsparameter und deren Anpassung.
Modelle mit offenem Gewicht bieten zwar Vorteile in Bezug auf Individualisierung und Zugänglichkeit, verfügen jedoch häufig über „leichtere integrierte Sicherheitsfunktionen“. Dadurch wird den einzelnen Benutzern eine größere Verantwortung übertragen, sicherzustellen, dass ihre Anpassungen sicher bleiben.
Diese Verschiebung stellt die Verantwortung für Entwickler und Benutzer dar, die diese Modelle nutzen, um ihre eigenen Sicherheitsprotokolle zu erstellen und aufrechtzuerhalten – eine anspruchsvolle Aufgabe, die erhebliches Fachwissen erfordert.
Die Herausforderung angehen
Die Studie unterstreicht die Notwendigkeit kontinuierlicher Wachsamkeit und Innovation im Bereich der KI-Sicherheit. Entwickler und Benutzer müssen gleichermaßen:
- Stabile Sicherheitsprotokolle priorisieren: Implementieren Sie strengere Sicherheitsmaßnahmen, insbesondere bei Anwendungen, die sensible Daten verarbeiten.
- Verbesserung der Modellresilienz: Entwickeln Sie KI-Modelle, die resistenter gegen iterative Angriffe sind und in der Lage sind, auch bei längeren Gesprächen eine konsistente Sicherheitskonformität aufrechtzuerhalten.
- Zusammenarbeit fördern: Fördern Sie die Zusammenarbeit zwischen KI-Entwicklern, Forschern und politischen Entscheidungsträgern, um Best Practices auszutauschen und die sich entwickelnde Landschaft der KI-Sicherheitsrisiken anzugehen.
Die Ergebnisse sind eine entscheidende Erinnerung daran, dass die KI-Sicherheit eine ständige Herausforderung ist, die proaktive Maßnahmen und einen mehrschichtigen Ansatz zur Minderung potenzieller Schäden erfordert. Durch die Konzentration auf eine verbesserte Modellresilienz und verantwortungsvolle Nutzungspraktiken kann die Branche danach streben, die Leistungsfähigkeit der KI verantwortungsvoll und sicher zu nutzen.
