Sicherheitsverletzung bei DeepSeek deckt KI-Schwachstellen auf und löst Cyberangriffe aus

Chinas neueste generative KI, DeepSeek, ist seit ihrer Einführung Gegenstand intensiver Cybersicherheitsprüfungen. Sicherheitsforscher haben kürzlich einen System-Jailbreak aufgedeckt, der die Funktionsweise des Modells offenlegte. In der Zwischenzeit war DeepSeek auch Wellen von DDoS-Angriffen ausgesetzt, die es dazu zwangen, die Registrierung neuer Benutzer einzuschränken. Diese Vorfälle verdeutlichen sowohl die Sicherheitsrisiken von KI-Modellen als auch die zunehmende Raffinesse von Cyberangriffen auf KI-Dienste.

Jailbreak des DeepSeek-Systems: Was Forscher herausgefunden haben

Kurz nach dem Debüt von DeepSeek entdeckten Forscher des API-Sicherheitsunternehmens Wallarm eine Jailbreak-Sicherheitslücke, die die vollständige Systemaufforderung des KI-Modells offenlegte. Diese Art von Sicherheitslücke ist besonders besorgniserregend, da die Systemaufforderung einer KI ihr Verhalten, ihre Antwortbeschränkungen und ihre Richtlinien zur Inhaltsmoderation bestimmt. Die meisten KI-Entwickler, darunter OpenAI mit ChatGPT, ergreifen strenge Maßnahmen, um solche Lecks zu verhindern.

Wallarm gab in einem Blogbeitrag vom 1. Februar an, dass seine Jailbreak-Methode eine voreingenommene KI-Antwortlogik ausnutze, obwohl das Unternehmen aufgrund seiner Richtlinien zur verantwortungsvollen Offenlegung spezifische technische Details zurückhielt. DeepSeek wurde über das Problem informiert und hat seitdem einen Fix bereitgestellt. Wallarm veröffentlichte jedoch den vollständigen Systemaufforderungstext, sodass Sicherheitsexperten das Betriebsframework von DeepSeek analysieren konnten.

Diese Enthüllung löste Diskussionen über Folgendes aus:

• KI-Datenschutzmaßnahmen und wie effektiv DeepSeek Benutzerdaten schützt.
• Mögliche Verzerrungen beim Training von DeepSeek, insbesondere angesichts der Behauptungen, dass möglicherweise OpenAI-Daten für das Training verwendet wurden.
• Regulatorische Einschränkungen könnten die Funktionsweise des KI-Modells beeinflussen, insbesondere in China, wo KI-Inhalte streng kontrolliert werden.

Um den möglichen Einfluss von OpenAI zu untersuchen, verglich Wallarm die Systemaufforderung von DeepSeek mit der von ChatGPT. Laut der Analyse von ChatGPT entsprechen die Antworten von DeepSeek strengeren Compliance-Maßnahmen, während der Ansatz von OpenAI flexibler und benutzerzentrierter ist.

DDoS-Angriffe auf DeepSeek: Ein koordinierter Cyberangriff

Mit zunehmender Popularität wurde DeepSeek zum Ziel groß angelegter Distributed-Denial-of-Service-Angriffe (DDoS). Das Unternehmen gab bekannt, dass es aufgrund der überwältigenden Anzahl von Angriffen neue Benutzerregistrierungen blockieren müsse.

Laut NSFocus, einem Cybersicherheitsunternehmen, das die Angriffe überwacht, war DeepSeek am 25., 26. und 27. Januar drei großen Wellen von DDoS-Angriffen ausgesetzt, die auf seine API-Schnittstelle abzielten. Jeder Angriff dauerte etwa 35 Minuten und beeinträchtigte die DeepSeek-Plattform erheblich. Bis zum 28. Januar war die API-Schnittstelle aufgrund anhaltender Störungen immer noch nicht verfügbar.

Auch das Chatsystem von DeepSeek wurde angegriffen. Am 20. und 25. Januar wurden DDoS-Angriffe beobachtet, die jeweils etwa eine Stunde dauerten.

DDoS-Angriffsmethoden

NSFocus hat mehrere reflexionsbasierte Angriffstechniken identifiziert, darunter:

• NTP-Reflection-Angriffe – Ausnutzen von Network Time Protocol (NTP)-Servern zur Verstärkung des Angriffsverkehrs.
• Memcached-Reflection-Angriffe – Verwendung falsch konfigurierter Memcached-Server, um DeepSeek mit massivem Datenverkehr zu überfluten.
• SSDP-Reflexionsangriffe : Zielen auf Simple Service Discovery Protocol (SSDP)-Dienste, um die Netzwerkressourcen zu überlasten.
• CLDAP-Reflexionsangriffe – Nutzung verbindungsloser Lightweight Directory Access Protocol (CLDAP)-Server zur Erhöhung des Angriffsvolumens.

Ein hoch koordinierter Angriff

Am 28. Januar berichtete DeepSeek, dass die Angreifer ihre Methoden als Reaktion auf die Abwehrmaßnahmen des Unternehmens anpassten. Aufgrund der Präzision und Koordination dieser Angriffe kam NSFocus zu dem Schluss, dass es sich bei den Tätern nicht um zufällig ausgewählte Hacker, sondern um ein professionelles, gut organisiertes Team handelte.

„Der Angreifer zeigt bei jedem Angriffsschritt ein äußerst hohes Maß an Professionalität, von der Auswahl der Ziele bis hin zum Timing der Angriffe und der Kontrolle der Intensität“, erklärte NSFocus.

Zu den wichtigsten Angriffsquellen zählten der Analyse des Cybersicherheitsunternehmens zufolge Systeme aus den USA, Großbritannien und Australien.

Was das für die KI-Sicherheit bedeutet

Die DeepSeek-Vorfälle heben die wachsenden Cybersicherheitsrisiken bei generativer KI hervor. Von Jailbreak-Schwachstellen bis hin zu gezielten Cyberangriffen sind KI-Dienste heute sowohl für Sicherheitsforscher als auch für böswillige Akteure ein Hauptziel.

Wichtige Erkenntnisse:

1. KI-Jailbreaks bleiben eine Sicherheitsherausforderung – selbst neuere KI-Modelle wie DeepSeek können durch Reverse Engineering ihre interne Logik offenlegen.
2. DDoS-Angriffe auf KI-Plattformen nehmen zu – Mit der zunehmenden Popularität von KI-Diensten werden sie zu Zielen zunehmend koordinierter Cyberangriffe.
3. Die KI-Sicherheit muss sich rasch weiterentwickeln – Entwickler müssen robuste Schutzmaßnahmen implementieren, um unmittelbare Lecks zu verhindern und sich gegen Cyber-Bedrohungen zu verteidigen.

Da KI weiterhin die digitale Landschaft prägt, müssen Cybersicherheitsteams immer einen Schritt voraus sein, um sicherzustellen, dass KI-Modelle sicher und widerstandsfähig gegen neue Bedrohungen bleiben.