Das in China ansässige Unternehmen DeepSeek AI schränkt aufgrund von Cyberangriffen und wachsenden Sicherheitsbedenken Neuanmeldungen ein

Das chinesische KI-Startup DeepSeek hat in der Welt der künstlichen Intelligenz schnell an Bedeutung gewonnen, doch mit seiner steigenden Popularität gehen auch wachsende Herausforderungen einher. Das Unternehmen hat kürzlich die Registrierung neuer Benutzer aufgrund dessen, was es als groß angelegte böswillige Angriffe auf seine Dienste bezeichnet, eingeschränkt. Während bestehende Benutzer weiterhin auf die Plattform zugreifen können, wurden Neuanmeldungen vorübergehend eingeschränkt.

Die Situation unterstreicht die zunehmenden Sicherheitsbedrohungen, denen KI-Plattformen ausgesetzt sind, und gibt Anlass zur Sorge über die umfassenderen Auswirkungen auf die KI-Sicherheit, den Datenschutz und die geopolitischen Spannungen rund um chinesische Technologieunternehmen.

Cyberangriffe zielen auf DeepSeek ab

DeepSeek hat keine Einzelheiten zur Natur dieser Angriffe bekannt gegeben, aber Cybersicherheitsexperten gehen davon aus, dass es sich um eine Mischung aus Distributed-Denial-of-Service-Angriffen (DDoS), System-Prompt-Extraktionen und Jailbreak-Versuchen handeln könnte, die darauf abzielen, Inhaltsbeschränkungen zu umgehen oder das Verhalten künstlicher Intelligenz zu manipulieren.

Laut Stuart Millar, dem leitenden KI-Ingenieur bei Rapid7, könnten Angreifer DeepSeeks Antworten auf sensible Fragen testen, versuchen, Systemaufforderungen zu extrahieren oder die Funktionsweise der KI zu ändern. Eine erfolgreiche Extraktion von Systemaufforderungen könnte proprietäre Anweisungen offenlegen und möglicherweise die Schwachstellen der KI für weitere Ausnutzung offenlegen.

Der Cybersicherheitsforscher Erich Kron von KnowBe4 wies darauf hin, dass solche Angriffe verschiedene Motive haben könnten:

• Erpressung – Angreifer könnten Lösegeldzahlungen im Austausch für die Beendigung von Störungen verlangen.
• Unternehmenssabotage – Wettbewerber könnten versuchen, den Ruf und die Marktposition von DeepSeek zu schwächen.
• Investitionsschutz – Unternehmen, die in konkurrierende KI-Projekte investiert haben, könnten DeepSeek als Bedrohung betrachten und versuchen, es zu untergraben.

Der kometenhafte Aufstieg von DeepSeek in der KI-Welt

DeepSeek wurde 2023 gegründet und hat sich schnell als einer der Hauptkonkurrenten im KI-Rennen positioniert. Die Modelle des Unternehmens, darunter DeepSeek-V3, haben Schlagzeilen gemacht, weil sie mit westlichen KI-Modellen wie GPT von OpenAI und LLaMA von Meta konkurrieren und diese sogar übertreffen können, während sie zu einem Bruchteil der Kosten trainiert werden.

Die iOS-Chatbot-App schoss kürzlich schlagartig an die Spitze der kostenlosen App-Charts von Apple in den USA und Großbritannien und übertraf in der Popularität sogar OpenAIs ChatGPT.

Ein wesentlicher Faktor hinter DeepSeeks Erfolg ist seine Effizienz. Das Unternehmen behauptet, dass sein DeepSeek-V3-Modell im Vergleich zu seinen Pendants aus dem Silicon Valley deutlich weniger GPU-Stunden benötigt. Da US-Sanktionen den Verkauf fortschrittlicher KI-Chips an chinesische Unternehmen einschränken, ist diese Effizienz zu einem entscheidenden Wettbewerbsvorteil geworden.

Trotz dieser technologischen Durchbrüche bleibt DeepSeek aufgrund seiner Zensurpolitik und der potenziellen Risiken für die nationale Sicherheit, die mit seinen Datenspeicherpraktiken verbunden sind, umstritten.

Sicherheitsmängel und Datenschutzbedenken

DeepSeek war in der Vergangenheit mit Sicherheitslücken konfrontiert, darunter einem Prompt-Injection-Exploit, der vom Sicherheitsforscher Johann Rehberger entdeckt wurde. Dieser Fehler hätte es Angreifern ermöglichen können, Benutzerkonten mithilfe einer Cross-Site-Scripting-Nutzlast (XSS) zu übernehmen, die in KI-generierte Antworten eingebettet ist.

Darüber hinaus stellte ein aktueller Bedrohungsinformationsbericht von Kela fest, dass die KI-Modelle von DeepSeek anfällig für Jailbreak-Angriffe sind, die es ihnen ermöglichen, unethische und illegale Inhalte zu generieren, darunter:

• Ransomware-Codegenerierung
• Erfindung von Desinformationen
• Schritt-für-Schritt-Anleitungen zur Herstellung von Sprengstoffen und Giften
• Anweisungen zur Malware-Entwicklung

Diese Erkenntnisse geben Anlass zu ernsthaften ethischen Bedenken hinsichtlich des möglichen Missbrauchs der KI, wenn sie nicht ausreichend geschützt ist.

Darüber hinaus geht aus der Datenschutzrichtlinie von DeepSeek hervor, dass Benutzerdaten – einschließlich Geräteinformationen, Netzwerkdetails und Zahlungsdaten – auf Servern in China gespeichert werden. Dies hat in westlichen Ländern, insbesondere in den Vereinigten Staaten, Bedenken ausgelöst, wo die US-Marine ihrem Personal kürzlich geraten hat, DeepSeek aufgrund potenzieller Sicherheits- und ethischer Risiken nicht zu verwenden.

Auch die italienische Datenschutzbehörde hat eine Untersuchung eingeleitet und verlangt von DeepSeek, klarzustellen, wie es Benutzerdaten sammelt, speichert und verarbeitet. Das Unternehmen hat 20 Tage Zeit, um auf Fragen zu Datenquellen, rechtlichen Begründungen für die Verarbeitung und dazu zu antworten, ob das Training des KI-Modells Datenscraping beinhaltet.

Eine neue KI-Rivalität inmitten geopolitischer Spannungen

Das Auftauchen von DeepSeek verleiht dem globalen KI-Wettlauf eine neue Dimension, insbesondere angesichts der wachsenden Spannungen zwischen den USA und China im Technologiebereich. Die KI-Community hat davon Notiz genommen. OpenAI-CEO Sam Altman bezeichnete DeepSeeks Denkmodell als „beeindruckend“ und erkannte es als legitimen Konkurrenten an.

Interessanterweise bemerkte Jim Fan von NVIDIA, dass DeepSeek „die ursprüngliche Mission von OpenAI am Leben erhält“, indem es sich auf offene Forschung und breite Zugänglichkeit konzentriert – eine Aussage, die OpenAIs jüngste Hinwendung zu Closed-Source-Modellen subtil kritisiert.

China verteidigt unterdessen seine Haltung zu Technologieregulierungen und behauptet, dass es globalen KI-Unternehmen erlaubt, zu operieren, solange sie die lokalen Gesetze einhalten. Es bestehen jedoch weiterhin Bedenken darüber, wie chinesische KI-Unternehmen durch staatliche Vorschriften, Zensurpolitik und nationale Sicherheitsrichtlinien beeinflusst werden könnten.

Ein entscheidender Moment für die KI-Sicherheit

Der Aufstieg von DeepSeek zeigt, dass China große Fortschritte bei der Entwicklung von KI macht, unterstreicht aber auch die wachsenden Herausforderungen im Bereich der Cybersicherheit, denen KI-Unternehmen gegenüberstehen. Ob bösartige Cyberangriffe, Datenschutzbedenken oder geopolitische Kontrolle – DeepSeeks Entwicklung unterstreicht das komplexe Zusammenspiel zwischen KI-Innovation, Sicherheit und Weltpolitik.

Für Benutzer sind diese Ereignisse eine Erinnerung daran, bei KI-Plattformen, die sensible Daten verarbeiten, vorsichtig zu sein, insbesondere bei solchen mit undurchsichtigen Datenschutzrichtlinien und potenziellen Sicherheitslücken. Da sich die KI weiterentwickelt, ist die Gewährleistung robuster Cybersicherheitsmaßnahmen und transparenter Datenpraktiken für Unternehmen, die das Vertrauen der Benutzer und ihre globale Glaubwürdigkeit aufrechterhalten möchten, von entscheidender Bedeutung.