Microsoft und OpenAI warnen vor nationalstaatlichen Hackern, die KI für zerstörerische Cyberangriffe nutzen
Microsoft und OpenAI haben gemeinsam vor der wachsenden Bedrohung durch nationalstaatliche Hacker gewarnt, die künstliche Intelligenz (KI) und große Sprachmodelle (LLMs) einsetzen, um ihre Cyber-Angriffsfähigkeiten zu verbessern. Der Bericht identifiziert nationalstaatliche Akteure mit Verbindungen zu Russland, Nordkorea, Iran und China, die aktiv mit KI-Technologien für böswillige Cyberaktivitäten experimentieren.
Die Zusammenarbeit zwischen Microsoft und OpenAI ergab, dass sie die Bemühungen von fünf staatsnahen Akteuren vereitelt hatten, indem sie deren Versuche, KI-Dienste für destruktive Zwecke zu nutzen, durch die Sperrung von Vermögenswerten und Konten zunichte machten. Laut Microsoft liegt der Reiz großer Sprachmodelle in ihrer Unterstützung natürlicher Sprache, was sie für Bedrohungsakteure attraktiv macht, die auf Social Engineering und betrügerische, auf bestimmte Ziele zugeschnittene Kommunikation spezialisiert sind.
Obwohl bisher keine bedeutenden oder neuartigen Angriffe unter Verwendung von LLMs beobachtet wurden, hebt der Bericht hervor, dass diese staatsnahen Akteure KI-Technologien in verschiedenen Phasen der Cyber-Angriffskette erforschen. Die Aktivitäten reichen von Aufklärung und Codierungsunterstützung bis hin zur Malware-Entwicklung.
Berichten zufolge hat die russische nationalstaatliche Gruppe Forest Blizzard (APT28) OpenAI-Dienste für Open-Source-Forschung zu Satellitenkommunikationsprotokollen und Radarbildtechnologie sowie für Skripting-Aufgaben genutzt. In ähnlicher Weise haben andere Bedrohungsakteure wie Nordkoreas Emerald Sleet (Kimusky), Irans Crimson Sandstorm (Imperial Kitten) und Chinas Charcoal Taifun (Aquatic Panda) und Salmon Taifun (Maverick Panda) LLMs für Aufgaben wie die Identifizierung von Experten und die Durchführung von Recherchen genutzt , Generieren von Code-Snippets und Erstellen von Inhalten für Phishing-Kampagnen.
Als Reaktion auf die wachsende Bedrohung ergreift Microsoft proaktive Maßnahmen, indem es eine Reihe von Grundsätzen formuliert, um die Risiken zu mindern, die mit der böswilligen Nutzung von KI-Tools und APIs durch nationalstaatliche Akteure, Advanced Persistent Threats (APTs) und Advanced Persistent Manipulators (APMs) verbunden sind. und Cyberkriminelle-Syndikate. Zu den Grundsätzen gehören die Identifizierung und das Ergreifen von Maßnahmen gegen böswillige Akteure, die Benachrichtigung anderer KI-Dienstleister, die Zusammenarbeit mit Interessengruppen und die Gewährleistung von Transparenz im Umgang mit diesen Bedrohungen.
Diese Zusammenarbeit zwischen Microsoft und OpenAI unterstreicht die Notwendigkeit einer gemeinsamen Anstrengung, Leitplanken und Sicherheitsmechanismen rund um KI-Modelle zu etablieren und das Engagement für eine verantwortungsvolle KI-Nutzung und -Sicherheit angesichts der sich entwickelnden Cyber-Bedrohungen zu stärken.