In acht nehmen! Künstliche Intelligenz könnte Betrügereien legitim erscheinen lassen und Malware-Bedrohungen wie Ransomware verbreiten
Das National Cyber Security Centre (NCSC), Teil des britischen Spionagedienstes GCHQ, hat vor der zunehmenden Bedrohung durch Cyberangriffe gewarnt, die durch künstliche Intelligenz (KI) ermöglicht werden. Nach Einschätzung des NCSC erschweren generative KI-Tools, die aus einfachen Eingabeaufforderungen überzeugende Texte, Stimmen und Bilder erzeugen können, die Unterscheidung zwischen echten E-Mails und solchen, die von Betrügern und böswilligen Akteuren gesendet wurden.
Die Agentur prognostiziert, dass KI, insbesondere generative KI und große Sprachmodelle, die Chatbots unterstützen, in den nächsten zwei Jahren erheblich zum Anstieg der Cyber-Bedrohungen beitragen werden. Eines der Hauptprobleme ist die Schwierigkeit, verschiedene Arten von Angriffen wie Phishing, Spoofing und Social Engineering zu identifizieren.
Die Ausgereiftheit der KI-Technologie dürfte es für Einzelpersonen unabhängig von ihrem Kenntnisstand im Bereich der Cybersicherheit schwierig machen, die Legitimität von E-Mails oder Anfragen zum Zurücksetzen von Passwörtern zu beurteilen.
KI könnte dazu beitragen, die Angriffsfläche für Ransomware zu vergrößern
Auch Ransomware-Angriffe , die im vergangenen Jahr auf Institutionen wie die British Library und Royal Mail abzielten, werden voraussichtlich zunehmen. Das NCSC warnt davor, dass die ausgereifte KI die Hürde für Hobby-Cyberkriminelle senkt, auf Systeme zuzugreifen, Informationen über Ziele zu sammeln und Angriffe auszuführen, die Computersysteme lahmlegen, sensible Daten extrahieren und Lösegeld in Kryptowährung fordern können.
Generative KI-Tools werden bereits verwendet, um gefälschte „Köderdokumente“ zu erstellen, die überzeugend wirken, indem sie häufige Fehler vermeiden, die bei Phishing-Angriffen auftreten. Auch wenn die Wirksamkeit von Ransomware-Code durch generative KI möglicherweise nicht gesteigert wird, kann sie bei der Identifizierung und Auswahl von Zielen hilfreich sein. Das NCSC geht davon aus, dass staatliche Akteure wahrscheinlich am geschicktesten darin sind, KI bei fortgeschrittenen Cyberoperationen einzusetzen.
Gut und schlecht von KI
Als Reaktion auf die wachsende Bedrohung betont das NCSC, dass KI auch als Verteidigungsinstrument dienen kann, um Angriffe zu erkennen und sicherere Systeme zu entwerfen. Der Bericht fällt mit der Einführung neuer Richtlinien durch die britische Regierung zusammen, des „Cyber Governance Code of Practice“, der Unternehmen dazu ermutigt, ihre Bereitschaft zur Wiederherstellung nach Ransomware-Angriffen zu verbessern. Einige Cybersicherheitsexperten, darunter Ciaran Martin, der frühere Leiter des NCSC, plädieren jedoch für stärkere Maßnahmen und schlagen eine grundlegende Neubewertung der Ansätze zur Bekämpfung von Ransomware-Bedrohungen vor. Martin betont die Notwendigkeit strengerer Regeln für Lösegeldzahlungen und warnt vor unrealistischen Strategien wie Vergeltungsmaßnahmen gegen Kriminelle in feindlichen Ländern.