WormGPT: KI-Werkzeuge für Cyberkriminalität
Die Gefährdung durch KI-gesteuerte Cyberkriminalität
Die Nutzung von Künstlicher Intelligenz (KI) durch Cyberkriminelle hat in den letzten Jahren erheblich zugenommen. Besonders hervorzuheben ist dabei der Einsatz von sogenannten „WormGPT“-Varianten, einem Typ nicht zensierter Large Language Models (LLMs). Diese Modelle haben die Bedrohungslage im Bereich Cyberkriminalität verschärft und bieten Kriminellen die Möglichkeit, ihre Aktivitäten effizienter und gezielter durchzuführen. Der Aufschwung dieser Technologien hat maßgeblich mit der Einführung von ChatGPT im November 2022 zu tun, als Cyberkriminelle das Potenzial dieser KI-Systeme erkannten. Angesichts der Sicherheitsvorkehrungen in offiziellen Modellen suchten sie nach Alternativen, die keine solchen Beschränkungen aufwiesen. Dies führte zur Entwicklung von WormGPT, das im Juni 2023 auf Untergrundforen vorgestellt wurde.
WormGPT basiert ursprünglich auf GPT-J, einem Open-Source-Modell von EleutherAI. Das Modell wurde als kostenpflichtiger Dienst in den einschlägigen Foren beworben. Obwohl das Projekt nach der Enthüllung des Hauptentwicklers im August 2023 eingestellt wurde, entstanden schnell zahlreiche Nachahmer und alternative Varianten. Neben WormGPT traten auch andere unzensierte LLMs auf, die für kriminelle Zwecke genutzt werden, wie FraudGPT, DarkBERT und viele weitere. Zugleich versuchen Cyberkriminelle, die Schutzmaßnahmen legitimer KI-Anwendungen wie ChatGPT oder Google Bard zu umgehen, indem sie sogenannte Jailbreaks entwickeln. Diese Techniken ermöglichen es ihnen, die Einschränkungen dieser Modelle auszutricksen und ihre Funktionen für eigene kriminelle Zwecke zu missbrauchen.
Neue Entwicklungen bei WormGPT-Varianten
Kürzlich wurden von Cato Networks zwei neue Varianten von WormGPT entdeckt, die auf modernisierten LLMs basieren, darunter Grok von xAI und Mixtral von Mistral. Diese Varianten werden über Bots auf Plattformen wie Telegram vermarktet und bieten die Möglichkeit, durch angepasste System-Prompts die integrierten Schutzmechanismen der zugrunde liegenden Modelle zu umgehen. Mithilfe spezifischer Anweisungen können die Modelle so konfiguriert werden, dass sie gefährliche Inhalte, wie beispielsweise Phishing-E-Mails oder Schadcode, produzieren. Die Entdeckung zeigt, dass die neuen WormGPT-Versionen keine eigenentwickelten Modelle sind, sondern vielmehr raffinierte Wrapper und Jailbreaks, die bestehende Technologien einer neuen Zielgruppe zugänglich machen.
Kriminelle nutzen moderne KI-APIs und kombinieren diese mit eigenen Prompts. In einigen Fällen erfolgt sogar eine weitere Anpassung durch Training auf illegalen Datensätzen, um die Effektivität der Schadprogramme zu erhöhen. Dies stellt eine ernsthafte Bedrohung dar, insbesondere für Unternehmen, die nicht über ausreichende Sicherheitsvorkehrungen verfügen.
Strategien zur Abwehr von KI-basierten Bedrohungen
Angesichts der dynamischen und sich ständig weiterentwickelnden Bedrohungslage rät Cato Networks Unternehmen, moderne Lösungen zur Bedrohungserkennung und -reaktion einzuführen. Ein bedeutender Aspekt ist das Zero Trust-Modell, das den Zugang zu Systemen und Daten streng kontrolliert. Zudem wird empfohlen, Mitarbeiter regelmäßig zum Thema KI-gestützter Phishing-Angriffe zu schulen. Sensibilisierung und Ausbildung im Umgang mit potenziellen Bedrohungen sind entscheidend, um Sicherheitsvorkehrungen zu verbessern. Unternehmen sollten auch die Nutzung von Generative AI-Tools innerhalb ihrer Systeme aktiv überwachen, um Missbrauch frühzeitig zu erkennen und zu vermeiden.
Die neuen Varianten von WormGPT unterstreichen die Notwendigkeit für Unternehmen, sich kontinuierlich an die sich verändernde Bedrohungslandschaft anzupassen. Cyberkriminelle entwickeln ihre Werkzeuge ständig weiter, was es für Unternehmen unerlässlich macht, proaktive technische und organisatorische Maßnahmen zu ergreifen. Dazu zählen umfangreiche Audits der bestehenden Sicherheitssysteme sowie die Implementierung von mehrstufigen Authentifizierungsverfahren und Verschlüsselungstechnologien.
Die Relevanz von Cybersecurity im Unternehmenskontext
Die Nutzung von Künstlicher Intelligenz in der Cyberkriminalität zeigt deutlich, wie wichtig ein robustes Cybersecurity-Management für Unternehmen geworden ist. Die Risiken, die von unzensierten LLMs ausgehen, sind signifikant, da sie die Kapazität der Cyberkriminellen erweitern und es ihnen ermöglichen, personalisierte und gezielte Angriffe durchzuführen. Die Verantwortung der Unternehmensleitung erstreckt sich daher nicht nur auf die technische Infrastruktur, sondern auch auf die Schaffung eines Sicherheitsbewusstseins innerhalb der gesamten Organisation.
Die fortschreitende Digitalsierung in Unternehmen erfordert ein hohes Maß an Wachsamkeit und die Implementierung fortschrittlicher Sicherheitstechnologien. Neben der technischen Absicherung muss auch die Schulung der Mitarbeiter an oberster Stelle stehen, um die menschlichen Schwachstellen, die häufig in der Sicherheitsarchitektur eines Unternehmens zu finden sind, zu minimieren.
Fazit: Neue Herausforderungen erfordern strategisches Handeln
Die Bedrohungen durch KI-gestützte Cyberkriminalität zeigen, dass Unternehmen sich proaktiv schützen müssen. Die Entwicklung von WormGPT und dessen Varianten illustriert die Kreativität und Anpassungsfähigkeit von Cyberkriminellen. Umso mehr ist es für Unternehmen unerlässlich, sich nicht nur mit technischen Lösungen, sondern auch mit umfassenden Schulungsmaßnahmen auseinanderzusetzen. Es gilt, eine Sicherheitskultur zu schaffen, die allen Mitarbeitern die Relevanz von Cybersicherheit klar vermittelt, um so das Risiko von Angriffen zu minimieren.