Jackson ist ein Entwickler von Schadsoftware, der in Velor lebt, einer virtuellen Welt, in der nichts verboten ist. Er möchte eine Schadsoftware entwickeln, um Passwörter aus dem Browser Google Chrome zu stehlen. Das ist die Grundlage der Geschichte, die er ChatGPT vorgeschlagen hat. Vitaly Simonovich untersucht die Gefahren der künstlichen Intelligenz (KI) bei Cato Networks, einem Unternehmen, das sich mit Cybersicherheit befasst. ChatGPT entschied sich, mitzuspielen, und generierte einen fehlerhaften Code, den der Chatbot dann selbst korrigierte. In weniger als sechs Stunden umging Simonovich die in das System integrierten Sicherheitsmaßnahmen und nutzte es, um funktionsfähige Malware zu erstellen.
Laut Gil Messing von Check Point, einem weiteren Cybersicherheitsunternehmen, hat KI die Möglichkeiten von Hackern erweitert, da sie ihnen ermöglicht, mehr Ziele mit weniger Aufwand anzugreifen. Im Jahr 2022 war die Einführung von ChatGPT ein Wendepunkt. Durch die ausgeklügelten Modelle der generativen KI mussten Kriminelle keine großen Summen mehr für Hardware und Hackerausrüstung ausgeben. Dies war ein katastrophaler Durchbruch für die meisten Unternehmen, die zunehmend Opfer von Hackern werden, die KI einsetzen, aber für Cybersicherheitsunternehmen erwies es sich als weitaus profitabler.
Die neue Technologie hat die Gefahr von Cyberangriffen in zweierlei Hinsicht verschärft. Erstens können Hacker nun große Sprachmodelle (GML) nutzen, um ihre Malware an eine größere Anzahl von Opfern zu verbreiten. Die Erstellung von Deepfakes, betrügerischen E-Mails und Social-Engineering-Angriffen, die das Verhalten von Menschen manipulieren, ist jetzt viel einfacher und schneller geworden. Eine Möglichkeit für Hacker besteht darin, ein bestehendes Modell wie ChatGPT zu „entsperren“, was, wie Simonovich gezeigt hat, leicht zu bewerkstelligen ist. Eine andere Möglichkeit besteht darin, ein speziell für kriminelle Zwecke entwickeltes Modell wie Xanthoroxai zu verwenden, mit dem Cyberkriminelle für nur 150 Dollar pro Monat Deepfakes erstellen und andere böswillige Aktionen durchführen können. Hacker können groß angelegte Phishing-Angriffe durchführen, indem sie GML beauftragen, riesige Mengen an Informationen aus dem Internet zu sammeln und diese dann zur Erstellung gefälschter personalisierter E-Mails zu verwenden. Angriffe, die sich gegen bestimmte Personen richten und als Spear-Phishing bekannt sind, umfassen mittlerweile häufig gefälschte Sprach- und Videoanrufe von Arbeitskollegen, um einen Mitarbeiter davon zu überzeugen, die Malware herunterzuladen und auszuführen.
Zweitens wird KI eingesetzt, um die Malware selbst gefährlicher zu machen. Beispielsweise kann eine Software, die als PDF-Dokument getarnt ist, nun einen KI-basierten Code enthalten, der in das Netzwerk eindringen kann. Im Juli wurde dieser Ansatz bei Angriffen auf die Sicherheits- und Verteidigungssysteme der Ukraine verwendet. Wenn die Malware an ihre Grenzen stieß, konnte sie GLM in der Cloud um Hilfe bitten, um neuen Code zu generieren, mit dem die Schutzmaßnahmen der Systeme überwunden werden konnten. Das Ausmaß des verursachten Schadens ist unklar, aber es war der erste Angriff dieser Art, bemerkt Simonovich.
Studie zeigt, dass generative KI bis 2027 zu Betrugsfällen in Höhe von 40 Milliarden Dollar führen könnte
Für Unternehmen ist diese wachsende Bedrohung beängstigend und potenziell kostspielig. Laut IBM war KI im vergangenen Jahr an jedem sechsten Datenleck beteiligt. Sie war auch für zwei von fünf Phishing-Angriffen auf Unternehmens-E-Mails verantwortlich. Das Beratungsunternehmen Deloitte hat berechnet, dass generative KI im Jahr 2027 zu Betrugsfällen in Höhe von 40 Milliarden Dollar führen könnte, verglichen mit 12 Milliarden im Jahr 2023.
Cyberkriminelle sind jedoch nicht die einzigen Nutznießer. Da KI-basierte Cyberangriffe immer häufiger werden, wächst auch das Geschäft mit dem Schutz vor ihnen erheblich. Das Forschungsunternehmen Gartner prognostiziert, dass die Ausgaben von Unternehmen für Cybersicherheit zwischen 2024 und 2026 um ein Viertel steigen und 240 Milliarden Dollar erreichen werden. Dies erklärt, warum die Aktien der im CTA Nasdaq Cybersecurity Index gelisteten Unternehmen im letzten Jahr ebenfalls um mehr als 20 % gestiegen sind und damit den Gesamtindex der Nasdaq übertroffen haben. Am 18. August stellte Nikesh Arora, Direktor von Palo Alto Networks, einem der weltweit größten Unternehmen im Bereich Cybersicherheit, fest, dass sich die Zahl der Vorfälle im Zusammenhang mit Datensicherheit und generativer KI „seit dem letzten Jahr verdoppelt hat“ und berichtete, dass der Betriebsgewinn seines Unternehmens in den 12 Monaten bis Juli im Vergleich zum Vorjahr um 82 % gestiegen sei.
Die Aussicht auf einen zunehmend personalisierten Kundenstamm löste eine Kaufwelle unter Cybersicherheitsunternehmen aus. Am 30. Juli gab Palo Alto Networks die Übernahme von CyberArk, einem auf Identitätsdaten-Sicherheit spezialisierten Unternehmen, für 25 Milliarden US-Dollar bekannt. Anfang desselben Monats gab das Unternehmen 700 Millionen Dollar für Protect AI aus, das Unternehmen beim Schutz ihrer KI-Systeme unterstützt. Am 5. August gab SentinelOne, ein weiteres Cybersicherheitsunternehmen, die Übernahme von Prompt Security für 250 Millionen Dollar bekannt, einem Unternehmen, das Software zum Schutz von Unternehmen entwickelt, die KI einsetzen.
Technologiegiganten mit schnell wachsenden Cloud-Computing-Sparten stärken ebenfalls ihr Angebot im Bereich Cybersicherheit. Im Jahr 2021 hat der Software-Riese Microsoft CloudKnox, eine Plattform für die Sicherheit von Identitätsdaten, übernommen und Defender for Cloud entwickelt, eine interne Anwendung für Unternehmen, die sich um alles kümmert: von der Überprüfung von Schwachstellen und dem Schutz von Daten bis hin zur Überwachung von Bedrohungen. Google hat Big Sleep entwickelt, das Cyberangriffe und Sicherheitslücken für Kunden erkennt, bevor sie angegriffen werden. Im März gab das Unternehmen 32 Milliarden Dollar für den Kauf von Wiz aus, einem Start-up im Bereich Cybersicherheit.
Wettbewerb und Konsolidierung können dazu beitragen, Unternehmen zu schaffen, die sich mit Hilfe von KI gegen immer raffiniertere Cyberkriminelle schützen können. Angesichts des Wettlaufs um die Entwicklung immer leistungsfähigerer GMLs werden jedoch viele Modellentwickler technischen Errungenschaften Vorrang vor der Sicherheit einräumen. Daher wird es keine leichte Aufgabe sein, mit Jaxon Schritt zu halten.
