Zieht Euch warm an – Claude kommt!

Was muss geschehen, damit ein großes Softwareunternehmen einen gewaltigen Durchbruch bei seinem neuesten KI-Projekt verkündet, sich aber weigert, diesen der Öffentlichkeit zugänglich zu machen, und stattdessen beschließt, ihn ausschließlich einer ausgewählten Handvoll seiner eigenen Konkurrenten zur Verfügung zu stellen? Genau das hat Anthropic am Mittwoch mit „Claude Mythos Preview“ getan und behauptet, das Projekt sei einfach zu mächtig, um in die Hände von Cyberkriminellen zu fallen.

Anthropic wurde in diesem Jahr vom Pentagon als Risiko für die Lieferkette eingestuft, da das Unternehmen bestimmte Einschränkungen bei der Nutzung seiner Technologie forderte. Ein Bundesrichter verhinderte später, dass diese Einstufung in Kraft trat.

Anthropic hat nicht viele neue Informationen über das Modell veröffentlicht, das während der Entwicklung den Codenamen „Capybara“ trug. Doch nachdem im vergangenen Monat einige Details versehentlich durchgesickert waren, räumte das Unternehmen ein, dass es dies als „Quantensprung“ bei den KI-Fähigkeiten betrachte, mit verbesserter Leistung in Bereichen wie Programmierung und Cybersicherheitsforschung.

Und genau hier sollten wir alle hellhörig werden und uns Sorgen machen. Die gute Nachricht ist, dass Anthropic bei der Entwicklung von Claude Mythos feststellte, dass die KI nicht nur Software-Code einfacher und komplexer schreiben konnte als jedes derzeit verfügbare Modell, sondern als Nebenprodukt dieser Fähigkeit auch Schwachstellen in praktisch allen der weltweit beliebtesten Softwaresysteme leichter als zuvor aufspüren konnte.

Die schlechte Nachricht ist, dass, sollte dieses Tool in die Hände von Kriminellen fallen, diese so gut wie jedes große Softwaresystem der Welt hacken könnten, einschließlich all jener, die von den Unternehmen des Konsortiums entwickelt wurden, zu dem Microsoft, Amazon und Apple gehören.

Im Vorfeld dieser Ankündigung führten Vertreter führender Technologieunternehmen hinter verschlossenen Türen Gespräche mit der Trump-Regierung über die Auswirkungen auf die Sicherheit der Vereinigten Staaten und aller anderen Länder, die diese nun anfälligen Softwaresysteme nutzen.

Wie Anthropic in seiner schriftlichen Erklärung am Dienstag feststellte, hat „Mythos Preview“ allein im vergangenen Monat bereits Tausende von Schwachstellen mit hohem Schweregrad aufgedeckt, darunter einige in jedem größeren Betriebssystem und Webbrowser.

Jedes Jahr hat seine eigene Mischung aus digitalen Sicherheitsdesastern, von absurden bis hin zu finsteren, doch 2024 war besonders geprägt von Hacking-Wellen, bei denen Cyberkriminelle und staatlich unterstützte Spionagegruppen wiederholt dieselbe Schwachstelle oder Zielart ausnutzten, um ihren Amoklauf anzuheizen. 2024 wurde weithin als eines der schlimmsten Jahre seit Beginn der Aufzeichnungen für Cyberangriffe angesehen, wobei die Zahl der Ransomware-Zahlungen stark anstieg und Angriffe zunehmend auf kritische Infrastruktur, Telekommunikation, Krankenhäuser und Regierungssysteme abzielten.

Das Gesundheitswesen war 2024 einer der am stärksten betroffenen Sektoren. Im Laufe des Jahres wurden Hunderte von Cyberangriffen im Gesundheitswesen gemeldet, und Ransomware-Angriffe auf Krankenhäuser und Gesundheitsdienstleister nahmen stark zu.

Ein Cyberangriff legte Apotheken-, Abrechnungs- und Versicherungssysteme in den gesamten Vereinigten Staaten lahm. Mehr als 100 Millionen Menschen waren davon betroffen, was diesen Vorfall zu einem der größten Sicherheitsverletzungen im Gesundheitswesen aller Zeiten machte.

Ein Hackerangriff, der chinesischen, mit dem Staat verbundenen Hackern zugeschrieben wurde, richtete sich gegen große Telekommunikationsanbieter und kompromittierte Berichten zufolge die Kommunikation von politischen Persönlichkeiten und Überwachungszielen der Regierung.

Dies ist keine leere Drohung, über die sich nur Nerds Sorgen machen sollten. Im Grunde setzt dies unsere gesamte kritische Infrastruktur verheerenden Störungen aus, darunter Stromnetze, Wasserversorgung, Flugsicherung und Computerbetriebssysteme. Würden all diese Systeme zusammenbrechen, wäre dies eine Bedrohung für die Zivilisation, wie wir sie kennen.

Zu den möglichen Auswirkungen könnten schnellere Phishing-Angriffe und Betrugsmaschen gehören: Kriminelle könnten in großem Umfang überzeugende E-Mails, gefälschte Websites, SMS und mehrsprachige Social-Engineering-Kampagnen erstellen.

Ein fortschrittliches Modell könnte Angreifern helfen, bösartigen Code schneller zu schreiben, zu debuggen oder anzupassen, selbst wenn es nicht direkt für Hacking entwickelt wurde.

Identitätsbetrug würde sich viel schneller ausbreiten als heute. KI könnte genutzt werden, um glaubwürdige gefälschte Dokumente, synthetische Identitäten, gefälschte Kundensupport-Gespräche und Identitätsdiebstahlversuche zu erstellen.

Kriminelle Gruppen oder feindliche Akteure könnten Fake News, Propaganda, Bot-Aktivitäten und hochgradig personalisierte Desinformation automatisieren.

Auch Unternehmen wären davon betroffen. KI könnte dabei helfen, gefälschte Rechnungen und betrügerische Verträge zu erstellen oder Führungskräfte bei Phishing-Versuchen gegen Mitarbeiter zu imitieren.

Und nicht nur hartgesottene Cyberkriminelle würden davon profitieren. Selbst Ihre Kinder könnten mit Hilfe von KI-Unterstützung bei der Aufklärung, der Erstellung von Skripten, der Überredung und der operativen Planung Cyberkriminalität auf einem viel höheren Niveau begehen. Wie Tom Friedman von der New York Times am Mittwoch in einem Kommentar schrieb:

Mama und Papa, macht euch bereit für:

„Schatz, was hast du heute nach der Schule gemacht?“

„Na ja, Mama, meine Freunde und ich haben das Stromnetz lahmgelegt. Was gibt’s zum Abendessen?“

Friedman hält dieses Szenario für so gravierend, dass es einer globalen Initiative bedürfe, um ihm entgegenzuwirken. Vor allem müssten die beiden KI-Supermächte – die USA und China – eng zusammenarbeiten, um sich und den Rest der Menschheit davor zu schützen. Er vergleicht es mit dem Aufkommen der gegenseitig garantierten Zerstörung und der Notwendigkeit der nuklearen Nichtverbreitung.

Trump trifft Präsident Xi nächsten Monat. Ob das Thema Anthropic dort auf der Agenda stehen wird?

Früher oder später wird der Geist aus der Flasche entweichen, das ist sicher. Cyberkriminelle Banden mit ihren unermesslichen Reichtümern werden einen Weg finden, jemanden zu bestechen, damit er es ihnen übergibt. Das Anthropics-Konsortium besteht aus 40 Unternehmen mit jeweils Tausenden von Mitarbeitern. Irgendwann wird eines davon es vorziehen, sagenhaft reich zu werden, anstatt die Menschheit zu retten.

Seien Sie auf eine Cyberkatastrophe mit unvorhersehbaren Folgen vorbereitet. Ich habe meiner Frau gerade von all dem erzählt und ihre erste Reaktion war: „Ich muss unserem Lieferanten sagen, dass er seine Bestellung für Brennholz von drei auf fünf Kubikmeter erhöhen soll.“