Modellname und Funktion
Der chinesische KI-Anbieter Z.ai hat mit GLM-5.2 ein Open-Weight-Modell veröffentlicht, das sich bei der Erkennung von Sicherheitslücken offenbar mit Anthropics Opus 4.8 messen kann. Diese Aussage basiert auf IDOR-Benchmark-Tests der Cybersicherheitsfirma Semgrep, die die offene Verfügbarkeit von GLM-5.2 als Schwachstellensuche-Tool für Hacker und Angreifer belegen.
Offene Verfügbarkeit
Das Open-Weight-Modell GLM-5.2 eröffnet für Hacker und Angreifer neue Möglichkeiten für kriminelle Einsätze. Es kann heruntergeladen, lokal betrieben und modifiziert werden. Sicherheitsfirma, CERTs und interne Red Teams können das Modell in abgeschotteten Umgebungen für Code-Reviews und Penetrationstests nutzen, ohne sensible Daten an US-Clouds zu übermitteln. Für DSGVO-konforme Umgebungen in Europa ist das ein Vorteil. Gleichzeitig können auch Angreifer GLM-5.2 ohne jede Aufsicht betreiben, was das Modell attraktiv für Schwachstellensuche-Aktoren macht.
Governance-Frage
Die wachsende Leistungsfähigkeit der KI-Modelle stellt für europäische Unternehmen und Behörden die Governance-Frage: Wie lässt sich der Einsatz solcher Werkzeuge in sicherheitskritischen Bereichen mit dem EU AI Act und nationalen Sicherheitsvorgaben vereinbaren? Wie geht man mit einem Modell um, das beim Schwachstellensuchen brilliert, aber keiner Aufsicht unterliegt?
Geopolitische Dimension
Die Entwicklung trifft die US-Regierung in einem heiklen Moment. Eines von Anthropics Modellen war kurzzeitig komplett gesperrt, weil die Trump-Administration den Zugriff durch ausländische Nutzer untersagte. Auch OpenAI bekommt von der US-Regierung Auflagen „aus Sicherheitsgründen“. Für europäische Unternehmen und Behörden stellt sich mit der wachsenden Leistungsfähigkeit der KI-Modelle die Governance-Frage: Wie lässt sich der Einsatz solcher Werkzeuge in sicherheitskritischen Bereichen mit dem EU AI Act und nationalen Sicherheitsvorgaben vereinbaren, und wie geht man mit einem Modell um, das beim Schwachstellensuchen brilliert, aber keiner Aufsicht unterliegt?
Zusammenfassung
GLM-5.2 ist ein Open-Weight-Modell, das sich bei der Schwachstellensuche offenbar mit Anthropics Opus 4.8 messen kann. Die offene Verfügbarkeit von GLM-5.2 eröffnet für Hacker und Angreifer neue Möglichkeiten für kriminelle Einsätze und stellt für europäische Unternehmen und Behörden die Governance-Frage. Die wachsende Leistungsfähigkeit der KI-Modelle stellt für europäische Unternehmen und Behörden die Governance-Frage: Wie lässt sich der Einsatz solcher Werkzeuge in sicherheitskritischen Bereichen mit dem EU AI Act und nationalen Sicherheitsvorgaben vereinbaren?
Kommentare