Modellname und Technische Spezifikationen
Das Verfahren RealOrRender wurde von der Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung (IOSB) entwickelt. Es kombiniert ein klassisches Deep-Learning-basiertes Klassifikationsverfahren mit einer Methode, die die Rekonstruierbarkeit eines Bildes mithilfe eines generativen Modells prüft. Das Modell ist in der Lage, KI-generierte Bilder mit echten Aufnahmen zu unterscheiden.
Klassifikationsverfahren
Das Klassifikationsverfahren basiert auf Deep-Learning, eine Technologie, die Künstliche Intelligenz in großen Datenmengen lernt, um bestimmte Strukturen und Merkmale zu erkennen. Dieses Verfahren ist in der Lage, ein Bild zu klassifizieren und zu identifizieren, ob es KI-generiert ist oder nicht.
Rekonstruierbarkeitprüfung
Die Rekonstruierbarkeitprüfung wird durch ein generativen Modell durchgeführt. Das Modell rekonstruiert das Bild und berechnet den Rekonstruktionsfehler. Je besser die Rekonstruktion, desto wahrscheinlicher ist es, dass es sich um ein KI-generiertes Bild handelt.
Erkennungsleistung
Die Erkennungsleistung des Systems liegt laut eigenen Angaben insgesamt zwischen 85 und 91 Prozent. Das System gibt die Erkennungsgenauigkeit in Prozentzahlen an. In Einzelfällen kann die Genauigkeit sogar höher ausfallen.
Nachvollziehbarkeit
Das Team nutzt Explainable-AI-Methoden (XAI) zur Nachvollziehbarkeit. XAI-Verfahren können in Heatmap-basierte und segmentbasierte Verfahren klassifiziert werden. Heatmap-basierte Ansätze visualisieren die Intensität und den Beitrag bestimmter Bildbereiche zur Entscheidung. Segmentbasierte Verfahren analysieren zusammenhängende Bildsegmente und zeigen die beteiligten semantischen Regionen.
Demonstrator
Der Demonstrator unterstützt das Bundesamt für Sicherheit in der Informationstechnik (BSI) bei der Entlarvung von Deepfakes. Er kann nicht nur Sicherheits- und Justizbehörden, sondern auch Betreiber von Social-Media-Plattformen, Medienhäuser und Bildagenturen profitieren.
Zukunft
Ob eine öffentliche Version des Systems geplant ist, haben wir beim Fraunhofer IOSB nachgefragt. Wir aktualisieren den Artikel, sobald wir eine Antwort erhalten haben.
Kommentare