Deepfakes: So lassen sich KI-Gesichter besser erkennen
Täuschend echte KI-Gesichter sind längst zu einem Werkzeug für Betrüger geworden. Sie werden in gefälschten Profilen in sozialen Netzwerken, bei Romance Scams oder für Identitätsdiebstahl eingesetzt und sind für viele Menschen kaum noch als Fälschung zu erkennen.
Forscher der Australian National University(öffnet im neuen Fenster) wollen das ändern: Sie haben ein Trainingsverfahren entwickelt, mit dem Menschen die KI-generierten Gesichter deutlich zuverlässiger erkennen können als zuvor.
Statt noch leistungsfähigere KI-Systeme zur Deepfake-Erkennung zu entwickeln, setzen die Forscher also auf den Menschen selbst.
Ansatz unterscheidet sich von bisherigen Empfehlungen
Bisherige Hinweise zum Erkennen von KI-Bildern konzentrieren sich häufig auf offensichtliche Fehler wie unnatürliche Ohrringe, seltsame Haare oder andere Bildartefakte. Solche Merkmale werden jedoch seltener, weil Bildgeneratoren immer besser werden. Das neue Verfahren verzichtet deshalb auf eine solche Checkliste.
Stattdessen lernen die Teilnehmer, Gesichter anders zu betrachten. KI erzeugt häufig besonders symmetrische, harmonische und attraktive Gesichter – Eigenschaften, die Menschen unbewusst oft mit Echtheit verbinden.
Gesamteindruck im Mittelpunkt
Diesen Reflex soll das Training durchbrechen. Im Mittelpunkt stehen sechs Merkmale, darunter Symmetrie, Proportionen, Einprägsamkeit, Unverwechselbarkeit, Attraktivität und Ausdrucksstärke.
Konkret raten die Forscher dazu, sich nicht von einem ersten Eindruck leiten zu lassen. Statt nach offensichtlichen Fehlern zu suchen, sollten Betrachter bewusst darauf achten, ob ein Gesicht ungewöhnlich symmetrisch, makellos oder auffallend attraktiv wirkt.
Auch eine geringe Einprägsamkeit oder ein künstlich wirkender Gesichtsausdruck können Hinweise auf ein KI-generiertes Bild sein. Entscheidend sei, mehrere dieser Merkmale gemeinsam zu bewerten, statt sich auf ein einzelnes Detail zu verlassen, so die Forscher.
Schon kurzes Training zeigt Wirkung
Mit etwas Training verbesserten alle Teilnehmer ihre Fähigkeit, KI-Gesichter von echten Fotos zu unterscheiden. Die besten schnitten nahezu fehlerfrei ab. Eine unabhängige Wiederholung der Studie an der University of Victoria in Kanada bestätigte den Ansatz: Nach weniger als einer Stunde Training stieg die Erkennungsrate im Durchschnitt um fast 30 Prozent, gleichzeitig trafen die Teilnehmer ihre Entscheidungen schneller.
Die Forscher weisen allerdings darauf hin, dass ihre Methode noch weiter überprüft werden muss. Bislang wurde sie vor allem mit besonders hochwertigen KI-Gesichtern auf Basis von StyleGAN getestet.
In weiteren Untersuchungen soll sich zeigen, ob sich die Trainingseffekte auch auf Bilder anderer KI-Modelle übertragen lassen. Sollte sich das bestätigen, könnten künftig nicht nur KI-Systeme gegen Deepfakes eingesetzt werden, sondern auch gezielt dafür geschulte Menschen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.