K12

Bild-KI-Detektoren im Test

14. September 2023 · von Joerg Hoewner · Keine Kommentare

Ein wichtiges Element für den Umgang mit KI-generierten (vermeintlichen) Fake-Inhalten sind KI-Detektoren. Wir haben für die Ausgabe 5/2023 des prmagazins verschiedene Detektoren für KI-Texte getestet und die meisten von ihnen für untauglich befunden. Inzwischen sieht selbst OpenAI in, dass die KI-Detektoren für Text Schrott sind. 

Doch wie sieht es mit Detektoren für KI-generierte Bilder aus? Besteht da noch Hoffnung?

Wir haben vier verschiedene Fotos getestet, von denen eines (angeblich) Nicht-KI-generiert ist, die anderen drei nachweislich mit KI. Alle Fotos waren unter einer Creative Commons-Lizenz verfügbar.

  • Batikmacher – angeblich Nicht-KI-generiert (Link) – wobei wir da erhebliche Zweifel haben
  • Kloster Paulinzella – Nicht-KI-generiert
  • Mädchen mit Katze – KI-generiert (leichter zu erkennen, imho)
  • Polizisten in Paris – KI-generiert (schwierig aus unserer Sicht, Indizien sind die seltsamen Kameras, aber der Rest wirkt echt)
  • Trumps Verhaftung – KI generiert (hier sind Artefakte erkennbar, aber erst auf dem zweiten Blick)

Verschiedene Tools wurden ausprobiert, die Ergebnisse im Einzelnen:


Prob. = Probability / Wahrscheinlichkeit

Testbild Huggingface.co (Maybe´s AI Art Detector)illuminarty.aidetecting-ai.comhivemoderation.comisitai.comfakeimagedetector.comV7 Chrome extension
BatikmacherAI prob.  7%
(ok)
AI prob. 45%
(ok)
AI prob. 8.3% 
(ok)
AI prob. 0%
(ok)
AI prob. 17.54%
(ok)
Not AI
(ok)
Not AI
(ok)
Kloster PaulinzellaAI prob. 38%
(ok)
AI prob. 0.8%
(ok)
AI prob. 38.3%
(ok)
AI prob. 0%
(ok)
AI prob. 93.91%AI
(fail)
Not AI
(ok)
Mädchen mit KatzeAI prob. 14%
(fail)
AI prob. 98%
(ok)
AI prob. 13.8%
(fail)
AI prob. 99.9%
(ok)
AI prob. 85.47%
(ok)
AI
(ok)
Not AI
(fail)
Polizisten in ParisAI prob. 8%
(fail)
AI prob.  98.4%
(ok)
AI prob. 5.5%
(fail)
AI prob. 99.9%
(ok)
AI prob. 97.22%
(ok)
AI
(ok)
Not AI
(fail)
Trumps VerhaftungAI prob. 63%
(ok)
AI prob. 96.9%
(ok) 
AI prob. 62.2%
(ok)
AI prob. 99.9%
(ok)
AI prob. 94.04%
(ok)
AI
(ok)
Not AI
(fail)
Trefferquote60%100%60%100%80%80%40%

Hinweis: Das neue SynthID von Google konnten wir leider noch nicht testen.

Fazit: Die Ergebnisse sind besser als bei der Erkennung von KI-generierten Texten. Allerdings auch hier nicht durchgehend zuverlässig – am besten schneiden illuminarty.ai und hivemoderation.com ab. Perspektivisch dürfte es für Tools immer schwieriger werden, KI-generierte Fotos automatisiert zu erkennen.

Autor: Joerg Hoewner

Jörg Hoewner: Jg. 1969, ist Geschäftsführender Partner der K12 – Agentur für Kommunikation und Innovation und Consultant für moderne Unternehmenskommunikation in Düsseldorf. Seit 1995 berät er Kunden im Bereich Online Relations / Online-PR und war damit einer der ersten Berater in Deutschland auf diesem Feld. In den vergangenen 20 Jahren hat Jörg Hoewner zahlreiche Kunden beraten, viele Unternehmen (darunter DAX30-Unternehmen) und mehrere Verbände. Darüber hinaus ist er als Referent aktiv und Autor zahlreicher Fachbeiträge – online, in Zeitschriften und Büchern. Schwerpunktmäßig beschäftigt er sich mit dem Thema integrierte Kommunikation, deren Messbarkeit und der Auswirkung von Kommunikationstechnologien auf die interne und externe Unternehmenskommunikation. Kontakt: Jörg Hoewner (joerg.hoewner@k-zwoelf.com) – T. +49 (211) 5988 16 32.

Schreibe einen Kommentar

Pflichtfelder sind mit * markiert.


1 × fünf =