Ein wichtiges Element für den Umgang mit KI-generierten (vermeintlichen) Fake-Inhalten sind KI-Detektoren. Wir haben für die Ausgabe 5/2023 des prmagazins verschiedene Detektoren für KI-Texte getestet und die meisten von ihnen für untauglich befunden. Inzwischen sieht selbst OpenAI in, dass die KI-Detektoren für Text Schrott sind.
Doch wie sieht es mit Detektoren für KI-generierte Bilder aus? Besteht da noch Hoffnung?
Wir haben vier verschiedene Fotos getestet, von denen eines (angeblich) Nicht-KI-generiert ist, die anderen drei nachweislich mit KI. Alle Fotos waren unter einer Creative Commons-Lizenz verfügbar.
- Batikmacher – angeblich Nicht-KI-generiert (Link) – wobei wir da erhebliche Zweifel haben
- Kloster Paulinzella – Nicht-KI-generiert
- Mädchen mit Katze – KI-generiert (leichter zu erkennen, imho)
- Polizisten in Paris – KI-generiert (schwierig aus unserer Sicht, Indizien sind die seltsamen Kameras, aber der Rest wirkt echt)
- Trumps Verhaftung – KI generiert (hier sind Artefakte erkennbar, aber erst auf dem zweiten Blick)
.jpg){kind=link}
Verschiedene Tools wurden ausprobiert, die Ergebnisse im Einzelnen:
Prob. = Probability / Wahrscheinlichkeit
| Testbild | Huggingface.co (Maybe´s AI Art Detector) | illuminarty.ai | detecting-ai.com | hivemoderation.com | isitai.com | fakeimagedetector.com | V7 Chrome extension |
| Batikmacher | AI prob. 7% (ok) | AI prob. 45% (ok) | AI prob. 8.3% (ok) | AI prob. 0% (ok) | AI prob. 17.54% (ok) | Not AI (ok) | Not AI (ok) |
| Kloster Paulinzella | AI prob. 38% (ok) | AI prob. 0.8% (ok) | AI prob. 38.3% (ok) | AI prob. 0% (ok) | AI prob. 93.91% | AI (fail) | Not AI (ok) |
| Mädchen mit Katze | AI prob. 14% (fail) | AI prob. 98% (ok) | AI prob. 13.8% (fail) | AI prob. 99.9% (ok) | AI prob. 85.47% (ok) | AI (ok) | Not AI (fail) |
| Polizisten in Paris | AI prob. 8% (fail) | AI prob. 98.4% (ok) | AI prob. 5.5% (fail) | AI prob. 99.9% (ok) | AI prob. 97.22% (ok) | AI (ok) | Not AI (fail) |
| Trumps Verhaftung | AI prob. 63% (ok) | AI prob. 96.9% (ok) | AI prob. 62.2% (ok) | AI prob. 99.9% (ok) | AI prob. 94.04% (ok) | AI (ok) | Not AI (fail) |
| Trefferquote | 60% | 100% | 60% | 100% | 80% | 80% | 40% |
Hinweis: Das neue SynthID von Google konnten wir leider noch nicht testen.
Fazit: Die Ergebnisse sind besser als bei der Erkennung von KI-generierten Texten. Allerdings auch hier nicht durchgehend zuverlässig – am besten schneiden illuminarty.ai und hivemoderation.com ab. Perspektivisch dürfte es für Tools immer schwieriger werden, KI-generierte Fotos automatisiert zu erkennen.
