Eine Warnung: Generative KI ist ja dafür gebaut, so gut wie möglich zu imitieren, deshalb ist das mit der Entdeckung schwierig. Selbst gute Detektoren liegen allenfalls statistisch richtig — für den jeweiligen Einzelfall gibt es Wahrscheinlichkeiten, keine Gewissheiten. (Selbst, wenn sich der Detektor zu 99,8% sicher ist, heißt das immer noch: in einem von 500 Fällen liegt er daneben.) Zudem sind die Detektor-Ergebnisse oft sehr stark abhängig davon, auf welches Modell sie abgestimmt sind und können deshalb völlig verzerrte Ergebnisse liefern, wenn sie auf eine KI stoßen, die ihnen unbekannt ist.
Zusammengefasst: Detektoren liefern Indizien, keine Beweise.
Weil die Hersteller von kommerziellen Detektoren das wissen, haben sie ihre Algorithmen häufig so abgestimmt, dass sie eher falsch-positive Ergebnisse liefern – also eher dazu neigen, harmlose Inhalte unter KI-Fälschungs-Verdacht zu stellen.
Stand: 21.10.2024 – sehr vorläufig und nicht vollständig!
Bild
- Deepfake-o-meter: Forscher-Projekt; kostenlos. Registrierung erforderlich. (Mehr über das Projekt bei t3n)
- TrueMedia.org: Angeblich gemeinnützig; kostenlos. Registrierung erforderlich. Erkennt KI-generierte Bilder aus den üblichen Generatoren, aber keine klassischen Bildmanipulationen.
- WeVerify InVID Plugin: Browser-Plugin mit klassischen Verifikationstools; keine dedizierte KI-Generator-Erkennung
- Hive: Kommerzieller Detektor. Prüft gegen mehrere Modelle.
Text
- Detectora: Kommerzielles Projekt, Spinoff einer Masterarbeit von Tom Tlok. Letzten Endes ein feingetuntes und gegen Angriffe gehärtetes BERT, das vor allem auf die sehr KI-typischen Eigenheiten in Satzbau und Wortwahl zu achten scheint. Trainiert auf die gängigen Modelle.
- originality.ai: Kommerzieller Detektor mit zusätzlichen Faktencheck-Tools, das sich vor allem an Autoren wendet, die KI-Verdacht vermeiden wollen. (Clever.) Bietet eine Chrome-Extension, die automatisch checkt, und kostet bei professioneller Anwendung 15 Dollar im Monat.
- Hive: Kommerzieller Detektor. Prüft gegen mehrere Modelle
Ton
- Hive: Kommerzieller Detektor. Prüft gegen mehrere Modelle.
- Deepfake Total: Fraunhofer-Forschungsprojekt sucht nach KI-generierten und manipulierten Tonspuren (auch in Youtube-Videos)
- Digger: Projekt der Deutschen Welle zur Erkennung von Fälschungen auf der Tonspur; was es schon gibt, ist ein Trainingsprogramm, das die Aufmerksamkeit für Auffälligkeiten schärft. Arbeiten mit Fraunhofer zusammen.
https://www.aiornot.com/
https://www.realitydefender.com/
https://illuminarty.ai/en/
https://huggingface.co/spaces/umm-maybe/AI-image-detector
https://sensity.ai/