Kein Hinweis auf KI
Luftbild von Demo in Köln wird von anderen Aufnahmen bestätigt
25.1.2024, 17:37 (CET), letztes Update: 26.1.2024, 08:16 (CET)
Die Großdemonstrationen gegen rechts rufen bei manchen Nutzerinnen und Nutzern in den sozialen Netzwerken wütende Reaktionen hervor. In einigen Postings werden auch Zweifel an der Echtheit von Aufnahmen geäußert, auf denen die Menschenmengen zu sehen sind. So etwa am Beispiel der Stadt Köln: Eine Luftaufnahme der dortigen Demonstration am 16. Januar sei mit Künstlicher Intelligenz (KI) bearbeitet oder erstellt worden, heißt es. Das würden entsprechende Analyseprogramme zeigen.
Bewertung
Für eine Manipulation gibt es keine Belege. Weitere Aufnahmen, darunter ein Video, zeigen dieselbe Menschenmenge in Köln. Tools zur KI-Erkennung gelten als noch wenig ausgereift. Ihre Ergebnisse schwanken und sind kaum belastbar.
Fakten
Der Platz auf dem Bild zeigt den Heumarkt in Köln. Dort gab es am 16. Januar eine Demonstration gegen Rassismus und gegen rechts. Ein Instagram-Nutzer veröffentlichte am Tag danach mehrere Aufnahmen: drei Fotos und ein Video, die aus der Luft, also mutmaßlich mit einer Drohne aufgenommen wurden.
Doch über eines der Bilder heißt es, es sei manipuliert worden. Kann das sein? Und wie aussagekräftig ist die Bewertung eines KI-Analysetools, die diese Behauptung belegen soll?
Dass der Heumarkt in Köln am 16. Januar sehr stark gefüllt war, geht aus mehreren Aufnahmen aus der Luft hervor. Zum einen stützen die in dem Instagram-Beitrag veröffentlichten Bilder sich gegenseitig. Die verschiedenen Details - also etwa Schirme, Laternen und deren Lichtkegel, das große Denkmal, die Polizei-Mannschaftswagen und die Gebäude stimmen auf den Bildern überein. Viele der Details sind auch in dem Video in dem Beitrag zu erkennen.
Dieselbe Menschenmenge in weiterem Drohnenvideo
Bestätigt werden die Aufnahmen auf Instagram durch weitere Luftbilder. Der «Kölner Stadt-Anzeiger» (KStA) hat ein Video auf Youtube veröffentlicht, das ebenfalls Drohnenaufnahmen enthält. Sie zeigen einen ähnlich großen Andrang auf dem Platz und dieselben Details. Allerdings hat das Video eine andere Lichtstimmung. Die Glanzlichter sind weniger stark. Das kann an unterschiedlichen Kameraeinstellungen oder Videofiltern liegen.
Der Ursprung der Behauptung, ein Foto sei mit KI erstellt oder bearbeitet worden, findet sich in einem inzwischen gelöschten Beitrag auf der Plattform X (vormals Twitter). Dort behauptete ein Nutzer zudem, dass auf dem vermeintlich manipulierten Bild ein grüner Baum zu sehen sei - und das im Januar.
Doch es handelt sich um eine optische Täuschung. Ein anderer X-Nutzer weist darauf hin, dass sich an der Stelle eine Gaststätte mit grüner Leuchtreklame befindet. Das stimmt: Sie findet sich auf Google Maps. Das Licht strahlt offenbar die Bäume vor dem Gebäude an, die dadurch aus der Ferne so wirken, als trügen sie Laub.
Tools zur KI-Erkennung liefern widersprüchliche Ergebnisse
Aber wie ist der Prozentwert einzuschätzen, den Nutzer als Beleg anführen, dass es sich um ein mit KI bearbeitetes oder erschaffenes Bild handelt? Ein Test mit dem Foto aus Köln und dem gezeigten KI-Erkennungstool ergibt ebenfalls einen Wert, der eine KI als Urheber nahelegt. Wie das Tool arbeitet, wird auf der Website jedoch nicht transparent gemacht. Ein anderes im Netz verfügbares Tool zeigt bei einem Test mit demselben Foto ein gänzlich anderes Ergebnis. Die KI-Wahrscheinlichkeit wird dort mit null Prozent angegeben.
Grundsätzlich gilt: Ebenso wie bei der Bildgenerierung mit Künstlicher Intelligenz Fehler auftreten können, sind Tools zur Erkennung von KI-Material häufig noch nicht ausgereift und somit nicht verlässlich.
Es gibt aber jenseits von neuen Technologien Möglichkeiten, KI-Fälschungen zu entlarven. Ein Blick auf Details ist hilfreich, denn Objekte, Gesichter oder Körperteile am Bildrand oder im Hintergrund können unrealistische Verzerrungen aufweisen. Zudem gilt bei einem Ereignis, das in der Öffentlichkeit stattfindet: Es gibt in der Regel weitere Aufnahmen, zum Beispiel in den sozialen Netzwerken. Das war auch in Köln der Fall.
Die Polizei sprach nach der Demonstration auf dem Heumarkt von mehreren Zehntausend Teilnehmerinnen und Teilnehmern. In einem «KStA»-Bericht ist unter Berufung auf die Polizei von 30 000 Menschen die Rede. Die Organisatoren hatten ursprünglich mit deutlich weniger Zuspruch gerechnet. Der Polizei zufolge drängten sich die Menschen auch in den Straßen um den Heumarkt herum. Die Luftbilder bestätigen das. Im Video des «Kölner Stadt-Anzeigers» sind die vollen Nebenstraßen zu sehen.
(Stand: 25.1.2023)
Links
Beitrag auf Instagram (Archiv: Beitrag, Bild 1, Bild 2, Bild 3, Video)
Video des «Kölner Stadt-Anzeigers» (archiviert; Video archiviert)
Antwort auf den Beitrag (archiviert)
Foto der Gaststätte auf Google Maps (archiviert)
Verwendetes Tool zur KI-Erkennung (archiviert)
Tipps der Deutschen Welle zur KI-Erkennung (archiviert)
Pressemitteilung der Polizei zur Demo (archiviert)
Über dpa-Faktenchecks
Dieser Faktencheck wurde im Rahmen des Facebook/Meta-Programms für unabhängige Faktenprüfung erstellt. Ausführliche Informationen zu diesem Programm finden Sie hier.
Erläuterungen von Facebook/Meta zum Umgang mit Konten, die Falschinformationen verbreiten, finden Sie hier.
Wenn Sie inhaltliche Einwände oder Anmerkungen haben, schicken Sie diese bitte mit einem Link zu dem betroffenen Facebook-Post an faktencheck@dpa.com. Nutzen Sie hierfür bitte die entsprechenden Vorlagen. Hinweise zu Einsprüchen finden Sie hier.
Schon gewusst?
Wenn Sie Zweifel an einer Nachricht, einer Behauptung, einem Bild oder einem Video haben, können Sie den dpa-Faktencheck auch per WhatsApp kontaktieren. Weitere Informationen dazu finden Sie hier.