Angebliche Wutrede: Video eines Jungen in TV-Show wurde KI-generiert
- Veröffentlicht am 23. Oktober 2025 um 16:36
- 4 Minuten Lesezeit
- Von: Elena CRISAN, AFP Österreich
Copyright © AFP 2017-2025. Für die kommerzielle Nutzung dieses Inhalts ist ein Abonnement erforderlich. Klicken Sie hier für weitere Informationen.
Aufgrund technischer Fortschritte finden sich gehäuft realistisch wirkende Videos in sozialen Medien, die Userinnen und User oft nicht sofort als manipuliert erkennen. Eine angebliche Aufnahme eines wütenden Jungen in einer TV-Sendung, in der er sich über die Corona-Pandemie und den Wehrdienst aufregt, ist ein Beispiel dafür. Anhand mehrerer Elemente ist erkennbar, dass es sich dabei um Künstliche Intelligenz (KI) handelt. Das zeigen auch KI-Erkennungstools auf.
Ein Video von einem Jungen, der in einer TV-Sendung mit der Politik abrechnet, erhielt Mitte Oktober 2025 tausende Shares und Likes auf Facebook, Instagram und X. In den Kommentaren stießen die Aussagen auf Zustimmung: "Respekt, der junge Mann hat kapiert, dass er von dem aktuellen Regime nur für dumm verkauft wird", lautete eine Einblendung im Clip. "Hut ab! Wo war das?", fragte eine andere Userin. Auch auf Tiktok fand die Szene Anklang bei Userinnen und Usern.
Die zehn Sekunden dauernde Szene erinnert an eine typische Talkshow im deutschen Fernsehen. Ein Junge, der den Anschein erweckt, wütend und weinerlich zugleich zu sein, sagt darin: "Erst habt ihr uns bei Corona wegen nichts eingesperrt. Es gab nicht mehr Intensivpatienten oder respiratorische Erkrankungen als 2019. Und jetzt wollt ihr uns den Dienst an der Waffe aufdrücken? Ihr autoritären Schweine." Es scheint, als würde ihm gegenüber eine Politikerin oder ein Politiker mit Regierungsverantwortung sitzen. Im Hintergrund sind mehrere Menschen zu sehen, die auf einer Tribüne sitzen. Der Sitznachbar des Jungen – ein Mann im Anzug – lächelt ihm zu und sagt: "Wahnsinn".
Doch eine solche Sendung hat es nicht gegeben. Bei dem Clip handelt es sich um KI.
In seiner Rage vergleicht der Junge Restriktionen wie Lockdowns während der Covid-Pandemie mit der aktuellen Debatte zur Wehrpflicht.
Die Debatte zum neuen Wehrdienst sorgte auch für Spannungen in der Koalition – und für Falschmeldungen im Internet, die AFP widerlegte. Die Bundesregierung plant aktuell eine Reform des Wehrdienstes, um den Personalmangel bei der Bundeswehr zu beheben. Das neue Wehrdienstgesetz wurde am 16. Oktober 2025 erstmals im Bundestag diskutiert. Im Mittelpunkt der Debatte steht die Frage, wie vorgegangen werden soll, wenn die verteidigungspolitische Lage mehr Streitkräfte erfordert und ob künftig wieder alle jungen Männer zur Musterung verpflichtet werden sollen.
Video wurde mit Videogenerator Sora erstellt
Das Video ist mit dem Wasserzeichen Sora versehen, welches dessen Erstellung mithilfe einer App des US-amerikanischen Softwareunternehmens OpenAI kennzeichnet. Mehrere Userinnen und User wissen oder erkennen jedoch offenbar nicht, dass es sich bei Sora um ein KI-Erstellungstool handelt.
Abgesehen davon sind weitere Anhaltspunkte für eine KI-Erstellung deutlich im Clip zu erkennen. Für einige Sekunden gestikuliert der Junge scheinbar mit drei Armen. Wenn er redet, passt die Bewegung seines Mundes nicht zu den Muskelbewegungen in seinem Hals.
Ungereimtheiten finden sich ebenfalls im Publikum: Die Gesichter der Zuseherinnen und Zuseher sind unnatürlich verschwommen. Zudem wirken sie starr, weil sie sich kaum zu bewegen scheinen.
Auch Audiospur wurde mittels KI erstellt
Die Stimme wirkt zwar realistisch im Vergleich zu früheren KI-Videos, die AFP überprüfte, aber dennoch auffällig. Abgesehen davon, dass die Stimme des Jungen leicht hallt, sind Schimpfwörter wie "ihr autoritären Schweine" in seriösen Gesprächsformaten eher unüblich.
AFP überprüfte die Audiospur mithilfe der neuesten Entwicklerversion des Tools Hiya im Verifizierungstool InVID-WeVerify. Die Analyse ergab eine 99-prozentige Wahrscheinlichkeit, dass der Ton KI-generiert wurde.
Auch mithilfe des Tools deepfake-total.com des Fraunhofer-Instituts für Angewandte und Integrierte Sicherheit konnte AFP bestätigen, dass die Audiospur des Videos, das sich online vielfach verbreitete, zu 99,9 Prozent manipuliert wurde.
KI-generierte Inhalte "sind allgegenwärtig"
Seit der Einführung von Sora 2 am 30. September 2025 fluten realistisch wirkende KI-Videos das Internet, die dazu genutzt werden können, Wut gegenüber der Regierung zu schüren – wie im zugrundeliegenden Clip des aufgebrachten Jungen.
"KI-Videos und -Bilder sind allgegenwärtig", sagte KI-Forscher Bo Bergstedt gegenüber AFP am 22. Oktober 2025, der beim dänischen Fernsehsender TV 2 als IT-Experte arbeitet und bereits mehrere KI-Generatoren selbst testete. Während KI-Modelle sich ständig weiterentwickeln, habe Sora noch "einige Probleme", auf die Bergstedt hinwies, etwa wenn sich andere Sprachen mit Englisch vermischen. Erstellerinnen und Ersteller solcher Videos könnten Ungereimtheiten jedoch nachträglich mit einem Schnittprogramm entfernen, merkte Bergstedt gleichzeitig an.
Die wichtigsten Erkennungsmerkmale für eine KI-Erstellung laut Bergstedt seien das Sora-Wasserzeichen und Pixelfehler. Es gebe zwar Websites, die das Wasserzeichen kostenlos entfernen, allerdings sei das Ergebnis "in der Regel nicht perfekt". Die aktuelle Sora-Version ist in Europa noch nicht vollständig verfügbar und funktioniert noch über Einladungscodes oder über andere Plattformen, die Sora 2 bereits in ihre Dienste integriert haben.
Das Faktencheck-Team des deutschen Recherchenetzwerks "Correctiv" überprüfte eine ähnliche Behauptung mit einem anderen Video aus einer Talkshow, das mit dem Sora-Wasserzeichen versehen ist. Der Artikel vom 22. Oktober 2025 beleuchtet die Gefahr von sogenannten Cameos in der Sora-App. Mit dem Cameo-Feature können Nutzerinnen und Nutzer digitale Versionen von sich selbst erstellen lassen. Ob das überprüfte Video auf solchen Cameos basiert, ist unklar. Das englische Wort kann auch ein Gastauftritt einer prominenten Person in einem Film bedeuten. Cameos können je nach Datenschutzeinstellungen in der App von allen Nutzerinnen und Nutzern auf der Plattform weiterverwendet werden.
AFP überprüft regelmäßig Falschbehauptungen, die in Kombination mit KI-generierten Inhalten geteilt werden. Auch im Zusammenhang mit TV-Ausschnitten hat AFP bereits Faktenchecks verfasst.
Fazit: Ein angeblicher Clip eines wütenden Jungen in einer TV-Sendung, in dem er die Regierung für Corona-Maßnahmen sowie eine mögliche Wehrpflicht kritisiert haben soll, wurde KI-generiert. Das ist anhand mehrerer Elemente erkennbar und wurde ebenfalls mithilfe von KI-Erkennungstools bestätigt.
