Russland: So nutzt Moskau Deepfakes im Kampf gegen die Ukraine

Sie sehen echt aus, doch diese Videos sind allesamt fake – produziert mithilfe von KI.

Francesco Cavalli, Sensity AI »Grundsätzlich entwickeln sich Deepfakes zu einem festen Bestandteil der hybriden Kriegsführung – und in diesem Fall der kognitiven Kriegsführung. Der entscheidende Punkt ist, dass KI es dem Feind ermöglicht, Deepfakes im industriellen Ausmaß zu produzieren.«

Russland greift die Ukraine nicht nur mit Raketen und Drohnen an. Dazu kommt die sogenannte »kognitive Kriegsführung«, damit beeinflussen sie, wie der Krieg in der Öffentlichkeit wahrgenommen wird.

Francesco Cavalli und sein Team haben mehr als 1000 solcher Videos ausgewertet – um die Methodik der russischen KI-Maschinerie zu entlarven. Sie haben sieben Grundmuster herausgearbeitet, die immer wieder reproduziert werden. Die ersten vier Kategorien richten sich an die ukrainischen Truppen an der Front. Das Ziel: Das Vertrauen in die eigene Führung zu schwächen.

Gern werden dabei konkrete Brigadenamen und Koordinaten genannt, um Authentizität vorzugaukeln:

Soldat: »Leute, wir sind von der 60. Brigade an der Front in Lyman. Wir haben null Rückendeckung. Wir sind auf uns allein gestellt.«

Soldat: »Es gibt null Kommunikation mit den Kommandeuren. Wir wurden einfach im Stich gelassen.«

Francesco Cavalli, Sensity AI »Wenn man so jemanden sieht, der sagt: ›die Niederlage steht kurz bevor, wir ziehen uns zurück‹ – wird das die Moral schwächen. Aber das Hauptziel ist vor allem, Verwirrung zu stiften. Denn Verwirrung erleichtert die Propagandaarbeit ungemein.«

Cavallis Team konnte dabei Sätze identifizieren, die immer wieder auftauchen. Francesco Cavalli, Sensity AI »Sätze wie zum Beispiel: ›Alle Hoffnung ist verloren‹, "keine Munition mehr" oder ›wir haben den Kontakt verloren‹. Diese pessimistischen Satzfragmente wurden im gesamten Videocluster identifiziert.« Auf dem Cyber-Schlachtfeld zählt jeder Klick – und Details werden entsprechend der Algorithmen angepasst: Francesco Cavalli, Sensity AI »Wenn zum Beispiel ein Soldat nicht für genügend Interaktion sorgt, dann nehmen wir eben einen Zivilisten. Oder wenn der Schauplatz dieses Videos nicht genug Kommentare und Reaktionen hervorruft – dann ändern wir eben den Schauplatz.«

Die KI-Videos werden tausendfach in verschiedenen Varianten reproduziert. Noch vor drei Jahren war es relativ einfach, ein KI-generiertes Bild zu erkennen, heute nicht mehr. Das Team von Cavalli überprüft die Videos mithilfe sogenannter tiefer neuronaler Netze, die darauf ausgelegt sind, KI-Signale zu erkennen. Hier geht also KI gegen KI vor. Francesco Cavalli, Sensity AI »Diese neuronalen Netze können auf Pixelebene Signale erkennen, die auf KI-Manipulation hindeuten. Das ist die erste Ebene. Die zweite Ebene betrifft den Audiobereich. Wir versuchen mithilfe spezieller Algorithmen festzustellen, ob die Stimme geklont ist oder synthetisch, also vollständig KI-generiert ist und ob die Geräusche KI-generiert sind. Die dritte Ebene ist die Datenverlaufsanalyse. Wir laden Videos herunter und versuchen, sie bis zur Quelle zurückzuverfolgen.«

Francesco Cavalli, Sensity AI »Wir haben TikTok als sogenannte ›Seeding‹-Plattform‹ identifiziert.