Video-Deepfakes

KI kann Menschen längst nahezu perfekt imitieren. Fraunhofer-Forschende arbeiten deshalb an Lösungen, um Manipulationen in Echtzeit aufzuspüren

Ein Videocall mit dem CEO, mehrere vertraute Gesichter aus dem Kollegenkreis auf dem Bildschirm und die Bitte, eine dringende Überweisung zu tätigen: 2025 ging der Finanzdirektor eines Unternehmens in Singapur einem Deepfake auf den Leim und überwies knapp 500 000 US-Dollar an die Betrüger. Denn was der Businessmann nicht ahnte: Alle Gesprächsteilnehmer des Videocalls waren KI-generiert. Einen riesigen Anstieg solcher Videobetrugsfälle verzeichnete die Cyber Security Agency in Singapur Anfang 2026: 1200 Vorfälle allein im Januar, während es im Vorjahresmonat erst 43 waren. Weltweit nehmen solche Angriffe rasant zu.

Warum Deepfakes immer schwerer zu erkennen sind

KI kann heute Stimmen und Gesichter in Echtzeit täuschend echt nachbilden. Gleichzeitig lassen sich die Fälschungen immer schwieriger erkennen. Denn Videokonferenzen liefern keine perfekten Bilder: Kompression, schwankende Verbindungen, Weichzeichnungsfilter und unterschiedliche Lichtverhältnisse erschweren die Analyse. Von solchen Deepfake-Angriffen sind nicht nur Videokonferenzen in Unternehmen bedroht, sondern auch bislang sichere videobasierte Verfahren von Banken, die Kunden etwa bei der Eröffnung von Konten zweifelsfrei identifizieren sollen. Standardisierte Interaktionsmuster wie Kopf- oder Handbewegungen und selbst das Zeigen des Personalausweises lassen sich inzwischen mit entsprechenden KI-Tools imitieren.

Echtzeit-Analyse identifiziert manipulierte Audio- und Videodaten

Die Herausforderung: Statt nur sichtbare Manipulationen zu detektieren, müssen neue Sicherheitslösungen zunehmend prüfen, ob der Inhalt des Videostreams nicht wahrnehmbare, aber statistisch auffällige Signaleigenschaften hat. Hier setzen Prof. Martin Steinebach und sein Team am Fraunhofer-Institut für Sichere Informationstechnologie SIT an. In einem Projekt des Nationalen Forschungszentrums für angewandte Cybersicherheit ATHENE entwickelt sein Team aus Mitarbeitenden in Darmstadt und am Fraunhofer Heilbronn Forschungs- und Innovationszentrum (HNFIZ) für Cybersicherheit eine KI-basierte Lösung, die Audio- und Video-Deepfakes kombiniert erkennt. »Wenn ein Gespräch viele Indikatoren aufweist, gibt das System eine Wahrscheinlichkeit aus, ob es sich hier um Deepfake handeln könnte«, erklärt Steinebach. »Dann ist aber immer noch der Mensch gefragt, der mit gezielten Rückfragen oder auch einem Rückruf auf einem anderen Kanal die Echtheit seines Gegenübers verifizieren muss.«

Die Analyse erfolgt lokal, ohne dass Bild- oder Tondaten an einen externen Server übertragen werden. Damit ist sie datenschutzkonform und für Unternehmen geeignet, die vertrauliche Gespräche führen, etwa mit Vorständen, Finanzabteilungen oder externen Partnern. »Für die lokale Echtzeitanalyse unserer Lösung reicht ein Laptop mit moderner Grafikkarte und zwölf Gigabyte Grafikspeicher«, betont Steinebach. Auch Anbieter von Videokonferenzsystemen können die Software als Plug-in oder fest eingebaute Sicherheitsfunktion in Systemen wie Teams, Zoom oder vergleichbaren Unternehmenslösungen integrieren.

Trainingsdaten als Schlüssel für zuverlässige KI-Detektion

Die Forschenden füttern das selbstlernende System mit echten und manipulierten Audio- beziehungsweise Videodaten. Es lernt so, Unterschiede selbstständig zu erkennen.

Entscheidend ist, dass die Trainingsdaten ein realistisches Videokonferenzumfeld möglichst gut abbilden. In der KI spreche man von Augmentation, erklärt Steinebach: »Man versieht das Material mit den Störungen, die im realen Betrieb auftreten, und schult das System so, dass es mit diesen umgehen kann.« Da es sich um ein spezialisiertes Modell für eine klar umrissene Aufgabe handelt, ist das Training jedoch deutlich kleiner dimensioniert als bei großen Sprachmodellen.

Derzeit befindet sich der Demonstrator noch in der Proof-of-Concept-Phase. Im nächsten Schritt wollen die Forschenden die Technologie gemeinsam mit Unternehmen und Anbietern von Videokonferenzsystemen weiterentwickeln, um sie zuverlässig, datenschutz- und nutzerfreundlich in deren Infrastrukturen zu integrieren.

Identitätsprüfung: Warum der Mensch die letzte Sicherheitsinstanz bleibt

Im Fall des Finanzdirektors aus Singapur konnten die Behörden das überwiesene Geld glücklicherweise später sichern. Doch die Gefahr durch Deepfakes wächst weiter. Gleichzeitig können kryptographisch abgesicherte Kommunikation, zusätzliche Authentifizierung und technische Erkennungssysteme das Risiko deutlich senken. Noch. Langfristig könnte sich nach Ansicht des IT-Forensikers die Perspektive auf Deepfakes aber in eine andere Richtung verschieben: »In Zukunft werden wir vielleicht eher dazu übergehen, echte Inhalte als echt nachzuweisen, als Fälschungen als solche zu identifizieren – etwa mit sicheren Signaturen.«

Entscheidend ist und bleibt, so Steinebach, der Mensch: Wer in einer Videokonferenz unerwartet zu einer Geldüberweisung aufgefordert wird, sollte die Identität des Gegenübers immer über einen zweiten Kommunikationskanal prüfen.