Wenn man Augen und Ohren nicht mehr trauen kann

Als Deepfake bezeichnet man Inhalte, die mit künstlicher Intelligenz erzeugt oder verändert wurden und täuschend echt wirken. Die Technik analysiert Tonfall, Sprechrhythmus und Sprachmelodie einer Person und kann daraus beliebige Sätze in dieser Stimme erzeugen. Für das menschliche Ohr ist das Ergebnis kaum noch vom Original zu unterscheiden. Oft genügt schon ein kurzes Video aus den sozialen Medien, um eine Stimme zu klonen oder aus Fotos ein gefälschtes Video zu bauen. Sogar Dialekte und persönliche Sprechgewohnheiten werden dabei erstaunlich genau nachgeahmt.

Kriminelle haben die Technik längst für sich entdeckt. Besonders verbreitet ist der sogenannte Enkeltrick 2.0: Mit einer geklonten Stimme geben sich Betrüger als Familienmitglied aus, rufen oft spät abends oder am Wochenende an und erzeugen mit einer Schocknachricht Druck, um Geld zu erpressen.

Auch Unternehmen geraten ins Visier. Beim CEO-Betrug imitieren Täter per Anruf oder Videocall eine Führungskraft und ordnen dringende Überweisungen an. Wie hoch der Schaden sein kann, zeigt der Fall des britischen Ingenieurbüros Arup, das auf diese Weise 25 Millionen Dollar verlor. Dazu kommen gefälschte Werbevideos, in denen Prominente scheinbar für dubiose Geldanlagen werben.

Die Zahlen steigen rasant. Das deutsche Bundeskriminalamt verzeichnet bei KI-gestützten Betrugsdelikten ein Plus von über 300 Prozent seit 2023. Laut einer McAfee-Studie war bereits jede vierte Person Ziel eines solchen Angriffs oder kennt jemanden, dem es so ergangen ist.

Noch lassen sich viele Fälschungen mit bloßem Auge entlarven. Bei Bildern und Videos tut sich die KI vor allem mit Haaren und Ohren schwer, etwa wenn Haarsträhnen ineinander verlaufen oder ein Ohrring nur auf einer Seite fehlt. Auch die Augen wirken oft glasig oder unnatürlich symmetrisch, und Zähne werden häufig als zusammenhängende Masse ohne klare Abgrenzung dargestellt. Bei verdächtigen Profilfotos hilft eine umgekehrte Bildersuche. Allerdings warnen Fachleute, dass die Fälschungen immer besser werden und selbst technische Erkennungsprogramme zunehmend an ihre Grenzen stoßen.

Die Verbraucherzentrale rät zu einfachen, aber wirksamen Regeln. Am wichtigsten ist ein geheimes Codewort, das man mit der Familie vereinbart und bei ungewöhnlichen Anfragen abfragt. Bei verdächtigen Anrufen sollte man immer über die bekannte Nummer zurückrufen, statt auf die eingehende zu reagieren. Bei Geldgeschäften hilft das Vier-Augen-Prinzip. Und generell gilt: je weniger Sprachaufnahmen von einem öffentlich im Netz kursieren, desto weniger Material haben Betrüger.

Mit dem Gesetz 132/2025 ist Italien seit dem 10. Oktober 2025 das erste Land der EU mit einem umfassenden Gesetz zur künstlichen Intelligenz. Es führt einen eigenen Straftatbestand ein: Wer ohne Zustimmung gefälschte Bilder, Videos oder Stimmen verbreitet, die echt wirken und Schaden anrichten, dem drohen ein bis fünf Jahre Haft. Strafbar ist dabei nicht das Erstellen, sondern das Verbreiten. Wie aktuell das Thema ist, zeigte zuletzt ein Fall aus dem Mai 2026, als ein gefälschtes Bild von Regierungschefin Giorgia Meloni die Runde machte und die Datenschutzbehörde schärfere Befugnisse gegen solche Plattformen forderte.