Deepfakes

Was sind KI-generierte Fälschungen?

Deepfakes sind Medieninhalte, die mithilfe von Künstlicher Intelligenz (KI) erstellt oder manipuliert werden. Sie sehen täuschend echt aus, sind in Wahrheit jedoch vollständig künstlich erzeugt. Möglich wird das durch Deep Learning, eine Methode des maschinellen Lernens.

Die Technologie dahinter basiert auf künstlichen neuronalen Netzen (artificial neural networks), die große Mengen an Training Data analysieren. Besonders verbreitet sind sogenannte Generative Adversarial Networks (GANs) – ein Verfahren, bei dem zwei Netzwerke gegeneinander arbeiten: Ein Generator erstellt Inhalte, ein Diskriminator bewertet deren Echtheit. Dieses Prinzip wurde von Ian Goodfellow entwickelt und revolutionierte die Entwicklung synthetischer Medien.

Auch andere Architekturen kommen zum Einsatz, zum Beispiel Convolutional Neural Networks (CNNs) für Bilder oder Recurrent Neural Networks (RNNs) – häufig in Kombination mit Long Short-Term Memory (LSTM) – für Sprache. Bei Textinhalten spielen mittlerweile Large Language Models und Techniken aus dem Bereich Natural Language Processing (NLP) eine wichtige Rolle.

Warum sind Deepfakes riskant?

Solche realitätsnahen Manipulationen können gezielt zur Täuschung eingesetzt werden. Besonders kritisch wird es, wenn Deepfakes in der Politik, auf Social Media Plattformen oder in Unternehmen genutzt werden, um falsche Informationen zu verbreiten oder Personen zu imitieren.

Im Bereich Cyber Security stellen Deepfakes ein wachsendes Risiko dar. Angreifende nutzen zum Beispiel synthetische Stimmen, um sich am Telefon als Vorgesetzte auszugeben – ein moderner Fall von Social Engineering, der zu massiven Sicherheitsvorfällen führen kann. So geraten sensible Informationen in falsche Hände.

Auch der Schutz vor potenziellen Bedrohungen wird komplexer, da Fälschungen immer schwerer zu erkennen sind. Unternehmen sind gefordert, ihre IT-Sicherheitsmaßnahmen zu erweitern.

Wie kann man sich schützen?

Erste Lösungen zur Erkennung von Deepfakes basieren ebenfalls auf Machine Learning und kommen teils als Open Source-Tools zum Einsatz. Diese analysieren Bild- oder Tonmaterial auf typische Merkmale künstlicher Bearbeitung. In Kombination mit Schulungen und klaren Prozessen können sie helfen, KI-generierte Inhalte zu identifizieren und zu vermeiden.

Wichtig ist außerdem eine starke Awareness-Kultur im Unternehmen. Die Kombination aus Technologie, Medienkompetenz und organisatorischen Maßnahmen schützt langfristig vor Manipulation durch künstlich erzeugte Inhalte.