Anlässlich der bevorstehenden Wahlen in Grossbritannien, Indien, den USA sowie drei deutschen Bundesländern setzen sich die Sicherheitsforscher von Check Point mit den unterschiedlichen digitalen Bedrohungen auseinander. Das Potential für Wahlbetrug durch den geschickten Einsatz von künstlicher Intelligenz und Deepfake-Technologien, wie gefälschte Videos und Stimmen, ist hoch.

Nachforschungen zeigen, dass es auf offenen Plattformen wie GitHub über 3000 Repositories im Zusammenhang mit der Deepfake-Technologie gibt. Telegram beherbergt Hunderte von Kanälen (ca. 400 bis 500) und Gruppen, die Deepfake-Dienste anbieten. Dabei handelt es sich um automatisierte Bots, die Nutzer durch den Prozess führen, bis hin zu personalisierten Diensten, die direkt von Einzelpersonen angeboten werden.

Die Preise für diese Dienste variieren und beginnen bei 2 US-Dollar pro Video und reichen bis zu 100 US-Dollar für mehrere Videos. Die Preise für das Stimmenklonen starten bei etwa 10 US-Dollar pro Monat und reichen bis zu mehreren hundert US-Dollar. Sie variieren je nach den angebotenen Funktionen, wie Sprache-zu-Sprache in Echtzeit, geringere Latenzzeit oder API-Zugang für nur 0,006 US-Dollar pro Sekunde der erzeugten Stimme.

Die Kampagnen werden von Hacktivisten und gewöhnlichen Hackern gleichermassen organisiert. Untersuchungen zeigen, dass die Verfügbarkeit von Deepfake-Diensten im Darknet und bei Kanälen wie Telegram stark zugenommen hat und es sich um koordinierte Aktionen handelt. Die Angreifer weben ein komplexes Netz aus Fehlinformationen und Manipulationen, das die Bemühungen um den Schutz der Integrität der staatlichen Wahlen und das Vertrauen der Öffentlichkeit in den demokratischen Prozess beeinträchtigt.

Einige der grössten Herausforderungen der zuständigen IT-Verantwortlichen:

Die leichte Zugänglichkeit der Deepfake-Technologie.
Die Möglichkeit zum Wahlbetrug durch den Einsatz von künstlicher Intelligenz und Deepfake-Technologien, orchestriert von einem geheimen Netzwerk, das keine digitalen Fingerabdrücke hinterlässt.
Das Klonen von Stimmen zur Vergrösserung des Potentials von Fehlinformationen und somit der Manipulation der Wähler.
Der langwierige Prozess um gesetzliche Massnahmen gegen diese Technologien.

Deepfake-Technologie eignet sich perfekt für Manipulationen

Was diesen Trend so gefährlich macht: Deepfake-Technologie ermöglicht die Erstellung realistischer, aber vollständig gefälschter audio-visueller Inhalte. Perfekt geeignet zur Manipulation der Bürger, wenn Politiker imitiert werden. Die Einfachheit des Zugangs und der Nutzung dieser Dienste unterstreicht eine wachsende Bedrohung nicht nur der Transparenz des Wahlprozesses, sondern auch es grundlegenden Vertrauens in demokratische Institutionen.

Das Klonen von Stimmen stellt eine wichtige Untergruppe der Deepfake-Technologie dar. Hier werden maschinelles Lernen und künstliche Intelligenz eingesetzt, um die Stimme einer Person mit bemerkenswerter Genauigkeit nachzuahmen. Diese Technologie analysiert Tonproben, um die Merkmale der Stimme, wie Tonhöhe, Tonfall und Sprechstil, zu lernen. Anschliessend kann sie neue Reden erzeugen und hierfür diese Nuancen beachten, wodurch überzeugend gefälschte Tonaufnahmen erstellt werden können.

Diese Audio-Deepfakes können besonders effektiv sein, um Fehlinformationen zu verbreiten, wie Vorfälle von Robocalls mit gefälschten Botschaften von Politikern zeigen. Im Gegensatz zu Video-Deepfakes, die eine komplexe Manipulation visueller Daten erfordern, sind Audio-Deepfakes wesentlich einfacher herzustellen und zu verbreiten, was ein erhebliches Potential zur Irreführung der Wähler und Untergrabung des Vertrauens in den Wahlprozess darstellt.

Gesetzgebung noch im Entstehen

In Anbetracht der Zunahme des Stimmenklonens hat die US-Regierung KI-generierte Sprachanrufe, sogenannte Robocalls, verboten. Vorausgegangen waren zu Beginn des Jahres Anrufe bei US-Wählern mit der gefälschten Stimme von Joe Biden. Auch in Deutschland kam es zu besorgniserregenden Vorfällen, darunter das angeblich satirisch gedachte Deepfake-Video von Olaf Scholz, oder der Scherzanruf des russischen Komiker-Duos Wowan und Lexus bei Angela Merkel, die sich erfolgreich als Petro Poroschenko, ehemaliger Präsident der Ukraine, ausgaben. Auch Habeck fiel auf die beiden herein.

Dieser Schritt spiegelt die wachsende Besorgnis über digitale Manipulationen und ihre Auswirkungen auf die Integrität von Wahlen wider. Die kontinuierliche Entwicklung der Deepfake-Technologie und ihrer Anwendungen verdeutlicht jedoch den ständigen Konflikt zwischen technologischem Fortschritt und ethischer Gesetzgebung.

Dazu gehören nicht nur legislative Massnahmen, sondern auch die Sensibilisierung der Öffentlichkeit, technologische Gegenmassnahmen und internationale Zusammenarbeit. Die Herausforderung besteht nicht nur darin, die Technologie selbst zu dämpfen, sondern auch das Vertrauen zu bewahren, das für demokratische Gesellschaften unerlässlich ist. Es ist ausserdem unerlässlich, über die technologischen Aspekte hinauszugehen und sich mit dem menschlichen Element hinter diesen Vorgängen zu befassen. Zudem ist die Zusammenarbeit zwischen Technologie-Unternehmen, Strafverfolgungsbehörden und IT-Sicherheitsexperten von entscheidender Bedeutung für die Entwicklung ausgefeiter Methoden zur Erkennung und Abwehr dieser Bedrohungen.

Schutzmassnahmen

Tipps für Bürger, um sich im Vorfeld von Wahlen aber auch anderen demokratischen Prozessen, vor Desinformation und Manipulation zu schützen:

Bürger sollten die Inhalte, die sie konsumieren, stets kritisch hinterfragen.
Alarmierende Zeichen bestehen zumeist in der direkten Aufforderung der Weiterverbreitung im gleichen Medium.
Nutzer sollten sich die Frage stellen, ob zu Spenden oder aber zu anderen Aktivitäten aufgerufen wird, die verdächtig erscheinen.
Links und URLs sollten möglichst vor dem Aufruf geprüft werden. Empfehlenswert für generell unsichere Nutzer ist es, mehr zur Webseite über Suchmaschinen herauszufinden, bevor diese besucht wird.
Nur seriöse Quellen und Informationen offizieller Stellen zu Wahlinformationen sind vertrauenswürdig.
Das Datum von digitalen Inhalten spielt eine grosse Rolle, um nicht auf veraltete oder irrelevante Nachrichten hereinzufallen.
Das Öffnen und Aufrufen von E-Mails oder Anhängen von unbekannten Quellen oder Personen sollte vermieden werden. Dies gilt besonders auch für Beantwortungen von Nachrichten, die dem Angreifer wertvolle Informationen in die Hände spielen würden.
Nutzer sollten sich die Frage stellen, ob zu Spenden oder aber zu anderen Aktivitäten aufgerufen wird, die verdächtig erscheinen.
Links und URLs sollten möglichst vor dem Aufruf geprüft werden. Empfehlenswert für generell unsichere Nutzer ist es, mehr zur Webseite über Suchmaschinen herauszufinden, bevor diese besucht wird.
Nur seriöse Quellen und Informationen offizieller Stellen zu Wahlinformationen sind vertrauenswürdig.
Das Datum von digitalen Inhalten spielt eine grosse Rolle, um nicht auf veraltete oder irrelevante Nachrichten hereinzufallen.
Das Öffnen und Aufrufen von E-Mails oder Anhängen von unbekannten Quellen oder Personen sollte vermieden werden. Dies gilt besonders auch für Beantwortungen von Nachrichten, die dem Angreifer wertvolle Informationen in die Hände spielen würden.