Betrugsversuche mit KI-Stimmen sind längst keine Nischenerscheinung mehr. Die Technologie ist sowohl kostengünstig als auch überzeugend: eine besorgniserregende Kombination, die die Einstiegshürde für potenzielle Betrüger gesenkt hat. Laut einem Hiya-Bericht vom März gibt jeder vierte Amerikaner an, in den letzten 12 Monaten einen Anruf mit einer Deepfake-Stimme erhalten zu haben. Ein weiteres Viertel (24 %) gibt an, den Unterschied nicht erkennen zu können.

Dieselbe Studie zeigt, dass doppelt so viele Amerikaner der Meinung sind, Betrüger würden den Kampf gegen Mobilfunkanbieter um Stimmklone gewinnen. Doch das ist noch keine ausgemachte Sache. Die Technologie mag beeindruckend sein, aber eine einfache Technik könnte den Betrügern einen Strich durch die Rechnung machen: ein im Voraus vereinbartes Sicherheitswort.

Wie werden Deepfakes von Betrügern eingesetzt?

Wir alle glauben, die Stimme eines geliebten Menschen erkennen zu können. Doch die Klontechnologie schreitet in schwindelerregendem Tempo voran. Betrüger benötigen lediglich wenige Sekunden Audio, um einen überzeugenden Deepfake zu erstellen. Und diese können aus unseren Social-Media-Beiträgen extrahiert werden, sofern wir den Zugriff nicht über die Datenschutzeinstellungen eingeschränkt haben. Oder möglicherweise aus berufsbezogenen Inhalten, die im Internet landen.

Was machen sie also mit einer geklonteten Stimme, sobald sie diese haben?

Eine der bekanntesten Betrugsmaschen besteht darin, einen Angehörigen anzurufen und ihm eine Deepfake-Audioaufnahme vorzuspielen, die ihn glauben lässt, sein geliebter Mensch sei entführt worden. Diese virtuellen Entführungsbetrügereien können noch realistischer wirken, wenn persönliche Details genannt werden, die ebenfalls aus denselben Social-Media-Konten stammen. Betrüger können auch das Social-Media-Profil des Opfers oder das seiner Angehörigen überwachen, um den besten Zeitpunkt für ihren Angriff zu wählen. Für sie ist es besonders vorteilhaft, wenn sich das Opfer gerade im Ausland befindet und daher sein Handy nicht auf eingehende Anrufe überprüft.

Entscheidend für die Betrüger ist es, die Angehörigen des Opfers im Ungewissen zu lassen und zu traumatisieren. Zu diesem Zweck verwenden sie die geklonte Stimme jeweils nur für wenige Sekunden, mischen sie mit Schluchzgeräuschen und fügen möglicherweise Hintergrundgeräusche hinzu, um das Ganze glaubwürdiger und chaotischer klingen zu lassen.

Was ist ein Sicherheitswort?

In diesem Zusammenhang ist eine der einfachsten, aber wirksamsten Maßnahmen, um einen Betrugsversuch zu durchschauen: die Vereinbarung eines Sicherheitswortes mit Ihren Familienmitgliedern. Es sollte sich um ein leicht zu merkendes Wort oder einen Satz handeln, den das Familienmitglied erfragen kann, wenn es den Verdacht hat, dass Ihre Stimme möglicherweise durch Deepfake manipuliert wurde. Ein Betrüger hätte keine Möglichkeit, das Sicherheitswort herauszufinden, wodurch jeder Plan entlarvt werden würde, der darauf abzielt, Ihre Familie zur Zahlung eines Lösegelds zu verleiten.

Natürlich sollte es einprägsam, aber auch ungewöhnlich sein. Und es sollte nichts sein, was sich aus dem Lesen Ihrer Social-Media-Beiträge oder anderen Open-Source-Intelligence-Quellen (OSINT) ableiten lässt. Das sollte zunächst einmal Dinge wie Haustiere oder Lieblingssportmannschaften ausschließen.

EMBEDDED

Nomani Scam | ESET Research https://www.youtube.com/watch?v=Kk9xq884di4

Wie man das Thema anspricht, ohne die Leute zu verunsichern

Es gibt eine richtige und eine falsche Art, sich auf einen solchen Ansatz zu einigen. Sie wollen Ihre Familie nicht beunruhigen. Aber ebenso wichtig ist es, dass sie erkennen, dass die Technologie Fortschritte gemacht hat und es böse Menschen gibt, die bereit sind, daraus Kapital zu schlagen.

Es könnte hilfreich sein, zu erklären, dass es unwahrscheinlich ist, dass ihr jemals aufgefordert werdet, das Sicherheitswort zu verwenden. Schlägt aber einige Szenarien vor, in denen es eine gute Idee wäre, ein Sicherheitswort zu verlangen. Zum Beispiel bei einem beunruhigenden und unaufgeforderten Anruf, bei dem jemand, der wie ihr klingt, versucht, Geld oder Informationen von ihnen zu erlangen.

Was ist, wenn jemand das Sicherheitswort vergisst?

Es ist wichtig, einen Plan B zu haben, falls sich jemand nicht an das Sicherheitswort erinnern kann. Am besten ermutigt man Familienmitglieder, das Gespräch zu beenden und dann die Nummer zurückzurufen, die sie in ihrem Adressbuch für dich gespeichert haben. Oder dir über eine bestehende Gruppe, die du eingerichtet hast, eine Nachricht zu schicken. So wissen sie sofort, ob du in Schwierigkeiten bist oder nicht.

Alternativ könnten sie versuchen, eine weitere Frage zu stellen, deren Antwort nur jemand aus der Familie kennen würde. Es darf sich dabei nicht um Informationen handeln, die online recherchiert werden können. Sie sollten außerdem wissen, dass sie niemals Geld oder persönliche Informationen weitergeben dürfen, wenn ihnen etwas seltsam vorkommt.

Was tun, wenn Sie auf einen Deepfake-Betrug hereingefallen sind?

Schämen Sie sich nicht. Die Deepfake-Technologie wird von Tag zu Tag überzeugender. Wenn Sie oder ein Familienmitglied betrogen wurden:

  • Beenden Sie sofort jeglichen Kontakt mit dem Betrüger
  • Wenden Sie sich an Ihre Bank, um den Vorfall zu schildern, und fragen Sie, ob es Möglichkeiten gibt, die betrogenen Gelder zu sperren oder zurückzuerhalten
  • Ändern Sie alle Passwörter, die möglicherweise preisgegeben wurden, für alle betroffenen Konten. Dies wäre ein guter Zeitpunkt, die Zwei-Faktor-Authentifizierung (2FA) zu aktivieren und für jedes Konto, das in einem Passwort-Manager gespeichert ist, sichere, einzigartige Passwörter festzulegen
  • Bewahren Sie alle relevanten Beweise auf (z. B. Telefonnummern, Aufzeichnungen)
  • Melden Sie den Betrug bei den zuständigen Behörden

Denken Sie daran: Betrüger kennen keine Scham. Halten Sie Ausschau nach sekundären Betrügern, die Ihnen gegen eine Gebühr versprechen, Ihr Geld zurückzuholen oder Ihre Konten zu sichern. Sie lügen. Wenn Sie sie bezahlen, vergrößern Sie nur Ihre Verluste.

Häufig gestellte Fragen

Wie können Betrüger an meine Stimme gelangen?

Sie benötigen nur wenige Sekunden Audioaufnahme, um einen überzeugenden Stimmklon zu erstellen. Das kann beispielsweise eine Aufnahme sein, die Sie im beruflichen Kontext veröffentlicht haben, oder Video- bzw. Audioinhalte, die Sie in sozialen Medien geteilt haben. Es ist immer ratsam, Ihre Follower auf Personen zu beschränken, die Sie kennen.

Hält ein Sicherheitswort Deepfakes wirklich auf?

Nichts ist absolut sicher. Aber ein Sicherheitswort ist eine fantastische, kostenlose Möglichkeit, Deepfake-Audiobetrug wie gefälschte oder virtuelle Entführungen aufzudecken. Es verhindert zwar nicht, dass der Deepfake erstellt wird, kann aber die Erfolgsquote des darauf folgenden Betrugs verringern.

Was passiert, wenn Betrüger unser Sicherheitswort erraten?

Alles ist möglich. Wenn du jedoch ein zufälliges, ungewöhnliches Wort oder einen Ausdruck wählst, der außerhalb der Familie keine wirkliche Bedeutung hat, sollte dies äußerst schwierig sein. Dennoch ist es sinnvoll, für einen solchen Fall Notfallpläne zu haben, beispielsweise die Vereinbarung, die Person zurückzurufen.

Was soll ich tun, wenn ich betrogen wurde?

Brechen Sie jeglichen Kontakt zu den Betrügern ab. Kontaktieren Sie Ihre Bank, um den Vorfall zu melden. Bewahren Sie so viele Beweise wie möglich auf. Ändern Sie gegebenenfalls Ihre Passwörter und melden Sie den Betrugsversuch den zuständigen Behörden.