Eines der wohl beliebtesten Klischees in der IT-Sicherheitsbranche lautet: Cyberkriminelle reagieren fast mit Lichtgeschwindigkeit auf neueste Trends und Technologien, um sie für ihre schändlichen Zwecke auszunutzen. Der Wirbel um DeepSeek und seine hochmodernen KI-Modelle ist da keine Ausnahme. Die letzten Tage haben eines deutlich gemacht: Während sich die Welt der Technologie rasant weiterentwickelt, bleiben die Taktiken der Online-Betrüger oft die gleichen.

Der Chatbot des bislang wenig bekannten chinesischen Start-ups hat vor Kurzem die Welt im Sturm erobert. Sicherheitsforscher entdeckten kurz danach eine Reihe von Betrugsversuchen, die aus dem kometen haften Aufstieg des Unternehmens Kapital schlagen wollten. Zeitgleich wurde DeepSeek wegen seiner Datenschutz- und Sicherheitspraktiken unter die Lupe genommen. Dabei kamen mehrere Risiken im Zusammenhang mit KI-Modellen (nicht unbedingt nur von DeepSeek) ans Licht.

Wie nutzen Betrüger die Popularität von DeepSeek als Köder für Betrug und Malware? Und wie steht es um den Datenschutz des Start-ups dahinter? Die Antworten finden Sie in diesem Blogbeitrag.

Betrug und Schadsoftware

Ein Beispiel dafür, wie Cyberkriminelle auf den Deepseek-Zug aufspringen, stammt von einem Nutzer auf X. Seine Postings zeigen eine Website, die die offizielle des erfolgreichen Newcomers imitiert. Diese fordert Besucher dazu auf, das KI-Modell von DeepSeek herunterzuladen. Kommen Nutzer der Aufforderung nach, erhalten sie jedoch die schädliche Datei Win32/Packed.NSIS.A.

Während die Website größtenteils authentisch aussieht, entlarvt neben der falschen URL noch ein weiteres Indiz den Schwindel: Im Gegensatz zur Schaltfläche „Jetzt starten“ auf der offiziellen Website steht auf dem gefälschten Button "Jetzt herunterladen". (DeepSeek hat mit großem Erfolg mobile Apps für iOS und Android auf den Markt gebracht, kann aber auch ohne Download direkt in Ihrem Desktop-Browser genutzt werden.) Um die Erfolgschancen der Betrugsmasche weiter zu erhöhen, ist die Malware von "K.MY TRADING TRANSPORT COMPANY LIMITED" digital signiert.

Andere Nutzer haben eine Reihe neu erstellter ähnlicher Domains entdeckt. Die meisten gaukeln Nutzern eine echte Seite vor, nur um sie dann um ihr Geld zu betrügen. Beliebt ist beispielsweise Werbung für (nicht existente) DeepSeek-Aktien.

Ein weiteres Risiko stellen gefälschte DeepSeek-Krypto-Token dar, die in mehreren Blockchain-Netzwerken in die Höhe geschossen sind. Innerhalb kurzer Zeit haben diese gefälschten Kryptowährungen eine Marktkapitalisierung von mehreren Millionen Dollar erreicht. Das Unternehmen hat jedoch Anfang Januar auf X klargestellt, keine Kryptowährung ausgegeben zu haben.

Datenschutz- und Sicherheitsbedenken bei DeepSeek

Unmittelbar nach seinem rasanten Aufstieg gab DeepSeek bekannt, selbst Ziel eines groß angelegten Cyberangriffs geworden zu sein. Als Reaktion darauf setzte das Unternehmen die Anmeldung neuer Nutzer aus.

In der Zwischenzeit hat das Cloud-Cybersicherheitsunternehmen Wiz eine DeepSeek gehörende Datenbank gefunden, die versehentlich API-Schlüssel, Systemprotokolle, Benutzer-Chatprotokolle und andere sensible Informationen dem offenen Internet preisgab. DeepSeek hat die Datenbank inzwischen gesperrt.

Die Cybersicherheitsfirmen KELA und Palo Alto Networks haben herausgefunden, dass die KI-Modelle von DeepSeek anfällig für sogenannte bösartige Jailbreak-Angriffe sind. Das heißt: Nutzer können die Sicherheitsmechanismen des Dienstes umgehen, um potenziell gefährliche Antworten, einschließlich Ransomware, zu generieren. Auch detaillierte Anleitungen zur Herstellung von Gift- und Sprengstoffen lassen sich so erstellen.

Vorsichtsmaßnahmen

Ganz gleich, ob es sich um eine neue virale App, eine gigantische Social-Media-Plattform oder ein KI-Tool handelt: Cyberkriminelle sind sehr geschickt darin, die neuesten Trends in ihre Tricks einzubauen.

Nutzer sollten die Augen nach E-Mails oder Social-Media-Nachrichten offenhalten, die die Popularität von DeepSeek ausnutzen und verdächtige Links enthalten.

KI-Tools können genutzt werden, um äußerst überzeugende Phishing-Kampagnen und andere Social-Engineering-Angriffe zu erstellen. Anwender sollten deshalb Nachrichten, die aus heiterem Himmel eintreffen, skeptisch gegenüberstehen. Dies gilt insbesondere dann, wenn sie zu schön klingen, um wahr zu sein oder künstlich Druck aufbauen. Wenden Sie sich lieber direkt über verifizierte Kanäle an das Unternehmen oder die Person, die in der Nachricht erwähnt wird, und besuchen Sie die offizielle Website.

Verstärken Sie Ihre Online-Konten mit einer Zwei-Faktor-Authentifizierung (2FA), wo immer möglich. Hierdurch fällt es Cyber-Kriminellen viel schwieriger, auf Ihre Konten zuzugreifen – selbst, wenn sie Ihre Anmeldedaten schon besitzen. Achten Sie darauf, dass Sie auf all Ihren Geräten eine mehrschichtige Sicherheitssoftware verwenden.

Ganz allgemein sollten Sie bei der Interaktion mit DeepSeek oder anderen KI-Modellen auf die Daten achten, die Sie eingeben, einschließlich Namen, E-Mail-Adressen und sensibler persönlicher Vorlieben. Das Gleiche gilt für Unternehmens- und andere sensible Daten.

Bildquelle: © Unsplash