Die Warnungen vor Sicherheitslücken bei der chinesischen KI DeepSeek werden immer lauter. So werden etwa Profile der Nutzer erstellt, und diese Daten werden in China gespeichert.

Behörden und Cybersicherheitsfachleute haben gravierende Sicherheitsbedenken gegen die chinesische KI DeepSeek. Dabei geht es gleich um mehrere Punkte: die offenkundig sehr weitreichende Speicherung von Nutzerdaten, die Manipulierbarkeit der Anwendung für kriminelle Zwecke und die Frage, inwieweit der chinesische Spionage- und Überwachungsapparat Zugriff auf Nutzerdaten hat.

Speicherung von Tastatureingaben

Ein wesentlicher Kritikpunkt ist die Speicherung der Tastatureingaben. DeepSeek informiert in seinen Datenschutzhinweisen darüber, dass “Tastatureingabemuster oder -rhythmen” (keystroke patterns or rhythms) erfasst werden - ein Verfahren, das zur Identifizierung von Nutzern eingesetzt werden kann.

“Auch Tastatureingaben innerhalb der App können womöglich mitgelesen werden, bevor sie abgeschickt werden”, sagt eine Sprecherin des Bundesamts für Sicherheit in der Informationstechnik (BSI) auf Anfrage der Nachrichtenagentur dpa: “Daneben wird die Art und Weise, wie Tastatureingaben vorgenommen werden, gespeichert.”

Mit solchen Mustern könnten mit Hilfe Künstlicher Intelligenz Nutzprofile erstellt und wiedererkannt werden. “Das BSI hält diese Möglichkeit mindestens für sicherheitskritische Bereiche für bedenklich”, betont die Sprecherin.

[…]

  • Jesus_666@lemmy.worldDeutsch
    14·
    15 hours ago

    Ja, die Qualität der Recherche ist etwas dürftig. Es wird nicht darauf eingegangen, dass das Problem auf lokal gehostetes DeepSeek nicht zutrifft; statt dessen wird von nebulöser Spezialtechnik bei Siemens gesprochen, die in der Realität wahrscheinlich auch nicht viel mehr als eine ollama-Instanz im Intranet sein wird. Mistral als europäische Alternative wird mit keinem Wort erwähnt.

    Ich würde das Problem aber nicht dabei sehen, dass andere remote gehostete LLMs nicht erwähnt werden. Dass spezifisch DeepSeek Tastendrücke mitschneidet und das BSI deshalb eine Warnung ausgesprochen hat, ist eine relevante Information und der Kern des Artikels.

    Das eigentliche Problem liegt eher dabei, dass der Autor des Artikels vermutlich kein allzu tiefes Fachwissen mitbringt und deshalb keinen umfassenden Überblick geben kann. Man kann das als einen von vielen Hinweisen darauf sehen, dass Fachkommunikatoren dringend benötigt werden, wie in der Wissenschaft so auch in Branchen wie der IT.