WhatsApp testet einen neuen Schutz vor Betrugsnachrichten. Eine KI analysiert dafür Chats direkt auf dem Smartphone und warnt bei verdächtigen Mustern – ohne die Nachrichten an Meta zu übertragen.

Das grundsätzliche Schutz-Niveau auf PCs und Handys wird immer besser. Statt aufwändig Sicherheitslücken auszunutzen, gehen Betrüger deshalb oft einen anderen Weg und versuchen ihre Opfer über Messenger-Nachrichten auszutricksen.

Mit der neuen Schutzfunktion Scam Alert will WhatsApp verdächtige Nachrichten erkennen und Nutzer warnen. Das neue Feature befindet sich derzeit in einem eingeschränkten Beta-Test. Das bedeutet, erste Nutzer sehen bereits Warnmeldungen. Angaben zu einem erweitereten Rollout der Funktion macht WhatsApp bisher nicht.

Grundsätzlich ist es eine gute Sache, wenn die Messenger-Anbieter gegen Betrüger vorgehen. Technisch ist das bei WhatsApp & Co. aber eine große Herausforderung. Denn Nachtichten sind per Ende-zu-Ende-Verschlüsselung geschützt. WhatsApp kann also nicht einfach Nachrichteninhalte auf seinen Servern nach Betrugsmustern scannen.

Die neue Funktion Scam Alert nutzt deshalb ein lokal auf dem Smartphone laufendes Machine-Learning-Modells. Es kommt also eine KI zum Einsatz, die Nachrichten auf dem Handy analysiert. Nachrichteninhalte werden also nicht an WhatsApp oder Meta übertragen. Dabei sucht die KI nach bekannten Scam-Mustern anhand von Sprach- und Gesprächsmerkmalen.

Erkennt Scam Alert ein wahrscheinliches Betrugsmuster, erscheint ein Warnhinweis. Nutzer können den betreffenden Chat dann blockieren, melden oder auf Wunsch auch weiterführen. Chats können auch explizit als vertrauenswürdig marktiert werden, das ist praktisch, wenn sich der KI-Schutz irrt. Nutzer sollen außerdem die Möglichkeit haben, die Funktion auch komplett abzuschalten.

WhatsApp hat die Version schon für einige Nutzer freigeschaltet. Man betont aber, dass es sich um einen frühen Beta-Rollout handelt. Das bedeutet, erste User können Warnungen sehen, auf breiter Front ist das Feature aber noch nicht zu haben.

Für die Auswertung der Wirksamkeit will sich WhatsApp bei Scam Alert auf möglichst wenig Daten beschränken und anonymisierte Statistiken wie Anzahl der Warnungen und Nutzerreaktionen sammeln.

Externe Sicherheitsexperten sollen dabei eingebunden werden. Meta will Modellgewichte, relevante Software und Logs für Sicherheitsforscher bereitstellen. Nutzer sollen außerdem selbst nachvollziehen können, welche Nachrichten analysiert wurden und welche Modellversion zum Einsatz kam.

Bis WhatsApp seinen Schutz für alle freigibt, können Sie mit Bitdefender Scamio zumindest manuell verdächtige Nachrichten checken.

Quelle: Chip