AitopkitVotre téléphone pourrait bientôt lire vos chats pour vous protéger des arnaqueurs — sans jamais envoyer un mot vers le cloud. Le 14 octobre, Google DeepMind et l'agence GovTech de Singapour ont annoncé un modèle de détection d'arnaques sur l'appareil inédit pour les téléphones Android, présenté à la Singapore International Cyber Week.
L'argument repose sur un choix de conception : toute l'analyse se fait sur le téléphone lui-même, avec zéro sortie de données vers le cloud. C'est important car les applis chiffrées de bout en bout comme WhatsApp et Telegram ne peuvent pas être analysées sur un serveur — la garantie de confidentialité serait brisée. En déplaçant l'IA sur l'appareil, DeepMind affirme pouvoir alerter les utilisateurs des conversations manipulatrices en temps réel tout en gardant les chats chiffrés privés.
Sous le capot, le système utilise un pipeline en deux étapes. Un classifieur léger filtre chaque message entrant avec une batterie minimale, et si quelque chose semble risqué, une version affinée du modèle léger Gemma de DeepMind étudie un extrait plus large de la conversation pour confirmer la menace et afficher une alerte en temps réel. Le modèle a été entraîné sur des signalements d'arnaques anonymisés et testé contre des conversations synthétiques reflétant les tournures locales — affiné spécifiquement pour détecter les stratagèmes locaux comme les usurpations d'identité de responsables gouvernementaux, de banques et de personnalités publiques.
L'ampleur du problème est réelle. Les arnaques représentent plus de la moitié des crimes signalés à Singapour et ont causé plus de 4 milliards de dollars singapouriens de pertes depuis 2019, les tactiques d'ingénierie sociale représentant désormais l'essentiel des dégâts. Mark Chen de GovTech l'a dit sans détour : « Lutter contre les arnaques ne devrait pas signifier sacrifier la vie privée. »
Réserves à noter : aucune date de sortie pour l'instant, et on ne sait pas si l'outil sera livré comme fonction Android par défaut ou comme appli optionnelle. Google n'a pas non plus publié de taux de détection ni de faux positifs — des tests indépendants seront la vraie mesure. Mais comme modèle d'IA de sécurité sur l'appareil respectueuse de la vie privée, cette collaboration mérite d'être suivie.