Singapour déploie une IA anti-arnaques directement sur les smartphones

Plus de la moitié des crimes signalés à Singapour sont aujourd'hui des arnaques, pour un préjudice cumulé dépassant 4 milliards de dollars singapouriens depuis 2019. Face à ce constat, Google DeepMind et la Government Technology Agency de Singapour (GovTech) ont présenté le 14 octobre, lors de la Singapore International Cyber Week, un modèle d'intelligence artificielle capable de repérer une conversation frauduleuse directement sur le téléphone de l'utilisateur, sans jamais transmettre le contenu des messages à un serveur distant.

Un problème qui a changé de nature

Le choix du traitement local n'est pas anodin : les équipes justifient ce parti pris technique par l'évolution même des arnaques. Le simple hameçonnage par SMS a cédé la place à de l'ingénierie sociale sophistiquée, qui représente désormais jusqu'à 80 % des pertes financières liées aux fraudes dans le pays. Ces scénarios reposent sur de longues conversations construites pour gagner la confiance de la victime — usurpation d'identité d'institutions publiques, de banques ou de figures locales, puis demande progressive d'argent ou d'informations sensibles. Un filtre classique, qui analyse un message isolé, rate systématiquement ce type de manipulation étalée sur plusieurs échanges.

Deux étages pour économiser la batterie

Le système repose sur un pipeline en deux temps, pensé pour fonctionner sur un smartphone sans vider sa batterie. Un premier classifieur, volontairement léger, filtre en continu les messages entrants en consommant un minimum d'énergie et ne retient que les échanges présentant un profil suspect. Seuls ces cas sont transmis à une seconde étape, où un modèle Gemma — la famille de modèles ouverts et légers de Google — ajusté spécifiquement pour cette tâche analyse le fil de la conversation dans son ensemble pour confirmer ou écarter la menace. Lorsque le doute est confirmé, une alerte s'affiche en temps réel sur l'appareil pour inciter l'utilisateur à suspendre l'échange avant de partager un mot de passe ou de transférer de l'argent.

Des données gardées sous séquestre souverain

L'entraînement du modèle Gemma a eu lieu dans un environnement Google Cloud sécurisé décrit comme un « Sovereign Sandbox », opéré par GovTech, et uniquement à partir de données anonymisées issues de signalements d'arnaques — sans aucune information personnelle identifiable. Le modèle a ensuite été soumis à des tests de robustesse contre des dialogues synthétiques reproduisant les schémas de fraude observés localement. Les deux partenaires insistent sur le fait que ni le gouvernement singapourien ni Google n'ont accès au contenu des conversations analysées, puisque l'intégralité du traitement — classification initiale comme analyse approfondie — s'exécute sur l'appareil de l'utilisateur.

Mark Chen, de GovTech Singapour, a résumé l'intention derrière ce choix architectural : « Fighting scams shouldn't mean sacrificing personal privacy. Working with Google DeepMind, we're bringing advanced AI protection directly onto citizens' devices », cité dans l'annonce officielle de Google DeepMind.

Un déploiement encore partiel, à surveiller

Les deux partenaires n'ont pas communiqué de calendrier précis : le déploiement se fera « progressivement, par phases », avec des détails complémentaires promis au fil de l'avancement du partenariat. Aucune indication n'a été donnée sur une éventuelle extension hors de Singapour, ni sur l'intégration de ce type de détection directement dans Android au niveau mondial — une question que posera inévitablement la suite, Google ayant déjà intégré par le passé plusieurs fonctions de sécurité pilotées par IA dans son système d'exploitation mobile.

L'initiative s'inscrit dans une tendance plus large de rapprochement entre laboratoires d'IA et autorités publiques sur des cas d'usage de sécurité civile, à rebours de l'image souvent associée aux grands modèles de langage — génération de texte, assistants conversationnels, agents autonomes. Elle illustre aussi un choix d'architecture de plus en plus défendu par les équipes de recherche en confidentialité : plutôt que de renforcer la détection centralisée côté opérateur ou côté banque, traiter le signal au plus près de l'utilisateur, au prix d'une complexité technique supplémentaire liée aux contraintes matérielles des smartphones. Pour un pays où la confiance numérique conditionne l'adoption de services publics et bancaires de plus en plus dématérialisés, le compromis entre efficacité de détection et garantie de confidentialité constitue un test grandeur réelle qui sera observé de près par d'autres gouvernements confrontés au même type de criminalité.