LiteRT.js : Google fait tourner l'inférence IA en local dans le navigateur

Début juillet 2026, l'actualité tech relayait une nouveauté discrète mais lourde de conséquences pour le développement web : LiteRT.js, le SDK JavaScript de Google pour l'inférence d'intelligence artificielle sur appareil, permet désormais de faire tourner des modèles de deep learning directement dans le navigateur, sans le moindre serveur d'inférence à provisionner.

Précision utile avant d'aller plus loin : au moment de la rédaction, les benchmarks détaillés de Google n'étaient pas consolidés publiquement de façon exploitable. Nous nous appuyons donc ici sur la documentation officielle de Google AI Edge plutôt que sur des chiffres de performance non vérifiables, conformément à notre règle maison de ne jamais avancer une statistique que nous ne pouvons pas sourcer.

LiteRT.js, c'est quoi exactement ?

Pour ceux qui découvrent le sujet : LiteRT est le nouveau nom de TensorFlow Lite, le runtime léger de Google pour exécuter des modèles de machine learning sur des appareils aux ressources contraintes (mobile, embarqué, objets connectés). Ce rebranding s'inscrit dans l'initiative Google AI Edge, qui unifie l'exécution de modèles sur Android, iOS, le Linux embarqué, et désormais le navigateur.

LiteRT.js est la brique qui manquait côté web : une bibliothèque JavaScript et TypeScript qui charge et exécute des modèles au format LiteRT (l'ex .tflite) directement côté client, dans l'onglet du navigateur, avec accélération matérielle quand elle est disponible.

Ce que ça change concrètement pour vos applications

Le point technique central, c'est l'accélération via WebGPU, l'API graphique bas niveau progressivement supportée par les navigateurs modernes. Quand WebGPU est disponible sur le poste de l'utilisateur, LiteRT.js s'en sert pour paralléliser l'inférence sur le GPU local. Quand ce n'est pas le cas, la bibliothèque bascule automatiquement sur un moteur CPU en WebAssembly, dans la même famille technique que XNNPACK, déjà utilisé par TensorFlow Lite sur mobile. Le développeur n'a pas à écrire deux chemins de code différents pour gérer les deux cas.

Concrètement, cela ouvre trois familles d'usages qui nécessitaient jusqu'ici soit un appel API payant, soit une infrastructure d'inférence maison :

• Classification et détection d'images côté client : tri de photos, modération de contenu avant envoi, recherche visuelle dans un catalogue.
• Traitement de texte léger : embeddings, classification de sentiment, extraction d'entités, sans faire transiter le contenu par un tiers.
• Fonctionnalités qui doivent continuer à marcher hors ligne, typiquement dans une PWA installée sur le terrain.

Comment l'essayer sur un projet existant

La mécanique générale, telle que documentée par Google AI Edge, tient en trois étapes : convertir ou récupérer un modèle au format LiteRT (les modèles TensorFlow, Keras ou PyTorch s'exportent déjà vers ce format avec les outils existants), charger ce modèle depuis votre application avec le SDK LiteRT.js, puis exécuter l'inférence sur des données locales (image, texte, flux caméra) sans qu'elles ne sortent jamais du navigateur.

L'intégration côté framework front (React, Vue, Svelte) suit le même schéma qu'avec TensorFlow.js : chargement asynchrone du modèle au montage du composant, puis appel d'inférence à la demande, par exemple sur un événement utilisateur ou une image capturée par la caméra. La documentation officielle de Google AI Edge, en sources ci-dessous, détaille l'API exacte package par package : nous vous invitons à vous y référer avant toute mise en production, la surface d'API étant encore amenée à évoluer.

Ce que ça implique pour une PME ou un dev français

Pour une agence ou une PME qui développe une application web, l'intérêt n'est pas seulement technique, il est aussi budgétaire et réglementaire :

• Coût d'infrastructure : pas de serveur GPU à provisionner ni d'API tierce facturée à l'usage pour les traitements qui peuvent tourner côté client.
• RGPD : des données sensibles (photo d'un document, contenu d'un formulaire, brouillon de message) qui ne quittent jamais le poste de l'utilisateur simplifient sérieusement l'analyse d'impact et le registre de traitement.
• Résilience : une fonctionnalité IA qui continue de fonctionner en cas de coupure réseau ou de panne du fournisseur de modèle, un vrai plus pour des outils métier utilisés sur le terrain.

La contrepartie est réelle : le poids d'un modèle (souvent plusieurs dizaines de mégaoctets) impacte le temps de premier chargement, tous les navigateurs ne supportent pas encore WebGPU au même niveau de maturité, et les modèles exécutables dans le navigateur restent, par construction, plus légers que ce qu'on peut faire tourner sur un vrai serveur GPU. LiteRT.js est taillé pour de l'inférence ciblée, pas pour remplacer un grand modèle de langage hébergé dans le cloud.

Notre lecture chez CZSyn

On observe depuis deux ans une convergence claire : d'abord TensorFlow.js, puis les runtimes ONNX dans le navigateur, maintenant LiteRT.js. Le navigateur devient une cible de première classe pour l'inférence IA, au même titre que le mobile il y a quelques années. Pour nos clients qui développent des outils métier internes ou des applications grand public avec des contraintes de confidentialité fortes, c'est une option que nous commençons à évaluer sérieusement en alternative à un simple appel API vers un modèle hébergé.

Notre recommandation reste pragmatique : pour un besoin ponctuel ou un prototype, un appel API classique reste plus rapide à mettre en oeuvre. Pour une fonctionnalité récurrente, sensible sur la donnée, ou qui doit tourner hors ligne, LiteRT.js mérite un vrai test de faisabilité avant de se lancer en développement. Le point à surveiller de près : la maturité réelle du support WebGPU sur le parc de navigateurs utilisé par vos utilisateurs, pas seulement sur votre poste de développement.

Sources primaires

• AlternativeTo, « Google Introduces LiteRT.js for High-Speed Local Web AI Inference », juillet 2026.
• Google AI Edge, documentation officielle LiteRT.
• Dépôt officiel GitHub, google-ai-edge/LiteRT.