Google AI Edge Gallery est une petite application que l’on peut installer sur son smartphone Android depuis un dépôt GitHub. La firme fournit des instructions, l’application n’étant pas encore proposée via le Play Store. Google la décrit comme une version expérimentale, qui aura d’ailleurs un pendant iOS « bientôt ».

Proposée sous licence Apache 2.0, Google AI Edge Gallery permet de puiser dans une partie des modèles proposés gratuitement par Hugging Face. Ces modèles, comme Gemma 3n, sont de taille réduite et pensés pour des exécutions locales sur des appareils à la puissance contenue.

Comme on s’en doute, ils ne sont pas là pour faire concurrence aux gros LLM proposés régulièrement par l’industrie de l’IA générative. En revanche, ils permettent de tester des capacités et ont le gros avantage de fonctionner localement. Il n’y a donc pas d’échanges avec des serveurs et les modèles n’ont pas besoin de connexion pour fournir leurs résultats.

Les modèles proposés sont répartis en catégories : requêtes sur des images, opérations sur toute forme de texte (y compris du code informatique) et conversations. L’opération s’accompagne également de plusieurs fonctions propres, comme des outils de benchmarks. Elle autorise aussi l’import de modèles personnalisés, à condition qu’ils soient compatibles LiteRT.

Google prévient bien sûr que les performances peuvent varier grandement d’un appareil à l’autre, selon la puissance disponible. C’est vrai aussi bien pour le SoC présent que pour la quantité de mémoire. La taille du modèle a aussi son importance : plus il est grand, plus les requêtes prendront du temps.