Les téléphones Pixel 8 sont trop stupides pour le plus petit modèle Gemini AI de Google • Historique

Le Nano, le plus petit modèle d'IA de Google dans sa série Gemini, ne sera pas disponible sur les téléphones Pixel 8 en raison de « certaines limitations matérielles ».

Annoncé en décembre, Nano il travail sur Smartphones Android haut de gamme, comme le dernier Pixel 8 Pro de Google et la gamme Galaxy S24 de Samsung. Le modèle offre de nombreuses fonctionnalités d'IA typiques d'aujourd'hui sur ces appareils, telles que le résumé des enregistrements audio sous forme de texte et MagicText, qui peuvent générer automatiquement des réponses rapides aux messages texte pour vous.

Cependant, ces capacités ne seront pas disponibles sur le Pixel 8, mis en vente sous le nom de Pro en octobre. Lors d'une table ronde lors d'un récent épisode de The Android Show, Terence Zhang, un ingénieur travaillant sur l'IA générative sur Google Android, a déclaré que cela était dû à « certaines limitations matérielles ». (Passez à environ 42:57 dans la vidéo ci-dessous.)

On ne sait pas exactement quelles sont ces limitations, étant donné que les appareils Pixel 8 et Pixel 8 Pro sont équipés du même processeur Google Tensor G3, du même cœur d'unité centrale (CPU) et de l'unité de traitement graphique (GPU). Le Pixel 8 Pro a plus de mémoire. Le 8 dispose de 8 Go de RAM, tandis que le 8 Pro dispose de 12 Go, et il semble que 8 Go auront un impact sur les performances du modèle. Donc, pas de nano pour le Pixel 8.

Google a refusé de commenter le dossier.

Les grands modèles de langage raisonnablement efficaces sont généralement gourmands en mémoire et en calcul, ce qui les rend difficiles à exécuter sur les smartphones, même ceux dotés de 8 Go de RAM (DRAM).

Google a développé AICore, une application de service système Android qui peut être utilisée pour que Google Nano effectue des tâches d'inférence ML, telles que la génération de texte, sur l'appareil en utilisant n'importe quelle accélération matérielle disponible.

Zhang a déclaré qu'AICore est essentiellement un skin API pour le Gemini Nano, et que ce modèle est limité par la puissance de calcul de l'appareil. Sur les téléphones non Nano, comme le Pixel 8, il n'y a pas d'AICore à utiliser.

AICore est utile car il permet aux applications de profiter du Gemini Nano sur l'appareil local sans nécessiter une connexion Internet pour certains services cloud distants. Tout le texte généré par le formulaire est privé puisque les données ne quittent pas le smartphone, ce qui réduit également la latence et accélère son fonctionnement. « Enfin, et surtout, c'est gratuit », a déclaré Zhang. Étant donné que toutes les charges de travail sont exécutées à l'aide du matériel intégré à l'appareil, l'interaction avec le modèle ne vous coûte pas un centime, contrairement à l'accès au LLM depuis le cloud.

« AICore n'est actuellement disponible que sur les appareils Google Pixel 8 Pro et Samsung S24 Series », a expliqué Google dans Documentation du développeur.

Le géant du Web est On dit que c'est Il prévoit de déployer davantage de fonctionnalités d'IA sur son assistant à commande vocale, alimenté par les plus grands modèles Gemini Pro et Ultra, l'année prochaine sur les appareils Pixel. ®