Puces IA
Comment choisir puces d'entraînement et d'inférence, accélérateurs et NPU embarqués, et comment capacité, approvisionnement et règles d'exportation rythment les déploiements.
Les puces IA décident de la vitesse d'un modèle et du coût de chaque exécution. Les clusters d'entraînement dépendent de la bande passante et de la capacité mémoire, les clusters d'inférence du débit et de la consommation, les appareils embarqués de la mémoire unifiée. Il faut suivre les mesures, les capacités et les règles d'exportation, et répondre à une question pratique : quelle carte pour quelle charge, quelle machine pour quel budget.
