ToolNavs Outils IA à découvrir
Proposer Connexion
Retour à Questions et réponses sur l’IA
Flint peut-il tourner sur un portable ? 48 Go de mémoire, c'est le seuil ; la vitesse dépend de la longueur du contexte

Flint peut-il tourner sur un portable ? 48 Go de mémoire, c'est le seuil ; la vitesse dépend de la longueur du contexte

Questions et réponses sur l’IA • Admin • • 13 vues

Savoir si Flint peut tourner sur un portable commence par la question de savoir si la mémoire atteint 48 Go. Flint est le modèle de codage open source publié par Recursive le 21 octobre 2026, avec environ 39,8 milliards de paramètres au total et environ 2,5 milliards activés par jeton, un contexte de 262 144 jetons selon la fiche du modèle, et une licence Apache 2.0. La voie locale officielle est claire : des poids quantifiés 4 bits d'environ 22,6 Go à 22,9 Go, au moins 48 Go de mémoire unifiée ou de mémoire GPU recommandés, et sur Apple silicon, un M4 Pro, M5 Pro ou M5 Max est nécessaire pour faire tourner le moteur d'inférence officiel. Si la mémoire n'atteint pas ce niveau, ne téléchargez pas encore ; une fois téléchargés, les poids ne tiendront pas et ne tourneront pas de façon stable.

La raison pour laquelle Flint tourne vite réside dans la quantité activée. Les 40 milliards de paramètres doivent tous tenir en mémoire, mais chaque jeton ne calcule qu'environ 2,5 milliards, de sorte que le calcul par étape est faible, et le moteur officiel sur un M4 Pro peut atteindre des vitesses de décodage supérieures à 125 jetons par seconde sur des contextes courts. Les chiffres de vitesse ont des conditions : contexte court, décodage à flux unique et moteur officiel ; à mesure que le contexte s'allonge, la mémoire occupée par le cache clé-valeur augmente et la vitesse chute, de sorte que les questions-réponses sur de longs dépôts nécessitent d'abord un test à petite échelle avant d'estimer le temps. Les formats de poids doivent aussi être choisis correctement : la pleine précision BF16 fait environ 80 Go et vise les cartes graphiques de centre de données ; les portables doivent utiliser les builds quantifiés officiels INT4 ou NVFP4, et les builds GGUF communautaires exigent de confirmer que la chaîne d'outils prend déjà en charge l'architecture Flint, car les anciens builds de llama.cpp peuvent ne pas reconnaître la nouvelle architecture. Flint est un modèle spécialiste du codage : écrire du code, explorer des dépôts, corriger des bogues et écrire des tests sont son travail principal ; les discussions quotidiennes et les questions-réponses générales ne sont pas ses points forts, ne le comparez donc pas à un modèle de chat polyvalent.

Qui doit l'essayer, et qui ne doit pas encore

Les personnes adaptées pour l'essayer sont celles qui disposent de 48 Go de mémoire ou plus sur un Mac ou d'une carte graphique de 64 Go, et qui ont un réel besoin de faire tourner un agent de codage en local ; commencez par les poids quantifiés officiels et le moteur officiel, faites fonctionner les contextes courts, puis allongez-les. Les personnes qui ne doivent pas encore essayer sont les utilisateurs de portables ordinaires avec 16 Go ou 24 Go de mémoire : les poids ne tiendront pas, et les forcer ne fera que provoquer une pagination répétée et une lenteur inutilisable ; ainsi que les personnes qui ne posent qu'occasionnellement quelques questions de code, qui iront plus vite avec une API hébergée ou un point d'entrée en ligne gratuit. Avant de décider, mesurez trois choses : la capacité mémoire, l'espace disque restant et la longueur de contexte du dépôt à traiter ; ne téléchargez que si les trois passent, et si l'un d'eux échoue, utilisez d'abord le service hébergé. Faire tourner un modèle en local économise la facturation à l'usage et coûte du matériel et du temps ; la facture doit être comptée ensemble.

Outils Recommandés

Plus