GPT4All est un outil de bureau permettant d'exécuter hors ligne, sur son propre ordinateur, des modèles de langage open source. Il est maintenu par l'organisation nomic-ai sur GitHub. Son principal atout n'est pas d'offrir le modèle le plus puissant, mais une barrière d'entrée basse : sans créer de compte cloud ni envoyer ses conversations à un serveur, on peut essayer d'exécuter un modèle localement. Ses capacités en ligne, la qualité des modèles et les attentes en matière de maintenance à long terme doivent toutefois être clarifiées avant de décider de l'installer.
Ce que c'est réellement
GPT4All fournit un client de bureau et un point d'entrée pour télécharger des modèles : après avoir téléchargé localement un modèle open source, on peut dialoguer avec lui hors ligne. Le projet est hébergé sur GitHub, l'organisation qui le maintient est nomic-ai, et le nom du projet est GPT4All. Ce n'est pas en soi un modèle précis, mais plutôt un lecteur de modèles locaux : changer de modèle, c'est changer de capacités et de caractère ; le client ne gère que le chargement, la conversation et les réglages de base.
À qui il convient, et à qui il ne convient pas
Il convient à trois profils : premièrement, les étudiants et les passionnés qui veulent essayer des modèles sans internet ou avec une connexion faible ; deuxièmement, les personnes soucieuses de leur vie privée qui ne veulent pas envoyer leur contenu professionnel dans le cloud ; troisièmement, ceux qui font des démonstrations pédagogiques et veulent montrer directement l'exécution d'un modèle local. À qui il ne convient pas : ceux qui recherchent le modèle le plus récent et le plus puissant, ceux qui ont besoin de recherche sur le web et d'informations en temps réel, et ceux qui veulent l'utiliser directement pour un service client en production ou un service public. Les petits modèles locaux ne peuvent actuellement pas répondre à ces trois besoins.
Ce que le déploiement coûte réellement
Le logiciel lui-même est gratuit, mais les vrais coûts sont le matériel et le temps. Les fichiers de modèles pèsent souvent plusieurs gigaoctets, si bien que le temps de téléchargement dépend de la connexion ; l'occupation mémoire à l'exécution est considérable, et un ordinateur ancien ralentira nettement avec un modèle un peu grand. Un petit modèle peut tourner sans carte graphique dédiée, mais la vitesse et la longueur des réponses seront limitées ; avec une carte graphique, ce sera beaucoup plus rapide, sans que cela garantisse des performances immédiates. La première prise en main exige aussi du temps pour choisir un modèle, le télécharger et tâtonner ; une demi-heure ou plus est courante.
Les vrais pièges à l'usage
Premièrement, la qualité des modèles varie beaucoup : au sein du même client, les modèles diffèrent grandement en capacités, et les performances en chinois, le suivi des instructions et la stabilité des longues réponses ne peuvent pas être généralisés, il faut donc tester un modèle à petite échelle avant de s'engager. Deuxièmement, il ne faut pas compter sur des capacités en ligne : l'usage hors ligne est sa raison d'être, de sorte que les actualités en temps réel, les cours de bourse ou la météo sont naturellement hors de portée, et forcer de telles questions ne donnera que des réponses obsolètes ou inventées. Troisièmement, les réponses peuvent tout de même être fausses : les modèles locaux inventent aussi des faits et donnent du code erroné, donc les contenus essentiels doivent être vérifiés à la main ; le fait de tourner en local ne rend pas une sortie fiable par défaut. Quatrièmement, les téléchargements et les mises à jour demandent votre attention : versions de modèles, mises à jour du client et compatibilité système peuvent tous causer de petits problèmes, et en cas d'erreur, vérifier les journaux locaux et les notes du modèle fait gagner plus de temps que de réinstaller sans cesse.
Comment arbitrer avec les modèles en ligne
La clé n'est pas de savoir qui est le plus avancé, mais le scénario. Si vous avez besoin de confidentialité, d'un usage hors ligne, d'un coût d'abonnement nul, ou si vous voulez simplement découvrir les modèles locaux, GPT4All vaut la peine d'être installé pour essayer. Si vous avez besoin du raisonnement le plus puissant, de la recherche sur le web, d'une production stable de longs textes, ou d'un outil pour une équipe ou des clients, les modèles en ligne restent le choix le plus sûr. On peut aussi utiliser les deux en parallèle : traiter d'abord les brouillons sensibles en local, puis peaufiner la version finale avec un modèle en ligne. Déterminez d'abord quel problème vous voulez résoudre, puis jugez s'il mérite une place durable sur votre ordinateur.
