Qu’est-ce que GPT4All et comment fonctionne-t-il ?

Les modèles GPT d’OpenAI ont révolutionné le traitement du langage naturel (NLP), mais à moins de payer pour un accès premium aux services d’OpenAI, vous ne serez pas en mesure d’affiner et d’intégrer leurs modèles GPT dans vos applications. En outre, OpenAI aura accès à toutes vos conversations, ce qui peut poser un problème de sécurité si vous utilisez ChatGPT dans le cadre de vos activités professionnelles ou dans d’autres domaines plus sensibles de votre vie. Si vous n’aimez pas cela, vous pouvez essayer GPT4All.

Qu’est-ce que GPT4All exactement ? Comment fonctionne-t-il et pourquoi l’utiliser plutôt que ChatGPT ?

Qu’est-ce que GPT4All ?

GPT4All est un écosystème open-source utilisé pour intégrer des LLM dans des applications sans payer d’abonnement à une plateforme ou à du matériel. Il a été créé par Nomic AI, une entreprise de cartographie de l’information qui vise à améliorer l’accès aux ressources de l’IA.

GPT4All est conçu pour fonctionner sur des PC modernes ou relativement modernes sans avoir besoin d’une connexion internet ou même d’un GPU ! Cela est possible car la plupart des modèles fournis par GPT4All ont été quantifiés pour être aussi petits que quelques gigaoctets, ne nécessitant que 4 à 16 Go de RAM pour fonctionner.

Cela permet aux petites entreprises, aux organisations et aux chercheurs indépendants d’utiliser et d’intégrer un LLM pour des applications spécifiques. Et comme GPT4All peut être installé en un seul clic, les gens peuvent maintenant utiliser GPT4All et plusieurs de ses LLM pour la création de contenu, l’écriture de code, la compréhension de documents et la collecte d’informations.

Pourquoi utiliser GPT4ALL plutôt que ChatGPT ?

Crédit image : bruce mars/Unsplash

Il y a plusieurs raisons pour lesquelles vous pourriez vouloir utiliser GPT4All plutôt que ChatGPT.

• Portabilité : Les modèles fournis par GPT4All ne nécessitent que quatre à huit gigaoctets de mémoire, ne requièrent pas de GPU pour fonctionner et peuvent facilement être sauvegardés sur une clé USB à l’aide du programme d’installation en un clic de GPT4All. GPT4All et ses modèles sont donc véritablement portables et utilisables sur pratiquement tous les ordinateurs modernes.
• Confidentialité et sécurité : Comme expliqué précédemment, à moins que vous n’ayez accès à ChatGPT Plus, toutes vos conversions ChatGPT sont accessibles à OpenAI. GPT4All se concentre sur la transparence et la confidentialité des données ; vos données ne seront sauvegardées que sur votre matériel local, à moins que vous ne les partagiez intentionnellement avec GPT4All pour aider à développer leurs modèles.
• Mode hors ligne : GPT est un modèle propriétaire qui nécessite un accès API et une connexion internet permanente pour interroger ou accéder au modèle. Si vous perdez votre connexion internet ou si vous avez un problème de serveur, vous n’aurez pas accès à ChatGPT. Ce n’est pas le cas avec GPT4All. Étant donné que toutes les données sont déjà stockées sur un paquet de quatre à huit gigaoctets et que l’inférence est effectuée localement, vous n’avez pas besoin de connexion internet pour accéder aux modèles de GPT4All. Vous pouvez continuer à discuter et à peaufiner votre modèle même sans connexion internet.
• Gratuit et open source : Plusieurs LLM fournis par GPT4All sont sous licence GPL-2. Cela permet à tout un chacun d’affiner et d’intégrer ses propres modèles à des fins commerciales sans avoir à payer de licence.

Fonctionnement de GPT4All

Comme nous l’avons vu précédemment, GPT4All est un écosystème utilisé pour former et déployer des LLM localement sur votre ordinateur, ce qui est un exploit incroyable ! En règle générale, le chargement d’un LLM standard de 25 à 30 Go nécessite 32 Go de RAM et un GPU de qualité professionnelle.

À titre de comparaison, les LLM que vous pouvez utiliser avec GPT4All ne nécessitent que 3 à 8 Go de stockage et peuvent fonctionner avec 4 à 16 Go de RAM. Il est donc possible d’exécuter un LLM entier sur un appareil périphérique sans avoir besoin d’un GPU ou d’une assistance externe dans le nuage.

Les exigences matérielles pour l’exécution des LLM sur GPT4All ont été considérablement réduites grâce à la quantification des réseaux neuronaux. En réduisant la précision du poids et des activations dans un réseau neuronal, de nombreux modèles fournis par GPT4All peuvent être exécutés sur la plupart des ordinateurs relativement modernes.

Les données d’entraînement utilisées dans certains des modèles disponibles ont été collectées par le biais de « la pile », qui est simplement constituée de données extraites de contenus publiés sur l’internet. Les données sont ensuite envoyées à la base de données Atlas AI de Nomic AI, qui peut être visualisée en fonction des corrélations sur une carte vectorielle 2D facile à voir (également connue sous le nom de base de données vectorielle AI).

En formant le modèle Groovy et en utilisant des données accessibles au public, Nomic AI a pu publier le modèle sous une licence GPL ouverte qui permet à quiconque de l’utiliser, même pour des applications commerciales.

Comment installer GPT4All

L’installation de GPT4All est simple, et maintenant que la version 2 de GPT4All a été publiée, c’est encore plus facile ! La meilleure façon d’installer GPT4All 2 est de télécharger le programme d’installation en un clic :

Télécharger : GPT4All pour Windows, macOS ou Linux (Gratuit)

Les instructions suivantes concernent Windows, mais vous pouvez installer GPT4All sur chacun des principaux systèmes d’exploitation.

Une fois téléchargé, double-cliquez sur le programme d’installation et sélectionnez Installer. Windows Defender peut considérer l’installation comme malveillante car le processus par lequel Microsoft délivre des signatures valides pour les applications tierces peut prendre beaucoup de temps. Toutefois, ce problème devrait être bientôt résolu. Pour l’instant, si vous avez téléchargé l’application GPT4All depuis le site officiel, vous ne risquez rien. Cliquez sur Installer de toute façon pour installer GPT4All.

Une fois l’application ouverte, vous devrez sélectionner un modèle à utiliser. GPT4ALL vous propose plusieurs modèles, qui auront tous leurs forces et leurs faiblesses. Pour savoir quel modèle télécharger, voici un tableau présentant leurs forces et leurs faiblesses.

Modèle

Taille

Note

Paramètres

Type de note

Quantification

Gardez à l’esprit que les modèles fournis ont différents niveaux de restrictions. Tous les modèles ne peuvent pas être utilisés commercialement gratuitement ; certains nécessitent plus de ressources matérielles, tandis que d’autres requièrent une clé API. Les modèles les moins restrictifs disponibles dans GPT4All sont Groovy, GPT4All Falcon et Orca.

Peut-on former les modèles GPT4All ?

Oui, mais pas les versions quantifiées. Pour affiner efficacement les modèles GPT4All, vous devez télécharger les modèles bruts et utiliser des GPU d’entreprise tels que les accélérateurs Instinct d’AMD ou les GPU Ampere ou Hopper de NVIDIA. En outre, vous devrez entraîner le modèle à l’aide d’un cadre d’entraînement à l’IA tel que LangChain, ce qui nécessitera certaines connaissances techniques.

La mise au point d’un modèle GPT4All nécessitera des ressources financières ainsi qu’un certain savoir-faire technique, mais si vous souhaitez uniquement alimenter un modèle GPT4All en données personnalisées, vous pouvez continuer à former le modèle par le biais de la génération augmentée de récupération (qui aide un modèle linguistique à accéder et à comprendre des informations en dehors de sa formation de base afin de réaliser des tâches). Vous pouvez le faire en demandant à la GPT4All de modéliser vos données personnalisées avant de poser une question. Les données personnalisées doivent être sauvegardées localement et, lorsqu’il y est invité, le modèle doit être en mesure de vous fournir les informations que vous avez données.

Devriez-vous utiliser GTP4All ?

L’idée de GPT4All est de fournir une plateforme libre et gratuite permettant aux utilisateurs d’exécuter de grands modèles de langage sur leurs ordinateurs. Actuellement, GPT4All et ses modèles quantifiés sont parfaits pour expérimenter, apprendre et essayer différents LLM dans un environnement sécurisé. Pour les charges de travail professionnelles, nous recommandons toujours d’utiliser ChatGPT, car le modèle est nettement plus performant.

Dans l’ensemble, il n’y a aucune raison de se limiter à un seul modèle. Étant donné que leurs cas d’utilisation ne se chevauchent pas, vous devriez essayer d’utiliser les deux.