Quelle est la limite de jetons de ChatGPT et pouvez-vous la dépasser ?

ChatGPT a pris d’assaut le monde technologique, et les avancées et les mises à jour ne manquent pas. Mais malgré l’utilisation d’une technologie de pointe, la version actuelle comporte quelques facteurs limitatifs.

L’un de ces facteurs est le système de jetons, qui continue à rompre le cycle d’évolution, mettant à genoux l’utilité de l’application. Si vous utilisez ChatGPT, vous voudrez peut-être en savoir plus sur les jetons de ChatGPT et sur ce qu’il faut faire lorsque vous n’en avez plus.

Prenons un peu de recul et donnons un aperçu de tout ce qu’il y a à savoir sur les mécanismes de fonctionnement sous-jacents de l’application.

Qu’est-ce qu’un jeton ChatGPT ?

Si vous vous fiez à la façade de l’application, tout ce que vous voyez est un langage informatique qui obéit à vos commandes et vous donne les réponses que vous cherchez. Cependant, le backend n’est rien d’autre que du code, qui apprend à chaque instant et se met au diapason des questions auxquelles il répond.

ChatGPT convertit chaque mot en un jeton lisible chaque fois que vous posez une question. Pour aller plus loin, les jetons sont des fragments de texte, et chaque langage de programmation utilise un ensemble différent de valeurs de jetons pour comprendre les exigences.

Comme les ordinateurs ne comprennent pas directement les valeurs textuelles, ils les décomposent en une combinaison de nombres, souvent appelée embeddings. Vous pouvez même considérer les embeddings comme les listes Python, qui ressemblent à une liste de nombres apparentés, tels que .

Une fois que ChatGPT a pris l’entrée initiale, il essaie de prédire la prochaine entrée possible en se basant sur les informations précédentes. Il sélectionne la liste complète des mots-clés précédents et, en utilisant sa synthèse de codage, tente d’anticiper l’entrée suivante de l’utilisateur. Il utilise et prédit un jeton à la fois afin de simplifier la compréhension de l’utilisation par le langage.

Pour améliorer les prédictions et la précision, il reprend toute la liste des enchâssements et la fait passer par des couches de transformation afin d’établir des associations entre les mots. Par exemple, lorsque vous posez une question telle que « Qui est Thomas Edison ? », ChatGPT retient les mots les plus importants de la liste : Qui et Edison.

Les couches de transformation ont leur rôle à jouer dans l’ensemble du processus. Ces couches sont une forme d’architecture de réseau neuronal entraînée à sélectionner les mots-clés les plus pertinents à partir d’une chaîne de mots. Cependant, le processus de formation n’est pas aussi simple qu’il n’y paraît, car il faut beaucoup de temps pour former des couches de transformateurs sur des gigaoctets de données.

Même si ChatGPT ne prédit qu’un seul mot à la fois, sa technologie auto-régressive est programmée pour prédire et alimenter le modèle primaire afin de libérer la sortie. Le modèle est réglé pour ne s’exécuter qu’une seule fois pour chaque mot, de sorte que le résultat est imprimé un mot à la fois. La sortie s’arrête automatiquement lorsque l’application rencontre une commande d’arrêt du jeton.

Par exemple, si vous regardez la calculatrice de jetons sur le site Web de ChatGPT, vous pouvez calculer votre utilisation de jetons en fonction de vos questions.

Entrons un exemple de texte, comme par exemple :

D’après le calculateur, il y a 46 caractères dans cette chaîne, ce qui consommera 13 tokens. Si vous le décomposez en Token ID, cela ressemble à ceci :

D’après la calculatrice, il y a 46 caractères dans cette chaîne, ce qui consommera 13 tokens. calculateur de jetons OpenAI:

Une règle empirique utile est qu’un token correspond généralement à ~4 caractères de texte pour un texte anglais courant. Cela correspond à environ ¾ d’un mot (donc 100 tokens ~= 75 mots).

Tokens gratuits et payants

Pour vous donner une idée de ce qui se passe dans l’application ChatGPT, OpenAI vous offre un abonnement gratuit et limité de jetons. Si vous souhaitez expérimenter l’API ChatGPT, utilisez le crédit gratuit de 5 $, qui est valable pendant trois mois. Une fois la limite épuisée (ou la période d’essai terminée), vous pouvez payer au fur et à mesure, ce qui augmente le quota maximum à 120 $.

ChatGPT Plus : l’abonnement payant en vaut-il la peine ?

Pour aller plus loin, vous pouvez même souscrire à l’offre ChatGPT Plus, qui vous coûtera 20 $ par mois. Compte tenu de l’utilisation intensive et de la popularité de l’ensemble du modèle IA, voici les principales caractéristiques du modèle d’abonnement payant :

• Accès à ChatGPT, même lorsque le site Web connaît des temps d’arrêt dus à un afflux d’utilisateurs.
• Amélioration des taux de réponse
• Accès direct aux nouvelles fonctionnalités et aux nouvelles versions

Si vous estimez que ces fonctionnalités en valent la peine et qu’elles vous conviennent, vous pouvez souscrire à l’abonnement payant et en bénéficier immédiatement.

Structure des prix du jeton ChatGPT

Il y a quelques modèles d’application différents disponibles, que vous pouvez choisir en fonction de vos besoins :

Modèle

Prix pour 1000 tokens (prompt)

Prix pour 1000 jetons (achèvement)

Ada est le modèle le plus rapide, tandis que DaVinci est le modèle le plus puissant de cette liste de modèles. L’invite est la question, tandis que la complétion traite des réponses.

Limites maximales de jetons

Chaque modèle vous permet de définir le nombre maximum de jetons dans chaque requête. Cette méthode permet de contrôler le nombre maximum de jetons que l’application génère en un seul appel, limitant ainsi le résultat. La fonction max_token est très utile, en particulier lorsque vous souhaitez contrôler la longueur de votre résultat tout en évitant d’utiliser trop de jetons et de crédits. La longueur par défaut est fixée à 2048 jetons, tandis que le maximum peut être fixé à 4096 jetons.

En limitant l’utilisation des jetons, vous risquez d’obtenir des réponses courtes, ce qui pourrait limiter les résultats et nuire à votre expérience d’utilisation.

ChatGPT3 a une limite supérieure de 4096 ; cependant, avec l’introduction de ChatGPT4, les limites de jetons sont augmentées, comme suit :

Modèle

Prix pour 1000 jetons (prompt)

Si votre sortie est tronquée, vous devez augmenter la limite maximale spécifiée dans votre tableau de bord. N’oubliez pas que la somme des tokens prompts et maximums doit toujours être inférieure ou égale à la limite maximale de tokens du modèle.

Par exemple, dans le modèle ChatGPT, le jeton jetons_primitif + jetons_maxitif <= 4096 jetons.

Apprenez à contrôler vos invites ChatGPT pour de meilleurs résultats

Quelle que soit la manière dont vous utilisez l’application pilotée par l’IA, il y a de fortes chances que vous deviez trouver des moyens de jouer intelligemment avec vos questions et vos phrases. En fonction de vos habitudes d’utilisation, vous utiliserez probablement ChatGPT de manière intensive pour chaque tâche.

Pour obtenir les meilleurs résultats, vous devez apprendre à travailler avec la méthodologie des jetons et améliorer vos compétences pour vous assurer que vos limites d’utilisation restent intactes tout en vous donnant les meilleures réponses possibles.

S’abonner à notre lettre d’information