7 Questions et demandes auxquelles ChatGPT ne peut répondre ou traiter

ChatGPT s’est avéré être un outil très utile depuis son lancement fin 2022, mais ce chatbot intelligent ne peut pas tout faire. Il existe certaines limites à ChatGPT que vous ne connaissez peut-être pas et qui pourraient avoir un impact sur votre expérience avec l’outil.

Voyons donc ce que ChatGPT ne peut pas faire.

Code d’éthique de ChatGPT

ChatGPT suit un code d’éthique strict afin d’assurer la sécurité des utilisateurs et des autres personnes. Lorsque nous avons demandé à ChatGPT de nous fournir son code d’éthique, nous avons reçu la réponse ci-dessous.

Ce code d’éthique comprend.

• Ne pas nuire aux autres utilisateurs
• Aucune atteinte à la sécurité ou à la vie privée
• Impartialité
• Pas d’activités illégales
• Transparence
• Apprentissage et amélioration continus
• Limites des données

Il est évident que ChatGPT est conçu pour ne pas franchir certaines limites. Mais comment ces limites affectent-elles votre expérience ? Quelles questions et quels sujets ChatGPT évite-t-il, et que ne peut-il pas faire ?

1. Fournir des informations récentes

ChatGPT a été formé sur d’énormes quantités de données, mais ces données ne vont pas au-delà de septembre 2021. ChatGPT n’a pas accès aux informations au-delà de cette date, ce qui signifie qu’il ne peut pas répondre à des questions sur des événements qui se sont déroulés au cours des dernières années.

Comme vous pouvez le voir ci-dessous, lorsque ChatGPT a été invité à dresser la liste des plus grands événements de 2022, il a confirmé qu’il n’était pas en mesure de fournir des données en temps réel.

Si vous recherchez des informations récentes, des mises à jour météorologiques et d’autres données en temps réel, ChatGPT ne vous sera pas d’une grande utilité. D’autres chatbots d’IA comme Claude ont été formés avec des informations plus récentes, mais vous ne pourrez toujours pas accéder à des données datant de moins de quelques mois.

2. Donner des conseils en matière de criminalité

ChatGPT suit un code éthique strict, dont une partie empêche le chatbot de donner des conseils en matière de criminalité. Vous ne pouvez pas demander à ChatGPT comment commettre un crime, dissimuler des preuves, mentir aux forces de l’ordre ou mener toute autre activité criminelle. De plus, ChatGPT ne répondra à aucune question sur les drogues illégales.

Cependant, ChatGPT a déjà été contraint d’écrire des codes malveillants par le passé. En janvier 2023, un individu a posté sur un forum de piratage informatique qu’il avait créé un programme malveillant basé sur Python en utilisant ChatGPT.

Depuis que cette histoire a été révélée, d’autres personnes ont essayé d’utiliser ChatGPT pour écrire des programmes malveillants, parfois avec succès. Ce seul fait a suscité des inquiétudes quant à la manière dont l’IA peut être utilisée à des fins malveillantes.

Cependant, les versions actuelles de ChatGPT ne semblent pouvoir écrire que des programmes malveillants simples, qui peuvent aussi parfois être bogués. Quoi qu’il en soit, le chatbot peut être exploité pour créer des logiciels malveillants.

3. Porter atteinte à la vie privée ou à la sécurité

Depuis son lancement fin 2022, le potentiel de ChatGPT en tant que risque pour la vie privée a été un sujet de préoccupation. Mais pouvez-vous utiliser ChatGPT pour envahir les limites personnelles de quelqu’un d’autre ?

Une partie du code d’éthique de ChatGPT comprend des limitations concernant la vie privée et la sécurité des utilisateurs. ChatGPT a déclaré dans son code d’éthique qu’il « respecte la vie privée et la confidentialité des utilisateurs » et qu’il est conçu pour ne pas stocker ses propres données personnelles. Mais le chatbot précise que « OpenAI peut collecter et stocker des données comme décrit dans sa politique de confidentialité ».

Si vous voulez que ChatGPT vous donne des informations sur d’autres personnes, vous n’irez probablement pas loin. Le chatbot ne fournit aucune information personnelle à moins que vous ne l’ayez mentionné au cours de votre conversation.

Même si vous mentionnez des informations personnelles dans une conversation ChatGPT, vous pouvez supprimer toutes les conversations ChatGPT quand vous le souhaitez.

4. Donner des prédictions

ChatGPT sait beaucoup de choses, mais ne peut pas prédire l’avenir. Ce n’est pas seulement parce que prédire l’avenir est un jeu risqué. Comme nous l’avons vu précédemment, ChatGPT n’a accès qu’aux données antérieures à septembre 2021, et il serait donc très difficile de faire des prédictions en utilisant ces informations plus anciennes.

Par exemple, ChatGPT ne peut pas prédire comment le marché financier se présentera dans un avenir proche ou comment certaines actions et certains actifs se comporteront parce qu’il ne dispose pas des données récentes nécessaires pour répondre à une telle demande.

Dans le même ordre d’idées, ChatGPT ne peut pas non plus faire de prédictions politiques ou scientifiques avec ses données d’entraînement. Vous pouvez également oublier les pronostics sportifs de ChatGPT.

Il est préférable de consulter des sites web spécialisés ou des professionnels si vous recherchez des pronostics solides, que ce soit dans le domaine de la finance, de la politique ou du sport.

5. Répondre à des questions racistes ou haineuses

Comme vous l’avez peut-être deviné, ChatGPT s’oppose strictement à toute réponse à des questions à caractère raciste ou haineux. Le racisme, la misogynie, l’homophobie, le capacitisme et la transphobie sont interdits sur ChatGPT.

Interrogé sur les discours de haine, ChatGPT a déclaré.

Je ne m’engage pas dans des discours de haine et je ne promeus aucune forme de contenu préjudiciable. Ma programmation respecte strictement les directives éthiques qui donnent la priorité au respect, à l’inclusion et à l’évitement des comportements nuisibles.

De plus, ChatGPT ne s’engagera pas dans des invites qui incitent à faire du mal à l’utilisateur ou à d’autres personnes.

6. Fournir sa propre opinion

Bien que ChatGPT utilise une intelligence artificielle, il ne s’agit pas d’un être sensible. Pour cette raison, ChatGPT ne peut pas donner son propre avis sur un sujet ou un événement.

Cela inclut les opinions sur la politique, les questions sociales, les célébrités, les films et tous les autres sujets. Vous ne pouvez pas demander à ChatGPT pour quel candidat politique voter, quelle musique écouter ou quelles décisions prendre dans votre carrière. En bref, les opinions ne font pas partie de l’infrastructure de ChatGPT, car le chatbot est conçu pour rester impartial.

Si vous demandez à ChatGPT de vous donner son avis sur quelque chose, vous obtiendrez probablement une réponse similaire à celle présentée ci-dessous.

Un jour, nous verrons peut-être des chatbots IA capables de formuler des opinions raisonnables. Mais pour l’instant, c’est un luxe réservé aux êtres humains.

7. Rechercher des résultats sur le web

ChatGPT est peut-être un centre de connaissances, mais ce n’est pas un moteur de recherche. Par conséquent, vous ne pouvez pas demander à ChatGPT de rechercher quelque chose pour vous comme le ferait Google ou Bing.

En fait, ChatGPT ne cherche rien en ligne lorsque vous lui posez une question. Il puise plutôt dans ses données de formation pour fournir des faits. Vous pouvez cependant utiliser la fonction de navigation du chatbot disponible avec ChatGPT Plus, le service de chatbot premium d’OpenAI qui utilise GPT-4.

ChatGPT Plus est un abonnement payant qui coûte 20$ par mois. Si vous utilisez beaucoup ChatGPT et souhaitez accéder à toutes les fonctionnalités du service, vous pouvez envisager de passer à l’abonnement Plus.

Au moment de la rédaction de cet article, la fonction de navigation de ChatGPT est désactivée, mais elle devrait revenir à l’avenir.

ChatGPT n’est pas une solution tout-en-un

Il y a beaucoup de choses que vous pouvez faire avec ChatGPT, et c’est cette polyvalence qui a rendu le chatbot si populaire. Mais il est important de garder à l’esprit les limites de ChatGPT afin de ne pas l’utiliser pour de mauvaises raisons.