Qu’est-ce que le « TruthGPT » sur lequel Elon Musk prétend travailler ?

Alors que le domaine de l’intelligence artificielle continue d’évoluer à un rythme vertigineux, un nouveau concurrent s’apprête à entrer sur le terrain. TruthGPT, un chatbot d’IA proposé par le milliardaire de la tech Elon Musk, fait beaucoup parler de lui en ligne.

Mais qu’est-ce que TruthGPT ? Pourquoi Elon Musk veut-il le créer ? Et en quoi sera-t-il différent des outils d’IA dont nous disposons déjà ?

Qu’est-ce que TruthGPT ?

TruthGPT est une proposition de modèle d’IA visant à résoudre les problèmes des modèles existants qui alimentent des outils tels que ChatGPT et Bard, en mettant particulièrement l’accent sur la vérité et la sécurité. Selon Elon Musk, TruthGPT sera une IA « à la recherche de la vérité maximale » qui comprendra la nature de l’univers et ne détruira probablement pas l’humanité car elle considère les humains comme un élément essentiel de l’univers.

Une IA à la recherche de la vérité maximale ? Comprendre la nature de l’univers ?

On vous pardonnera si la description de Musk ne vous donne pas une image claire de ce qu’il essaie de construire. Cependant, vous aurez une meilleure idée de ce dont il parle en examinant les raisons pour lesquelles il essaie de la construire en premier lieu.

Pourquoi Elon Musk construit-il TruthGPT ?

Dans une interview avec Fox News Elon Musk a exprimé ses inquiétudes sur la façon dont les grandes entreprises d’IA peuvent perpétuer les préjugés et la désinformation par le biais des chatbots d’IA – un outil émergent dont les gens dépendent de plus en plus pour obtenir des informations. Elon Musk a également commenté la menace que représente l’IA pour l’humanité, soulignant la possibilité d’une apocalypse de l’IA, un scénario dans lequel les systèmes d’IA pourraient prendre le contrôle de nos vies quotidiennes.

En pointant du doigt des entreprises comme OpenAI et Google, qui, selon lui, n’en font pas assez dans les domaines de la sécurité de l’IA et de la protection contre la désinformation, Elon Musk a proposé une troisième force – la véritéGPT. Le PDG de SpaceX et de Tesla souhaite créer TruthGPT pour faire contrepoids à Bard de Google et à ChatGPT d’OpenAI. L’idée est de créer un modèle d’IA qui essaie autant que possible d’être véridique dans les informations qu’il fournit.

Elon Musk, qui a récemment écrit une lettre ouverte appelant à un moratoire sur le développement de modèles d’IA puissants (en particulier ceux plus puissants que GPT-4), estime que l’IA va trop vite. Il estime que nous devons ralentir et réévaluer notre approche de la sécurité de l’IA avant que celle-ci ne « prenne le contrôle ». TruthGPT est un grand modèle de langage (LLM) qui promet de répondre à ces deux préoccupations fondamentales des systèmes d’IA d’aujourd’hui.

À quoi ressemblerait TruthGPT ?

Le premier indice de l’apparence de TruthGPT se trouve dans son nom. Compte tenu de l’appendice « GPT », TruthGPT aura probablement une architecture similaire à ChatGPT. N’oubliez pas qu’Elon Musk a participé à la création d’OpenAI et de l’équipe qui a construit le modèle GPT de ChatGPT.

En outre, étant donné que l’architecture de GPT s’est avérée être un succès technique et commercial, la poursuite d’une voie différente sera probablement trop longue et trop coûteuse. Le temps est une chose dont Elon Musk ne dispose pas s’il veut construire le plus rapidement possible un produit capable de rivaliser avec l’IA de pointe. Ne vous emballez donc pas trop vite : il se pourrait que la technologie TrueGPT ne soit pas si radicalement différente des outils d’IA dont nous disposons déjà.

La précision ou, dans le jargon d’Elon Musk, la « véracité » d’un modèle d’IA dépend fortement de ses données d’entraînement et de l’algorithme d’entraînement. Nous ne savons pas exactement comment les données d’entraînement de TruthGPT seraient obtenues, mais pour avoir les meilleures chances de construire un LLM aussi « véridique » que possible, TruthGPT d’Elon Musk devrait donner la priorité aux données provenant de « sources véridiques ». Mais c’est précisément le problème. La vérité est un concept très subjectif. Ce qui est vrai pour moi peut ne pas l’être pour vous.

Alors, l’idée d’une IA à la recherche de la vérité maximale est-elle même pratique ?

Pourquoi la construction de TruthGPT est un défi de taille

Une fois que l’on a compris comment fonctionnent les grands modèles de langage comme GPT, il devient évident qu’il n’est pas pratique d’être correct à tout moment. Typiquement formés sur un grand ensemble de données Internet, une grande partie de ces données sera, comme on peut s’y attendre, de fausses informations, et les LLM n’ont aucun moyen inerte de distinguer la réalité de la fiction.

La meilleure intervention est généralement celle des formateurs humains qui essaient d’enseigner au modèle linguistique ce qui est un bon comportement et ce qui est un mauvais comportement. Mais les formateurs humains ont des préjugés. La partialité est transmise aux modèles d’IA, ce qui va à l’encontre de l’objectif d’une « IA à recherche maximale de la vérité ». Notez que nous ne parlons pas ici de parti pris ou de préjugés à l’encontre d’un peuple ou d’une autre personne. Ce sont les préjugés plus subtils sur la façon dont vous interprétez le langage, les situations, les défis, etc. qui s’infiltrent dans le processus. Les humains sont des humains, après tout.

Bien sûr, la précision peut également être abordée du côté des algorithmes. Cependant, quel que soit l’algorithme, l’ambiguïté du langage reste un problème majeur pour la précision des modèles d’IA. Même les humains ont souvent du mal à interpréter avec précision le sens d’une phrase ou d’une expression, ce qui conduit à des informations erronées. Pour les modèles d’IA, l’ambiguïté peut conduire à des interprétations erronées et donc à des inexactitudes.

Pour Musk, TruthGPT semble être une chance de sculpter un modèle d’IA qu’il juge apte à délivrer la vérité. La manière dont il y parviendrait sans introduire ses propres préjugés est une toute autre question et nous ramène au début de la conversation. En quoi les opinions de Musk sur ce qui est biaisé ou non sont-elles différentes de celles des personnes qui ont formé et dirigé ChatGPT ?

La TruthGPT est-elle une possibilité excitante ?

Les projets d’Elon Musk pour TruthGPT semblent nobles et louables. Cependant, construire un modèle d’IA avec une incidence négligeable d’inexactitudes est une tâche difficile.

On s’attendrait à ce qu’un milliardaire de la technologie qui a démystifié la science des fusées soit capable de réaliser quelque chose de cette nature, mais certaines choses sont plus faciles à dire qu’à faire.

S’abonner à notre lettre d’information