Pourquoi GPT-4 rebat les cartes

1. Que peut-on attendre de GPT-4 ?

On décrit souvent GPT-4 comme une intelligence artificielle. Mais derrière ce mot, on oublie que GPT-4 est d’abord une machine à produire du texte : il n’a pas de raisonnement ou de pensée propres. C’est ce qu’on appelle un modèle de langage de grande taille (large language model processing), c’est-à-dire un modèle statistique qui utilise un grand nombre de données (livres, articles de presse, pages Web et réseaux sociaux), pour apprendre à générer les mots et les phrases suivantes lorsqu’on lui donne une séquence de mots. La fonction de GPT-4 est donc de produire des textes pertinents et sophistiqués qui répondent au mieux à un besoin exprimé par le prompt, la petite séquence de mots par laquelle vous lui demandez d’effectuer une tâche.

Contrairement à ce que les sceptiques avancent, GPT-4 n’est pas une « machine à calculer » sophistiquée, ou encore un « perroquet approximatif », pour reprendre les mots du ministre délégué chargé de la Transition numérique, Jean-Noël Barrot. « Les outputs sont originaux, ce n’est pas du copier-coller ou du plagiat, explique Alexei Grinbaum, physicien et philosophe des sciences. La machine apprend comme nous apprenons, en lisant différents livres et en écoutant ce qui se dit autour de nous. » Cela ne revient pas à dire que GPT apprend « comme nous » : « les input et output ressemblent à ce qu’un humain peut comprendre et produire, mais le chemin entre les deux n’a rien à voir avec le raisonnement dans un cerveau, même si on arrive au même type de résultats. »

“Si on juge GPT-4 approximatif, c’est simplement parce qu’on ne sait pas lui poser les bonnes questions de la bonne manière”

—Alexei Grinbaum

La comparaison avec un être humain n’est donc tout simplement pas pertinente, que ce soit pour critiquer ou pour porter aux nues les performances de GPT-4. « GPT-4 n’est pas un perroquet, et si on le juge approximatif, c’est simplement parce qu’on ne sait pas lui poser les bonnes questions de la bonne manière », rappelle Alexei Grinbaum. Si nous sommes si souvent désemparés devant ces interfaces, c’est peut-être que nous les traitons encore un peu comme des encyclopédies parlantes ou des moteurs de recherche comme Google, qui venaient répondre à un besoin ciblé bien précis – une définition, une recette de gratin, des billets de train… La différence, c’est que GPT-4 n’a pas été conçu pour répondre à un besoin spécifique qui lui préexistait. Au contraire, c’est en apprenant à s’adresser à lui de manière efficace et intelligente que nous comprendrons réellement ce que nous pouvons en faire. De la même manière qu’on doit travailler un peu avant de savoir bien se servir d’une scie sauteuse, il faut avoir la curiosité d’apprendre à rédiger des demandes à GPT-4 pour espérer en tirer quelque chose. D’où la multiplication d’articles dont le titre peut parfois faire sourire – « Que demander à ChatGPT ? », « Comment parler à ChatGPT ? ».

“L’IA est tellement attachée à obéir à la demande humaine, qu’à force de chercher l’erreur dans ses propres productions elle se met à ‘halluciner’”

2. Pourquoi GPT-4 invente-t-il parfois des réponses loufoques ?

Parfois, l’IA est tellement attachée à obéir à la demande humaine, qu’à force de chercher l’erreur dans ses propres productions elle se met à « halluciner ». Ainsi, si on demande plusieurs fois d’affilée à GPT-4 de se corriger alors qu’il n’y a aucun…