Limites de ChatGPT : 7 inconvénients à connaître

Depuis son lancement il y a quelques mois, ChatGPT a recueilli un succès instantané qui a permis d’ouvrir une séquence notable autour de l’intelligence artificielle. L’IA conversationnelle a notamment été saluée pour la pertinence de ses réponses dans des domaines très variés. Pourtant, certaines de ses limites ont également été soulignées. Nous avons listé ci-dessous 7 inconvénients de ChatGPT.

1. ChatGPT ne peut pas apporter de réponse sur des événements récents

Un des défauts souvent mentionnés au sujet du chatbot est la limite de sa base de données, qui n’a pas été mise à jour depuis septembre 2021. ChatGPT ne sera donc pas en mesure d’apporter des réponses sur des thématiques d’actualité. A contrario, son concurrent Google Bard (qui sera déployé prochainement auprès du grand public) est directement connecté au Web. Un avantage qui permet à l’IA d’accéder en temps réel aux informations présentes du internet. Certains alternatives à ChatGPT, comme YouChat, ont également la capacité d’accéder à des informations plus récentes.

2. ChatGPT n’indique pas ses sources

Pour produire son contenu, ChatGPT puise dans une base de donnée conséquente notamment constituée à partir d’informations présentes sur Internet  (articles, sites web, conversations publiques…). Les sources utilisées sont donc multiples et inconnues par l’utilisateur. Cette absence de transparence est une barrière pour s’assurer de la crédibilité de son contenu, ou pour les utilisateurs souhaitant citer leurs sources (dans le cadre d’un travail universitaire ou journalistique par exemple). C’est dans cette logique que Microsoft a souhaité ajouter cette fonctionnalité à son nouveau Bing intégrant la technologie de ChatGPT.

3. ChatGPT produit des contenus peu personnalisés

Une des limites inhérentes aux intelligences artificielles est la difficulté à produire des textes singuliers ou à exprimer une sensibilité. ChatGPT n’échappe pas à la règle et propose des contenus dans un style souvent froid et impersonnel. Il a notamment tendance à rédiger des textes standardisés, qui se ressemblent entre eux. Si, en théorie, le chatbot est supposé être en mesure de reproduire la plume d’une personne (un écrivain ou une personnalité politique par exemple), il a en réalité une certaine difficulté à s’imprégner d’un style de manière fluide et non stéréotypée.

4. ChatGPT manque de sensibilité

Une intelligence artificielle ne peut ressentir d’émotion ou faire preuve de sensibilité. Au mieux, elle peut tenter de les reproduire. Cela conduit ChatGPT à mal interpréter certaines subtilités du langage comme le sarcasme, l’humour ou les jeux de mots. Ce manque de sensibilité peut également poser problème lorsqu’il s’agit de faire preuve d’esprit critique. En effet, ChatGPT manque parfois de discernement dans la hiérarchisation des informations, en mettant au même niveau deux discours n’ayant pas la même légitimité. Cette tendance est accentuée par le biais de neutralité de l’IA, qui cherche à nuancer au maximum ses réponses.

5. Les informations de ChatGPT ne sont pas toujours fiables

La grande majorité du temps, ChatGPT produit des contenus exacts, car il recoupe différentes informations de sa base de donnée. Cependant, certains utilisateurs ont pu constater des incohérences dans les réponses du chatbot. L’IA a notamment produit de toute pièce de fausses informations parfois très convaincantes (faits historiques ou citations d’auteurs), un phénomène appelé « hallucination ». Si l’outil est amené à s’améliorer à l’avenir, et à limiter son nombre d’erreurs, il est tout de même nécessaire de vérifier les informations qu’il nous fournit.

6. Les connaissances de ChatGPT sur les sujets pointus sont limitées

De nombreux spécialistes ont été confrontés à ChatGPT afin d’évaluer ses connaissances sur des sujets très spécifiques. Dans de nombreux cas, il a été noté que, si le chatbot est capable de disserter en surface sur un sujet donné, il est souvent incapable de se rentrer dans le détail ou de parler d’un concept pointu. Ces limites ont en particulier été soulignées dans le domaine médical ou dans les mathématiques. Des fautes de calcul grossières ont même été commises sur des requêtes pourtant relativement simples.

Même le PDG d’OpenAI reconnaît les limites de ChatGPT dans un tweet : « ChatGPT est incroyablement limité, mais suffisamment bon dans certains domaines pour créer une impression trompeuse de grandeur. C’est une erreur de s’y fier pour quoi que ce soit d’important en ce moment. C’est un aperçu du progrès ; nous avons beaucoup de travail à faire sur la robustesse et la véracité. »

7. ChatGPT n’est pas toujours accessible

Dans certains cas, ChatGPT affiche un temps de réponse long. Il peut également lui arriver de ne pas être en mesure de répondre et d’indiquer le message « Network error » ou « ChatGPT is at capacity right now ». Ces problèmes surviennent principalement quand la requête demande un effort conséquent à l’IA, comme un texte long ou une thématique complexe. Le message d’erreur peut également être causé par un trafic simultané trop élevé sur les serveurs. Notons toutefois qu’OpenAI a pris la mesure du problème en proposant un accès total et plus rapide dans sa version payante ChatGPT plus.