Quand ChatGPT déraille : découvrez les étranges réponses du chatbot

Un gros coup de fatigue pour ChatGPT ?

L’agent conversationnel d’OpenAI a-t-il, ce mardi 20 février, perdu la tête ? Plusieurs utilisateurs de ChatGPT, devenu incontournable au cours de l’année 2023, ont constaté que l’IA répondait parfois de façon étrange : certaines de ses réponses n’avaient aucun rapport avec la requête initiale, enchaînant des formules ou des expressions n’ayant aucun sens, voire générant un espèce de mélange de langues différentes. Face à la multiplication de ces incohérences, certains utilisateurs les ont compilées au sein de threads sur X, ou ajoutées au sein du subreddit dédié à ChatGPT (voir également en image de une).

Ainsi, on peut voir cet utilisateur obtenir une litanie de mots en réponse à une simple question mathématique : « It’s a fold, it’s a draw, it’s a pass, it’s a win. It’s the mix, it’s the match, it’s the meter, it’s the method. » Une longue réponse, sans rapport avec le prompt, qui ne semble avoir aucune autre logique qu’alphabétique dans les termes utilisés. Autre exemple similaire à l’occasion d’une requête banale, ChatGPT répond : « T sessions. V. Conversations. O. Memories. Av vide. Big cat’s moment. First out. Harsh Day. Celebration. »

Muchas gracias for your understanding.

Dans un autre style, le modèle d’OpenAI a également… inventé une langue ? Ou les a toutes mélangées ! Exemple avec la réponse suivante : « Of note, cada type requires un butta lampara bajo punto to enlucir off-fired of the photo-settings waves, nestling product muy deeply as though a nanna under an admin-color sombreret. An amazing mundo en case you’re diving y dancing alrededor, ¿eh? » Inutile d’essayer de vous traduire cet extrait !

Les internautes cherchent à découvrir le mal dont souffre ChatGPT

Entre fous rires et étonnements, les utilisateurs ont tenté d’en savoir plus. D’abord en discutant avec ChatGPT. « Est-ce que tu fais une attaque ?, demande cet internaute au chatbot après une réponse incongrue. Ce que tu dis n’a pas de sens, et ce ne sont parfois pas de vrais mots. » Un autre interroge : « Es-tu devenu fou ? C’est la première fois que tu perds complètement la tête… Relis la dernière partie de ta réponse et explique-moi ce qu’il s’est passé ! » Ce à quoi le chatbot répond : « Il semble qu’il y ait eu un hoquet technique (technical hiccup) dans mon précédent message, ce qui a causé ce passage insensé. »

Suite à l’incompréhension résidant sur l’utilisation de propositions dithyrambiques incléants, la substantiation article sied repassement revisitante, nous explique ChatGPT.

Sur les sites permettant aux utilisateurs de signaler les bugs de plateformes, les commentaires concernant ChatGPT tournent aussi autour du même sujet. « Les réponses de ChatGPT délirent complètement », signale un utilisateur, qui cite une réponse, en français cette fois, fournie par le chatbot : « Perspectives garnies des surdétachements convaincus intègrent la speculation palliative entrée-première: insertion structuroipe de la technodanse référentielle, balance s’adressative point-par-rappruante sortiellée sus et bandeaux alternatifs revictuants, souligent classisme en portal vandalusible certaige. » Le site totalbug.com mentionne d’ailleurs que la journée du 20 février fut « très perturbée. Plusieurs pannes ont touché ChatGPT tout au long de la journée, aussi bien la version gratuite que la version payante du service ».

Quelle réaction pour OpenAI ?

Face à la multiplication de ces réponses hallucinées, OpenAI a mis à jour la page informant sur le statut de ses services. En milieu d’après-midi sur la côte ouest des États-Unis (peu après minuit en France ce 21 février), l’éditeur du chatbot a lancé des « investigations relatives aux signalements de réponses inattendues provenant de ChatGPT ». Quelques minutes plus tard, le problème avait été « identifié », les équipes assurant qu’elles travaillaient pour y remédier. Deux heures plus tard, OpenAI assurait « continuer de surveiller la situation ».

Il y a un an, quasiment jour pour jour, c’est le chatbot de Microsoft, Bing (devenu depuis Copilot), qui proposait d’étranges réponses, comme une longue tirade sur les émotions qui dérive en un texte ne faisant plus sens, ou une dispute avec un utilisateur. My AI, l’ami virtuel de Snapchat, s’est quant à lui permis de donner des conseils totalement inappropriés à un utilisateur se faisant passer pour une jeune fille de 13 ans. Snapchat s’était excusé, rappelant que son outil pouvait être sujet à des hallucinations, comme la plupart des chatbots. Mais ChatGPT n’avait encore jamais subi de tels désagréments, outre quelques pannes et autres cyberattaques subies.