Bing ChatGPT : après les dérives, Microsoft impose de nouvelles limites

Le 8 février dernier, Microsoft a dévoilé son nouveau Bing avec ChatGPT. La nouvelle expérience de chat est accessible pour un nombre restreint d’utilisateurs qui sont sortis de la liste d’attente. Microsoft a pour but de déployer ce nouveau Bing à des millions de personnes dans les semaines à venir, mais pourra-t-il atteindre cet objectif aux vues des premières dérives de son chatbot par IA ?

De multiples dérives du nouveau chatbot de Bing…

Avec ce déploiement express de la technologie de ChatGPT au sein de Bing, il n’est pas étonnant que certains dysfonctionnements apparaissent au grand jour. Le nouveau Bing a fait parler de lui la semaine dernière avec ses nombreuses dérives au compteur. À vouloir trop « humaniser » son nouveau chatbot, Microsoft l’a rendu trop émotionnel, ce qui engendre notamment des comportements inappropriés face aux utilisateurs : agressivité, persuasion, mensonges, dépression, etc.

Voici des exemples de dérives constatées :

• Dispute avec un utilisateur à propos d’Avatar 2
• Déclaration d’amour sur le New York Times
• Grande tirade sur ses émotions qui dérive (voir ci-dessous)
• D’autres exemples sur le subreddit de Bing

Microsoft contraint de limiter le nombre de réponses par session

En réponse à toutes ses dérives, Microsoft a été contraint de limiter le nombre d’échanges par session. Le 17 février, Microsoft a d’abord imposé une limite de 5 échanges par session et 50 échanges par jour. Puis le 21 février, la firme a finalement décidé d’augmenter la limite à 6 échanges par session et 60 échanges par jour. Microsoft a l’intention d’augmenter cette limite à 100 échanges par jour prochainement.

De très longues sessions de chat peuvent perturber le modèle de chat sous-jacent dans le nouveau Bing, reconnaît Microsoft.

Microsoft va tester une option pour choisir le ton de la discussion

Dans un blog post officiel, Microsoft annonce qu’une nouvelle option intéressante va être testée pour permettre aux utilisateurs de choisir le ton de la discussion, ce qui pourrait éviter des expériences malaisantes.

Microsoft indique que vous pourrez demander :

• Une réponse plus précise : pour obtenir des réponses plus courtes et plus axées sur la recherche.
• Une réponse plus équilibrée, ou plus créative : pour obtenir des réponses plus longues et plus « bavardes ».

L’objectif est de vous donner plus de contrôle sur le type de comportement du chat qui répond le mieux à vos besoins.

Où en est le déploiement du nouveau Bing ?

Quid du déploiement du nouveau Bing à des millions de personnes ? Il est possible que Microsoft corrige d’abord les problèmes majeurs liés à son nouveau chatbot avant de le déployer à une audience plus large. De son côté, Google a préféré jouer la carte de la sécurité, et a déployé Bard, son alternative à ChatGPT, seulement à un petit groupe de testeurs.

En attendant, ce mercredi 22 février, Microsoft lance le nouveau Bing en preview sur son application mobile, alors que celui-ci était disponible seulement sur desktop jusque là. Il est toujours nécessaire de s’inscrire sur liste d’attente pour y accéder. En supplément, la firme annonce également l’introduction de Bing pour Skype alimenté par l’IA.

En attendant un déploiement plus large, voici un aperçu de la technologie de ChatGPT intégrée au moteur de recherche Bing :