Google Bard : le chatbot évolue avec un nouveau modèle de langage

Google Bard déçoit depuis son lancement

Annoncé en février 2023, et lancé il y a quelques semaines en version bêta aux États-Unis et au Royaume-Uni, Google Bard a un peu tardé avant d’être mis sur le marché. Les attentes des utilisateurs étaient donc particulièrement élevées concernant le nouveau chatbot de la firme californienne, supposé concurrencer ChatGPT. Malheureusement, si on en croit les premiers retours, l’agent conversationnel déçoit par rapport à ses concurrents. Les différents testeurs déplorent notamment des réponses moins détaillées par rapport à ChatGPT et Bing, mais également son incapacité à coder ou à faire preuve d’inventivité.

Le PDG de Google Sundar Pichai, invité du podcast Hard Fork du New York Times, a souhaité répondre aux différentes critiques relatives à Google Bard. Le dirigeant a promis des améliorations dans un futur proche, en particulier concernant le modèle de langage utilisé.

Changement de langage pour Google Bard

Une des particularités de Google Bard est l’utilisation d’un langage maison nommé LaMDA (Language Model for Dialogue Applications), contrairement à Bing qui s’appuie sur la technologie GPT – désormais GPT-4 – développée par OpenAI. D’après Sundar Pichai, le langage sera très prochainement abandonné au profit d’un autre, PaLM (Pathways Language Model), également développé en interne par l’entreprise californienne.

Nous avons clairement des modèles capables de bien mieux. Très bientôt, peut-être dès à présent, nous allons améliorer Bard en le faisant passer sur l’un de nos modèles PaLM bien plus capables, pour lui offrir davantage de facultés, des raisonnements plus structurés, lui permettant notamment de coder.

Le PDG de Google justifie l’utilisation du langage LaMDA lors de la phase bêta par la nécessité d’entraîner les équipes à déployer un modèle plus léger, avant d’effectuer une transition vers un modèle de plus grande envergure. Le choix de ce modèle de langage – développé dans une version « légère et efficace » pour Bard – a également permis à Google de lancer son service plus tôt, et ainsi de pouvoir être confronté rapidement aux premiers retours d’utilisateurs.

Quelles différences entre LaMDA et PaLM ?

Ce nouveau langage promet d’être bien plus performant que le précédent. Pour comparaison, LaMDA a été entraîné sur 137 milliards de paramètres, alors que PaLM a été formé sur environ 540 milliards de paramètres.

Ainsi, PaLM sera en mesure de générer des réponses plus diversifiées, avec de meilleures aptitudes de raisonnement. Il sera également doté de capacités en code et en mathématiques, là où LaMDA a été conçu autour du dialogue. Par ailleurs, lorsque PaLM a été dévoilé au grand public il y a quelques semaines, beaucoup d’observateurs se sont montrés impressionnés par sa compréhension du langage naturel, en particulier de l’humour. Il s’agit d’une force également notée lors de la sortie de GPT-4.