Mistral AI, la startup française qui veut rivaliser avec OpenAI dès 2024

À l’occasion du Tech.Rocks Summit, Timothée Lacroix, CTO et cofondateur de Mistral AI, était interviewé par Charles Gorintin, fondateur et CTO de Alan. Profil d’ingénieur, Timothée a travaillé 8 ans chez Meta avant de rejoindre l’aventure Mistral AI. Lors de cette conférence, il nous a partagé les ambitions et la vision de sa startup pour développer des modèles d’IA performants.

Mistral AI a l’ambition de faire mieux qu’OpenAI…

Six mois après son lancement, Mistral AI devrait bientôt lever 450 millions d’euros et ainsi s’approcher d’une valorisation à 2 milliards de dollars, selon les dernières informations communiquées par Bloomberg. La startup française a pour ambition de rejoindre la course à l’intelligence artificielle, et de venir notamment égaliser les modèles d’OpenAI dès l’année prochaine.

L’objectif pour Mistral AI est de « développer des modèles utiles, donc faire beaucoup d’open source pour que la communauté puisse trouver les usages derrière », nous explique Timothée Lacroix. À long terme, l’objectif serait de « faire mieux que les grands », sous-entendu : surpasser les acteurs dominants du marché comme OpenAI et Microsoft.

L’open source au cœur du projet

En septembre dernier, Mistral AI dévoilait Mistral 7B, son premier grand modèle open source pour rivaliser avec les acteurs américains. L’espoir français a même indiqué que son modèle open source était plus performant que celui de Meta : Llama 2. Côté vision, le message est clair : se reposer sur l’open source et la communauté de recherche pour travailler sur la phase post-training et continuer à améliorer leur modèle. Mais alors, quid du business model ? « Le business model va se construire beaucoup plus tard, lorsqu’on aura compris les usages nécessaires », confie Timothée Lacroix.

Nous sommes convaincus qu’en formant nos propres modèles, en les publiant ouvertement et en encourageant les contributions de la communauté, nous pouvons construire une alternative crédible à l’oligopole émergent de l’IA. Les modèles génératifs à poids ouvert joueront un rôle central dans la prochaine révolution de l’IA, indiquait Mistral AI dans un blog post en septembre dernier.

Des défis techniques à relever pour construire le « bon modèle d’IA »

Derrière Mistral AI, on retrouve 3 fondateurs (Guillaume Lample, Arthur Mensch et Timothée Lacroix), ainsi que des collaborateurs avec des profils de chercheurs, qui sont « familiers avec des paysages qui changent » et prêts à affronter les incessantes évolutions de ce marché de l’IA, pour proposer un « bon modèle d’IA ». Mais qu’est-ce qu’un « bon modèle d’IA » ? Selon le CTO de Mistral AI, cela passe tout d’abord par avoir les données adéquates pour pouvoir ensuite lancer l’entraînement du modèle en choisissant les paramètres. L’entraînement d’un modèle peut durer plusieurs semaines, et cela peut engendrer des coûts non négligeables. « On ne peut pas se tromper », insiste le CTO. Cela requiert aussi de la rigueur en amont. Puis vient la phase post-training, avec la matière primaire qu’il faut modeler de la meilleure façon. Et c’est à ce moment-là que l’open source et la communauté associée entrent en jeu.

Pour réaliser de grands modèles d’IA, cela passe par « des entraînements qui sont stables et qui vont vite, c’est un défi technique permanent », souligne le CTO. Et pour relever ce défi, Mistral AI aura besoin de s’appuyer sur des experts tels que des AI scientist (chercheurs) mais aussi sur des profils de devOps pour optimiser l’ensemble des processus autour du développement des modèles d’IA. En somme, s’appuyer sur les bons talents pour atteindre l’objectif final de 2024 : « arriver à parité avec OpenAI ».