Meta dévoile Code Llama, son modèle d’IA pour générer du code

Code Llama entre dans la danse pour concurrencer OpenAI et Google

Meta a dévoilé sa dernière innovation, Code Llama, son IA capable de générer du code basé sur son grand modèle de langage Llama 2. Ce nouveau modèle de langage, spécialement conçu pour la programmation et les développeurs, permet la génération de code et la production en langage naturel, en réponse à des prompts en code ou en langage naturel. Gratuit pour la recherche et l’usage commercial, Code Llama est disponible en trois versions spécifiques :

• Code Llama : le modèle de base pour la génération de code,
• Code Llama – Python : spécialement conçu pour le langage de programmation Python,
• Code Llama – Instruct : affiné pour comprendre et générer des réponses en langage naturel à partir d’instructions.

La flexibilité de Code Llama le rend adaptable à plusieurs langages de programmation, dont les plus couramment utilisés, comme Python, C++, Java, PHP, C# ou encore Bash.

Des possibilités qui placent Code Llama parmi les meilleures IA génératrices de code ?

Code Llama se révèle être un modèle de langage polyvalent, capable de générer du code complet, compléter des parties de code et aider à déboguer des programmes. Les possibilités en termes de rédaction en langage naturel permettent l’apprentissage pour les débutant, mais les développeurs plus aguerris peuvent également obtenir des suggestions pertinentes et une assistance pratique pour rédiger un code plus robuste et mieux documenté. Chacune des versions de Code Llama a été entraînée sur 500 milliards de jetons et de données liées au code.

Meta a réalisé son propre benchmark pour tester Code Llama par rapport aux autres solutions existantes, en utilisant HumanEval et MBPP (Mostly basic Python programming). Les résultats ont révélé que « Code Llama a mieux performé que les autres modèles de langage open source existants et a surpassé Llama 2 », écrit Meta dans un blog post, avec des scores de 53,7 % sur HumanEval et de 56,2 % sur MBPP pour Code Llama – Python.

Comment accéder à Code Llama

Meta met à disposition ses modèles de langage open source qu’il est possible de télécharger en en faisant la demande en suivant ce lien. Parallèlement, toutes les recettes d’entraînement de Code Llama sont disponibles sur GitHub. Tous les détails liés à son installation y sont également renseignés. Et afin d’être complet, Meta ajoute parallèlement son article de recherche sur le sujet, ainsi qu’un guide pour une utilisation responsable.

« Chez Meta, nous croyons que les modèles d’IA, en particulier les LLM (grands modèles de langage, ndlr) pour la programmation, tire le meilleur parti d’une approche ouverte, à la fois en termes d’innovation et de sécurité. Les modèles spécifiques au code, disponibles publiquement, peuvent faciliter le développement de nouvelles technologies qui améliorent la vie des gens. En publiant des modèles de code comme Code Llama, l’ensemble de la communauté peut évaluer leurs capacités, identifier des problèmes et corriger des vulnérabilités », justifie la firme américaine.