Citations, la nouvelle fonction de Claude pour améliorer les réponses de l’IA

Ce jeudi 23 janvier, Anthropic a annoncé dans un blog post le déploiement de Citations sur son système Anthropic API qui permet aux développeurs d’aiguiller les réponses de Claude en citant les textes sources que vous lui fournissez.

Anthropic mise sur la confiance par la vérification des sources

Quelques jours après la promesse d’un investissement d’un milliard de dollars de Google, Anthropic introduit une nouvelle fonctionnalité destinée aux développeurs utilisant Anthropic Console. Ces derniers peuvent désormais intégrer des fichiers sources, permettant aux modèles d’inclure automatiquement des citations précisant l’origine des données extraites. Cette amélioration vise à renforcer la fiabilité des réponses du chatbot, qui avait parfois tendance à générer des informations inexactes en cas d’incertitude. Auparavant, les développeurs devaient recourir à des commandes complexes pour que Claude intègre les sources dans ses réponses.

Tous les modèles Claude sont conçus pour être fiables et orientables. Citations s’appuie sur cette base, répondant à un besoin spécifique des applications d’IA : vérifier les sources derrière les réponses générées par l’IA, note Anthropic dans son communiqué.

Cette fonctionnalité est, pour le moment, uniquement disponible pour les modèles Claude 3.5 Sonnet et Claude 3.5 Haiku. Aucune annonce n’a été faite concernant son déploiement sur le chatbot grand public.

La fonction peut notamment permettre de :

• Résumer des documents : l’outil peut vous fournir des résumés de longs textes ou dossiers que vous lui avez transmis,
• Répondre à des questions complexes : le chatbot peut répondre à des questions complexes de façon détaillé en se basant sur un large corpus de documents,
• Assister les utilisateurs pour des requêtes spécifiques : vous pouvez solliciter l’assistance du chatbot sur des sujets spécifiques en référençant des manuels de produits, des FAQ ou des tickets d’assistance, afin de mieux comprendre.

Comment ajouter les Citations sur Claude ?

Afin d’accéder à la fonctionnalité Citations, vous devez d’abord vous rendre dans l’API d’Anthropic et créer une clé API pour vous rendre sur la console Anthropic. Une fois arrivé sur la console :

• Vous pouvez importer des documents au format PDF, ou en texte brut,
• Entrez la commande ‘citation.enabled=true’ sur chacun de vos documents,
• Les documents seront ensuite traités par la plateforme et vous pourrez poser les questions de votre choix sur les textes fournis. Le chatbot vous citera le passage qu’il a utilisé pour vous répondre.

Actuellement, la fonction prend uniquement en charge les textes et ne permet pas d’intégrer des images pour en extraire ou demander des citations.