La mise en cache des prompts arrive dans les sessions Claude
Les sessions Claude utilisent désormais la mise en cache des prompts : l'historique de chaque tour est lu depuis le cache pour une fraction du prix d'entrée, et l'utilisation en tient compte.
Les agents d'une session travaillent en boucle : appeler le modèle, exécuter un outil, renvoyer le résultat. Jusqu'ici, chaque tour renvoyait toute la conversation au prix plein de l'entrée.
Les requêtes envoyées à Claude portent désormais les marqueurs de cache d'Anthropic, sur le prompt système et sur la conversation jusque-là. Au tour suivant, l'historique revient sous forme de lecture du cache, qu'Anthropic facture à une petite fraction du prix normal de l'entrée.
Nous décomptons aussi l'utilisation telle qu'elle est facturée. Les nouveaux tokens d'entrée comptent en totalité, et les écritures et lectures du cache comptent à leurs propres tarifs. Sans cela, l'économie n'apparaîtrait nulle part : ni dans le graphique des coûts, ni dans les plafonds de dépenses, ni dans le quota mensuel de votre niveau. Une longue session Claude consomme désormais moins de votre quota qu'auparavant.
Cela s'applique à Claude sur les modèles de la plateforme et aux espaces de travail qui connectent leur propre clé Anthropic. Consultez Modèles et niveaux pour les niveaux.