Informations sur l’utilisation et les limites

Cette page décrit la tarification, les limites d’utilisation et les restrictions de compte applicables à Serverless Inference. Utilisez ces informations pour planifier votre utilisation et éviter des frais imprévus ou des interruptions de service. Consultez-les avant d’envoyer du trafic de Production, en particulier si vous gérez la facturation ou utilisez des niveaux de concurrence élevés.

​

Tarification

Pour des informations détaillées sur la tarification des modèles, consultez la tarification de Serverless Inference.

​

Acheter plus de crédits

Les crédits Serverless Inference sont inclus pendant une durée limitée avec les plans Free, Pro et Academic. La disponibilité de l’offre Enterprise peut varier. Lorsque les crédits sont épuisés :

• Les comptes Free doivent activer le paiement à l’usage pour Serverless Inference dans l’onglet Billing, ou passer à un plan payant pour continuer à utiliser Serverless Inference. Activer le paiement à l’usage ou passer à un plan supérieur.
• W&B facture mensuellement les dépassements aux utilisateurs du plan Pro, selon la tarification propre à chaque modèle.
• Les comptes Enterprise doivent contacter leur responsable de compte.

​

Niveaux de compte et plafonds d’utilisation par défaut

Chaque niveau de compte comporte un plafond de dépenses par défaut pour vous aider à maîtriser les coûts et à éviter des frais imprévus. W&B exige un prépaiement pour l’accès payant à l’Inférence. Le tableau suivant indique le plafond par défaut pour chaque niveau et explique comment demander une modification. Si vous devez modifier votre plafond, contactez votre responsable de compte ou Support pour ajuster votre limite.

​

Limites de concurrence

Les limites de concurrence protègent la qualité du service en plafonnant le nombre de requêtes qu’un projet ou un utilisateur peut avoir en cours à un moment donné. Si vous dépassez la limite de concurrence, l’API renvoie une réponse 429 Concurrency limit reached for requests. Pour corriger cette erreur, réduisez le nombre de requêtes simultanées. W&B applique des limites de concurrence par projet W&B et par utilisateur. Par exemple, si vous avez 3 projets dans une équipe, chaque projet dispose de son propre quota de limite de concurrence. Si votre cas d’utilisation nécessite des limites plus élevées, contactez Support pour discuter de vos exigences.

​

Restrictions géographiques

Le service Inférence n’est disponible que dans les zones géographiques prises en charge. Pour plus d’informations, voir les Conditions d’utilisation.

​

Étapes suivantes

Maintenant que vous comprenez la tarification, les plafonds et les limites de concurrence, poursuivez la configuration de votre compte :

• Consultez les prérequis avant de commencer.
• Consultez les modèles disponibles et leur tarification respective.