API OpenAI

Utilisez l’intégration de l’API OpenAI de W&B pour journaliser les requêtes, les réponses, le nombre de tokens et les métadonnées des modèles pour tous les modèles OpenAI, y compris les modèles affinés. Utilisez cette intégration si vous appelez l’API OpenAI et souhaitez avoir de la visibilité sur vos prompts, vos complétions et votre utilisation sans ajouter de code de journalisation manuelle. En journalisant les inputs et sorties de votre API, vous pouvez rapidement évaluer les performances de différents prompts, comparer différents paramètres de modèle (comme la température) et suivre d’autres métriques d’utilisation, comme l’utilisation des tokens.

Voir l’intégration OpenAI pour le Fine-tuning pour savoir comment utiliser W&B afin de suivre vos expériences de Fine-tuning, vos modèles et vos jeux de données, et partager vos résultats avec vos collègues.

Vue de trace W&B affichant les requêtes API OpenAI, les réponses et l'utilisation des tokens journalisées automatiquement

Installez la bibliothèque API Python d’OpenAI

L’intégration autolog de W&B fonctionne avec la version 0.28.1 d’OpenAI et les versions antérieures, vous devez donc installer une version compatible avant d’activer la journalisation automatique. Pour installer API Python d’OpenAI version 0.28.1 :

pip install openai==0.28.1

Utiliser l’API Python d’OpenAI

Les étapes suivantes expliquent comment activer la journalisation automatique, appeler l’API OpenAI et consulter les traces obtenues dans W&B.

Importez et initialisez autolog

Tout d’abord, importez autolog à partir de wandb.integration.openai, puis initialisez-le. Cela configure le run W&B qui capture chaque appel à l’API OpenAI effectué par la suite.

import os
import openai
from wandb.integration.openai import autolog

autolog({"project": "gpt5"})

Vous pouvez aussi passer à autolog un dictionnaire contenant les arguments acceptés par wandb.init(). Cela inclut un nom de projet, un nom d’équipe, une entité, et plus encore. Pour plus d’informations, voir la référence de l’API wandb.init().

Appelez l’API OpenAI

Lorsque l’autolog est activé, W&B journalise automatiquement chaque appel que vous effectuez à l’API OpenAI. Vous n’avez pas besoin d’ajouter de code de journalisation à votre code d’appel d’API existant.

os.environ["OPENAI_API_KEY"] = "XXX"

chat_request_kwargs = dict(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Who won the world series in 2020?"},
        {"role": "assistant", "content": "The Los Angeles Dodgers"},
        {"role": "user", "content": "Where was it played?"},
    ],
)
response = openai.ChatCompletion.create(**chat_request_kwargs)

Consultez les entrées et les réponses de votre API OpenAI

Après avoir effectué un ou plusieurs appels d’API, vous pouvez examiner les données capturées dans W&B. Cliquez sur le lien W&B run généré par autolog. Vous êtes alors redirigé vers l’espace de travail de votre projet dans W&B. Sélectionnez un run que vous avez créé pour afficher le tableau de traces, la chronologie des traces et l’architecture du modèle du LLM OpenAI utilisé.

Désactiver l’autolog

Appelez disable() pour fermer tous les processus W&B lorsque vous avez fini d’utiliser l’API OpenAI. Cela garantit que W&B vide toutes les données en attente et ne capture pas d’autres appels d’API par inadvertance.

autolog.disable()

Guides

Intégrations

Référence

Installez la bibliothèque API Python d’OpenAI

Utiliser l’API Python d’OpenAI

Importez et initialisez autolog

Appelez l’API OpenAI

Consultez les entrées et les réponses de votre API OpenAI

Désactiver l’autolog

​Installez la bibliothèque API Python d’OpenAI

​Utiliser l’API Python d’OpenAI

​Importez et initialisez autolog

​Appelez l’API OpenAI

​Consultez les entrées et les réponses de votre API OpenAI

​Désactiver l’autolog

Installez la bibliothèque API Python d’OpenAI

Utiliser l’API Python d’OpenAI

Importez et initialisez autolog

Appelez l’API OpenAI

Consultez les entrées et les réponses de votre API OpenAI

Désactiver l’autolog