W&B アカウントと project を設定する
Serverless Inference を利用するには、次の項目が必要です。- W&B アカウント。 W&B でサインアップしてください。
-
W&B APIキー。
APIキーを作成するには、Personal API key または Service Account API key タブを選択して詳細を確認してください。
安全な保管方法については、APIキーを安全に保管するを参照してください。
- Personal API key
- Service account API key
あなたのユーザー ID に紐づく個人用 APIキーを作成するには、次の手順に従います。- W&B にログインし、ユーザープロフィールアイコン > User Settings をクリックします。
- Create new API key をクリックします。
- APIキーにわかりやすい名を付けます。
- Create をクリックします。
- 表示された APIキーをすぐにコピーし、安全な場所に保管してください。
- W&B の project。 利用状況をトラッキングするために、W&B アカウントで project を作成してください。
Python 用の環境を設定する
Python から Inference API を呼び出す予定の場合は、一般的な要件に加えて次の設定を行います。- 前のセクションの一般的な要件を満たす。
-
必須ライブラリをインストールする:
注記
weave ライブラリは必須ではありませんが、使用を推奨します。このライブラリを使うと、LLM アプリケーションをトレースできます。詳しくは、Weave クイックスタートを参照してください。次のステップ
アカウント、APIキー、project、必要に応じた Python 環境の準備ができたら、リクエストを送信する準備は完了です。次のいずれかの資料に進んでください:- 利用可能なエンドポイントについては、API referenceを確認してください。
- サービスの動作を確認するには、使用例を試してください。
- Webインターフェースからモデルにアクセスするには、UI ガイドを参照してください。