Serve

Weave の op とモデルを API エンドポイントとして公開し、予測のサービングや本番環境での推論を実行します。

任意の Weave Model を指す Weave ref があれば、次を実行できます。

weave serve <ref>

そのモデル用のFastAPIサーバーを起動します。http://0.0.0.0:9996/docs にアクセスすると、モデルをインタラクティブにクエリできます。

FastAPIのインストール

pip install fastapi uvicorn

モデルをServeする

ターミナルで次を実行します。

weave serve <your model ref>

モデルのページにアクセスして UI からコピーすると、モデル ref を取得できます。次のようになります。 weave://your_entity/project-name/YourModel:<hash>

これを使用するには、Swagger UI のリンクにアクセスし、predict エンドポイントをクリックしてから、“Try it out!” をクリックします.