プロバイダー

NVIDIA

NVIDIAは、NemotronおよびNeMoモデル向けに、https://integrate.api.nvidia.com/v1 でOpenAI互換のAPIを提供しています。NVIDIA NGCから取得したAPIキーで認証を行います。

CLIセットアップ

キーを一度エクスポートし、その後オンボーディングを実行してNVIDIAモデルを設定します:

export NVIDIA_API_KEY="nvapi-..."
openclaw onboard --auth-choice skip
openclaw models set nvidia/nvidia/llama-3.1-nemotron-70b-instruct

もし --token を引き続き使用する場合は、シェルの履歴や ps コマンドの出力に残ることを覚えておいてください。可能な場合は環境変数の使用を推奨します。

設定スニペット

{
  env: { NVIDIA_API_KEY: "nvapi-..." },
  models: {
    providers: {
      nvidia: {
        baseUrl: "https://integrate.api.nvidia.com/v1",
        api: "openai-completions",
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "nvidia/nvidia/llama-3.1-nemotron-70b-instruct" },
    },
  },
}

モデルID

  • nvidia/llama-3.1-nemotron-70b-instruct (デフォルト)
  • meta/llama-3.3-70b-instruct
  • nvidia/mistral-nemo-minitron-8b-8k-instruct

注意点

  • OpenAI互換の /v1 エンドポイントです。NVIDIA NGCから取得したAPIキーを使用してください。
  • NVIDIA_API_KEY が設定されるとプロバイダーは自動的に有効になります。静的デフォルト(131,072トークンのコンテキストウィンドウ、4,096トークンの最大出力)を使用します。

MistralOllama