Matériel NVIDIA

Renvoie le matériel disponible et la tarification pour un modèle donné.

Appelé par NVIDIA pour afficher aux utilisateurs les options qui s’offrent à eux et les rediriger selon ce que nous prenons en charge. Seules les options serverless sont renvoyées.

GET /inference/nvidia/v2/hardware

Matériel NVIDIA

cURL

curl --request GET \
  --url https://api.example.com/inference/nvidia/v2/hardware \
  --header 'Authorization: Bearer <token>'

200

{
  "hardware": [
    {
      "id": "<string>",
      "name": "<string>",
      "pricing": {
        "cents_per_million_input_tokens": 123,
        "cents_per_million_output_tokens": 123
      },
      "type": "<string>",
      "specs": {}
    }
  ]
}

Autorisations

Authorization · string · header · requis

Bearer authentication header of the form Bearer <token>, where <token> is your auth token.

Paramètres de requête

model · string · requis

Nom du modèle sans le préfixe de l’éditeur

Réponse

200

application/json

Réponse réussie

hardware · NvidiaHardwareOption · object[] · requis

Show child attributes