Eseguire query con l'API Google Gemini

Important

L'API Google Gemini è compatibile solo con i modelli di base Gemini pay per token e i modelli esterni. Per un'API unificata che funziona tra provider, usare l'API Open Responses o l'API Completamento chat.

L'API Google Gemini offre la compatibilità nativa di Google AI SDK per i modelli Gemini in Azure Databricks. Usare questa API quando sono necessarie funzionalità specifiche di Gemini o si sta eseguendo la migrazione del codice esistente di Google AI SDK.

Requisiti

  • Vedere Requisiti.
  • Installare il google-genai pacchetto sul dispositivo di calcolo.

Esempi di query

Gli esempi seguenti illustrano come eseguire query su un endpoint con pagamento in base al token dell'API Modello di base usando l'API Google Gemini.

Pitone

from google import genai
from google.genai import types
import os

DATABRICKS_TOKEN = os.environ.get('DATABRICKS_TOKEN')

client = genai.Client(
    api_key="databricks",
    http_options=types.HttpOptions(
        base_url="https://example.staging.cloud.databricks.com/serving-endpoints/gemini",
        headers={
            "Authorization": f"Bearer {DATABRICKS_TOKEN}",
        },
    ),
)

response = client.models.generate_content(
    model="databricks-gemini-3-1-pro",
    contents=[
        types.Content(
            role="user",
            parts=[types.Part(text="What is a mixture of experts model?")],
        ),
    ],
    config=types.GenerateContentConfig(
        max_output_tokens=256,
    ),
)

print(response.text)

REST API

curl \
-u token:$DATABRICKS_TOKEN \
-X POST \
-H "Content-Type: application/json" \
-d '{
  "contents": [
    {
      "role": "user",
      "parts": [{"text": "What is a mixture of experts model?"}]
    }
  ],
  "generationConfig": {
    "maxOutputTokens": 256
  }
}' \
https://<workspace_host>.databricks.com/serving-endpoints/gemini/v1beta/models/databricks-gemini-3-1-pro:generateContent

Modelli supportati

Modelli di base ospitati da Databricks

  • databricks-gemini-3-5-flash-lite
  • databricks-gemini-3-8-flash
  • databricks-gemini-3-7-flash
  • databricks-gemini-3-6-flash
  • databricks-gemini-3-1-pro
  • databricks-gemini-3-1-flash-lite
  • databricks-gemini-3-flash

Modelli esterni

  • Provider di modelli Google

Tipi di input supportati

I modelli Gemini su Azure Databricks accettano input di testo e immagine. La variante Pro (databricks-gemini-3-1-pro) e le varianti Flash (databricks-gemini-3-5-flash-lite, databricks-gemini-3-1-flash-lite, databricks-gemini-3-flash) accettano anch'esse ingressi video e audio. Vedi Interrogare i modelli audio e video per esempi di richieste video e audio, e Interrogare i modelli di visione per i requisiti di formato e dimensioni delle immagini. Per i tipi di input per modello, vedi Elenco dettagliato dei modelli supportati dalle API dei modelli di fondazione di Databricks.

Risorse aggiuntive

  • Last updated on