Conceptos de Unity Gateway

Unity Gateway reúne el registro, el descubrimiento y el acceso a modelos y herramientas de IA en un solo lugar. Controla quién puede utilizarlos, monitoriza el uso y gestiona costes entre aplicaciones y agentes.

Unity Gateway utiliza estos conceptos para gestionar modelos, proveedores de modelos, herramientas, habilidades y barreras de seguridad implementadas con políticas de servicio:

Concepto Qué hace Example
Modelo Un modelo LLM o un modelo de incrustación. Un modelo registrado necesita un servicio modelo para atender las solicitudes. gpt-astra-6.
Servicio de modelos Un punto de conexión que traduce y enruta las solicitudes de inferencia a uno o más modelos, con división del tráfico y mecanismos de respaldo. Soporta peticiones en tiempo real, además de inferencia por lotes. frontier-model: GPT Astra 6 en Azure Databricks, con Claude Opus 5 como alternativa de respaldo.
opus-5: Opus 5 proporcionado por Azure Databricks, con AWS Bedrock como respaldo.
Proveedor de modelos Una conexión que enruta las solicitudes a un proveedor de modelos externo utilizando credenciales gestionadas centralmente. anthropic-prod: Una conexión con Anthropic.
MCP Una interfaz para que los agentes descubran y llamen a herramientas a través del Protocolo de Contexto del Modelo (MCP). support-tools: Herramientas para Slack y Jira.
Habilidad Instrucciones y archivos reutilizables que un agente carga para guiar su trabajo. customer-support: Una guía de soporte.
Política de servicio Implementa barreras de seguridad que controlan solicitudes y respuestas a servicios de IA. La directiva integrada detect_sensitive_data detecta tipos de datos confidenciales configurados, como números de tarjeta de crédito, en las solicitudes y respuestas del modelo. Bloquea o redacta las coincidencias.

Cómo encajan las piezas

Invoca un servicio de modelo para acceder a gpt-astra-6 en Azure Databricks, con el mismo modelo disponible a través de aws-bedrock como respaldo. Puedes cambiar los modelos o las alternativas de respaldo sin cambiar el nombre que usa tu aplicación. Adjuntar la política de servicio de Detección de Datos Sensibles integrada al servicio modelo para comprobar las solicitudes y respuestas de categorías de datos sensibles configuradas.

El agente del códex carga la habilidad de soporte al cliente y llama a un servicio modelo protegido por la política de servicio detect_sensitive_data, que comprueba las solicitudes y respuestas del modelo. El servicio modelo enruta a gpt-astra-6 en Databricks o vuelve al mismo modelo a través del proveedor de modelos aws-bedrock. El agente también accede a Slack y Jira a través de MCP.

Modelos y herramientas de llamada

Sustituye <workspace-url> y los nombres ilustrativos por los tuyos. Consulta el inicio rápido para configurar DATABRICKS_TOKEN.

Servicio de modelo

Los servicios de modelo soportan APIs unificadas como Chat Completions compatibles con OpenAI y APIs nativas de proveedores como Anthropic Messages para modelos compatibles.

Invoca frontier-model con la API unificada de Chat Completions. El servicio elige el modelo:

curl "https://<workspace-url>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "production.ai.frontier-model",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Consulta Query foundation and embedding models para ejemplos de SDK y otras APIs.

Proveedor de modelos

Invoca un modelo externo a través de anthropic-prod mediante la API Messages de Anthropic. El encabezado selecciona la conexión, y Unity Gateway proporciona sus credenciales:

curl "https://<workspace-url>/ai-gateway/anthropic/v1/messages" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Databricks-Model-Provider-Service: production.ai.anthropic-prod" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-5",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Consulte Consultar proveedores de modelos externos (servicios de proveedor modelo) para las APIs de proveedores compatibles.

MCP

Enumera las herramientas disponibles a través de support-tools:

curl "https://<workspace-url>/ai-gateway/mcp-services/production.ai.support-tools" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Accept: application/json, text/event-stream" \
  -d '{
    "jsonrpc": "2.0",
    "id": 1,
    "method": "tools/list",
    "params": {}
  }'

Consulta Uso de servidores MCP en agentes personalizados para obtener información sobre llamadas a herramientas e integraciones con agentes.

Catálogo de Unity y control de acceso

Unity Gateway se integra con Unity Catalog para controlar quién crea servicios, incorpora proveedores de modelos, los llama o comparte acceso. Unity Catalog también regula los modelos registrados, habilidades y quién puede adjuntar políticas de servicio.

Objetos protegibles de Unity Catalog

Los modelos, los servicios de modelos, los proveedores de modelos, los MCP y las skills son objetos protegibles de Unity Catalog: objetos a los que puedes conceder permisos. Sus nombres van después de catalog.schema.name, como production.ai.frontier-model. Los servicios de modelo proporcionados por Azure Databricks están registrados en system.ai.

Un proveedor modelo está registrado como servicio proveedor modelo en el Catálogo de Unity. Las políticas de servicio se aplican a los servicios y no son seguros independientes.

En el Catálogo de Unity, un modelo es un activo en reposo: versiones, metadatos y artefactos. Registrarlo no hace que se pueda invocar. Para modelos externos, registrar la conexión del proveedor de modelos en lugar del modelo.

Permisos de clave

Concede permisos a usuarios, grupos o responsables de servicio. Para servicios modelo, proveedores de modelos y MCPs, los permisos principales separan el uso de la administración:

Privilege Lo que permite
EXECUTE Llama a un servicio modelo, a un proveedor modelo o a un MCP.
CREATE SERVICE Crear servicios e incorporar proveedores modelo en un esquema.
READ METADATA Inspecciona la configuración.
MANAGE Cambia la configuración y concede acceso a otros.

Quienes realizan las llamadas también necesitan USE CATALOG y USE SCHEMA en el catálogo y el esquema primarios. Las políticas de servicio limitan las llamadas autorizadas. No conceden acceso. Consulta la página de cada concepto para conocer todos los requisitos de permiso.

Get started

Empieza con un servicio de modelo listo para usar de system.ai, o conecta tu agente de codificación:

Tema Description
Envía tu primera petición Consulta un modelo y observa su uso en la pasarela.
Conectar un agente de codificación Utiliza tu agente de programación preferido con modelos proporcionados por Azure Databricks.
Supervisar el uso Consulta la actividad del modelo y de la herramienta, el rendimiento y el coste.
Configuración de la gobernanza Configura el acceso y las políticas para el uso de IA en tu organización.
  • Last updated on