Поделиться через

Шлюз искусственного интеллекта

Это важно

На этой странице рассматривается новый шлюз ИИ (видимый в левой области навигации пользовательского интерфейса), который в настоящее время находится в бета-версии. Администраторы учетных записей могут включить доступ к этой функции на странице предварительный просмотр консоли учетной записи. См. Управление предварительными версиями Azure Databricks.

Дополнительные сведения о предыдущей версии шлюза ИИ см. в статье "Шлюз ИИ" для обслуживания конечных точек.

Центральный шлюз ИИ для Databricks — это слой управления ИИ для конечных точек LLM, серверов MCP и агентов программирования. Используйте шлюз искусственного интеллекта для анализа использования, настройки разрешений, принудительной защиты и управления емкостью между поставщиками.

LLM'ы

Шлюз искусственного интеллекта обеспечивает корпоративное управление конечными точками LLM и агентами кодирования, включая единый пользовательский интерфейс, улучшенную наблюдаемость и расширенный охват API.

Тема Description
Шлюз ИИ для конечных точек LLM Узнайте о шлюзе ИИ (бета-версии) для конечных точек LLM и о том, как приступить к работе.
Настройка конечных точек шлюза искусственного интеллекта Создайте и настройте конечные точки шлюза ИИ для виртуальных машин и агентов программирования.
Запрос конечных точек шлюза ИИ Запрос конечных точек шлюза искусственного интеллекта с помощью клиента OpenAI и других поддерживаемых API.
Мониторинг использования конечных точек шлюза искусственного интеллекта Следите за использованием и затратами для конечных точек шлюза ИИ с помощью таблиц системы.
Мониторинг моделей с помощью таблиц вывода Осуществляйте мониторинг и аудит запросов и ответов в таблицах Delta каталога Unity.
Настройка ограничений скорости для конечных точек шлюза ИИ Применение ограничений потребления конечных точек шлюза искусственного интеллекта для управления емкостью и затратами.
Интеграция с агентами программирования Интеграция агентов программирования, таких как Cursor, Gemini CLI, Codex CLI и Claude Code с шлюзом искусственного интеллекта.

Замечание

Функции шлюза искусственного интеллекта не взимают плату в период бета-тестирования.

MCPs

Шлюз ИИ обеспечивает управление серверами MCP, обеспечивая видимость, управление доступом и ведение журнала аудита во всех взаимодействиях MCP.

Тема Description
Протокол контекста модели (MCP) в Databricks Узнайте о типах серверов MCP в Databricks и о том, как приступить к работе.
Используйте управляемые MCP серверы Databricks Немедленно получить доступ к функциям Databricks с помощью предварительно настроенных серверов MCP.
Использование внешних серверов MCP Безопасное подключение к серверам MCP, размещенным за пределами Databricks, с помощью управляемых подключений.
Размещение пользовательских серверов MCP с помощью приложений Databricks Развертывание пользовательского сервера MCP в виде приложения Databricks.
Подключение сторонних клиентов к серверам Databricks MCP Подключите клиенты MCP к серверам MCP Databricks.

Конечные точки обслуживания модели (предыдущая версия)

Предыдущая версия шлюза ИИ предоставляет функции управления для конечных точек обслуживания моделей, включая внешние конечные точки модели, конечные точки API модели Foundation и пользовательские конечные точки модели.

Тема Description
Шлюз искусственного интеллекта для обслуживания конечных точек Сведения о функциях шлюза искусственного интеллекта для обслуживания конечных точек, включая поддерживаемые функции и ограничения.
Настройка шлюза ИИ на конечных точках обслуживания моделей Настройте функции шлюза искусственного интеллекта, такие как отслеживание использования, ведение журнала полезной нагрузки, ограничения скорости и защитные ограждения на точке обработки модели.
Мониторинг обслуживаемых моделей с помощью таблиц вывода с поддержкой шлюза ИИ Мониторинг обслуживаемых моделей с помощью таблиц вывода с поддержкой шлюза ИИ.
  • Last updated on