手动追踪

虽然 MLflow 的 自动跟踪 为支持的框架提供即时可观测性，但手动跟踪可让你完全控制 GenAI 应用程序的检测方式。 这种灵活性对于生成需要详细监视和调试功能的生产就绪应用程序至关重要。

何时使用手动跟踪

如果需要，手动跟踪是正确的选择：

对跟踪结构进行精细化控制

• 准确定义要跟踪的代码部分
• 创建自定义跨度层次结构
• 控制范围边界和关系

自定义框架检测

• 检测专有框架或内部框架
• 将跟踪功能添加到自定义 LLM 封装器
• 在正式集成之前支持新库

高级工作流方案

• 多线程或异步操作
• 使用自定义聚合进行流式处理响应
• 复杂的嵌套操作
• 自定义跟踪元数据和属性

先决条件

MLflow 3

此页面需要以下包：

• mlflow[databricks]>=3.1：具有 GenAI 功能和 Databricks 连接的核心 MLflow 功能。
• openai>=1.0.0：（可选）仅当自定义代码与 OpenAI 交互时;根据需要替换为其他 SDK。

安装基本要求：

%pip install --upgrade "mlflow[databricks]>=3.1"
# %pip install --upgrade openai>=1.0.0 # Install if needed

MLflow 2.x

本指南需要以下包：

• mlflow[databricks]>=2.15.0,3.0.0<：具有 Databricks 连接的核心 MLflow 功能。
• openai>=1.0.0：（可选）仅当自定义代码与 OpenAI 交互时。

安装基本要求：

%pip install --upgrade "mlflow[databricks]>=2.15.0,<3.0.0"
# pip install --upgrade openai>=1.0.0 # Install if needed

应使用哪个 API？

根据需要选择合适的手动跟踪方法：