Azure 机器学习的体系结构最佳做法

复原能力：将模型部署到支持可用性区域的环境，例如 AKS。 通过确保部署分布在可用性区域，即使数据中心发生故障，部署仍然可用。 为了提高可靠性和可用性，请考虑使用多区域部署拓扑。

复原能力：确保有足够的计算来训练和推理。 通过资源规划，确保计算 SKU 和扩展设置满足工作负荷要求。

复原能力：将用于探索工作的机器学习工作区与用于生产的工作分离。

复原能力：使用托管联机终结点进行推理时，请使用蓝绿部署等发布策略来最大程度地减少停机时间并降低与部署新版本相关的风险。

业务要求：根据可靠性需求选择使用计算群集、计算实例和外部化推理主机，将服务级别协议（SLA）视为一个因素。

恢复：确保在训练大型模型时具有自我修复功能，例如机器学习支持的检查点功能。

恢复：确保已定义恢复策略。 机器学习没有自动故障转移。 因此，必须设计包含工作区及其所有依赖项的策略，例如 Key Vault、Azure 存储和 Azure 容器注册表。

可用性：通过将对工作区的访问限制为虚拟网络中的资源来减少机器学习工作区的攻击面。

机密性：通过实现网络隔离来防范机器学习工作区中的数据外泄。 确保明确批准对所有外部资源的访问，并且不允许访问所有其他外部资源。

完整性：实现访问控制，以最低特权原则对外部资源的机器学习工作区进行身份验证和授权。

完整性：通过基于特定用例或项目设置工作区来实现机器学习工作区的用例隔离。 此方法遵循最低特权原则，确保只有需要访问用例或项目的数据和试验资产的个人才能访问工作区。

完整性：规范对基础模型的访问。 确保只有批准的注册表可以访问模型注册表中的模型。

完整性：规范对已批准的容器注册表的访问。 确保机器学习计算只能访问批准的注册表。

完整性：规范可在机器学习计算上运行的 Python 包。 规范 Python 包可确保仅运行受信任的包。

完整性：要求在机器学习计算环境中用于训练的代码进行签名。 要求代码签名可确保运行的代码来自受信任的源，并且未被篡改。

机密性：遵循基于角色的访问控制（RBAC）对机器学习工作区和相关资源（如工作区存储帐户）的最小特权原则，以确保个人只有其角色所需的权限，从而最大程度地降低潜在的安全风险。

完整性：通过为静态数据和传输中的数据实现加密来建立信任和验证访问权限。

使用优化：选择适当的资源以确保它们符合工作负荷要求。 例如，在 CPU 或 GPU、各种 SKU 或低优先级 VM 与常规优先级 VM 之间进行选择。

使用优化：确保在空闲时减少或关闭未使用的计算资源，以减少浪费。

使用优化：应用策略并配置配额，以符合设计的上限和下限。

使用优化：测试并行化训练工作负荷，以确定是否可以在低成本 SKU 上满足训练要求。

费用优化：如果您对未来一到三年的使用情况有很好的估计，请购买 Azure 虚拟机预留实例。

监视和优化：训练模型时监视资源使用情况，例如 CPU 和 GPU 使用情况。 如果资源未完全使用，请修改代码以更好地使用资源或缩减为更小或更便宜的 VM 大小。

开发标准：利用机器学习模型目录和注册表来存储、版本和共享机器学习资产。

自動化以提高效率：遵循良好的 机器学习运维（MLOps） 做法。 尽可能生成端到端自动化管道，用于数据准备、训练和评分过程。 在开发中，使用脚本而不是笔记本来训练模型，因为脚本更易于集成到自动化管道中。

放心部署：为机器学习工作区、计算群集、计算实例和其他部署环境实现基础结构即代码（IaC）。

可观测性：监视已部署模型的性能，包括数据偏移。

可观测性：如果模型部署到联机终结点，请启用Application Insights以监控联机终结点和部署。 监视训练基础结构，以确保满足基准要求。

简单性：使用针对机器学习优化的特选环境（如果可用）。

性能目标：确定模型的可接受的训练时间和重新训练频率。 为训练时间设置明确的目标以及测试，可帮助你确定满足训练时间目标所需的计算资源、CPU 与 GPU 和 CPU SKU。

性能目标：为部署的模型定义可接受的性能目标，包括响应时间、每秒请求数、错误率和运行时间。 性能目标充当已部署模型效率的基准。 目标可以帮助你做出 CPU 与 GPU 决定、CPU SKU 选项和缩放要求。

满足容量要求：为模型训练选择正确的计算资源。

满足容量要求：为模型部署选择正确的计算资源。

满足容量要求：选择具有自动缩放功能的部署环境，以在需求波动时添加和删除容量。

实现并维持性能：持续 监视已部署模型的性能、查看结果并采取适当的措施。

实现并维持性能：持续监视已部署模型的基础结构性能、查看结果并采取适当措施。 监控培训设施，确保满足训练时间的需求。