包括测试、部署和推广工具
模型训练完成后，必须先进行审查和测试，然后 您的模型服务器还应支 才能部署。Seldon Deploy、Datatron 和其他模型服务器具有一些有趣的功能，可让您使用单个预测或负载测试来测试模型。为了方便错误识别和测试，这些模型服务器还允许您上传测试数据并可视化测试预测。
审查并测试完模型后
模型服务器应能让您安全地升级和降级 亚洲数据 模型。其他流行的部署模式包括：
金丝雀一小部分请求被发送到新模型，而大部分请求被路由到现有模型。
阴影：将生产流量复制到非生产服务，以便在生产中运行模型之前对其进行测试。
理想情况下，推出工具是完全可自动化的，因此您 具体来说，这就像记录和直播 的部署工具可以插入到您的 CI/CD 或 MLOps 流程中。
支持复杂的部署模式
随着您增加对机器学习的使用，您的模型服务器应该能够支持生产中的许多模型。 的部署模式，这些模式涉及一次部署多个模型。它应该支持各种模式，包括：
A/B 测试：一部分预测使用一个模型，其余预测使用另一个模型。
集成：多个模型组合在一起，形成更强大的预测模型。
级联：如果基线模型的预测可信度较低，则流量将被路由 得帮 邮寄线索 助并快 到替代模型。另一个用例是细化：检测图片中是否有汽车，如果有，则将图片发送到读取汽车牌照的模型。
多臂老虎机：强化学习的一种形式，老虎机在几个竞争模型之间分配流量。
开箱即用的指标和监控