构建机器学习驱动的服务时模型服务器需要注意什么作者
机器学习正在嵌入涉及多种数据类型和数据 点击了解更多有关合著者的信息本 源的应用程序中。这意味着 点击了解更多有关合著 来自不同背景的软件开发人员需要从事涉及 ML 的项目。在我们的 上一篇中，我们列出了机器学习平台需要具备的关键功能，以满足当前和未来的工作负载。我们还描述了 MLOps，这是一套专注于将机器学习生命周期投入生产的实践。
图片来源： 任意尺度
在这篇文章中，我们重点介绍模型服务器，它是机器学习实 目标电话号码或电话营销数据 时或离线运行的服务。提供机器学习模型的常用方法有两种。第一种方法将模型评估嵌入到 Web 服务器（例如 Flask）中，作为专用于预 我当时不知道是否要重新开业 测服务的 API 服务端点。
第二种方法将模型评估转移
这是初创公司的活跃领域，越来越多的选择属于这一类别。产品包 得帮 邮寄线索 助并快 括来自 云提供商的服务 （贤者， Azure， 谷歌云)、 模型服务的开源项目 （雷·塞弗、Seldon、TorchServe、TensorFlow Serving 等）、 专有软件 （SAS、Datatron、ModelOps 等）以及通常用某些通用框架编写的定制解决方案。