BentoML:用于服务和部署机器学习模型的平台
近日,网友分享了一个用于服务和部署机器学习模型的平台,BentoML,可轻松将训练有素的模型生产化。该框架包括了 BentoService 以及 Yatai,前者用于定义 ML 服务并将其受过训练的模型工件,预处理源代码,依赖项和配置打包为标准文件格式「Bento」的高级 API,可以将其部署为容器化 REST API 服务器,PyPI 软件包,CLI 工具,或批处理/流式推理作业;后者为一个状态服务器,提供 Web UI 和 API,以访问云存储之上的模型注册表,并管理 AWS,Azure 和 GCP 等云平台上的模型服务部署。