机器学习模型开始蠕动到日常业务应用程序中。当有足够的训练数据时,这些算法可以解决先前需要复杂的统计模型或启发式的问题。随着我们从实验用法到生产,我们需要一个可靠的方法来托管和部署可以远程访问的模型,并使用消费者的数量进行比例。Tensorflow服务通过将远程GRPC接口暴露于导出的模型来解决该问题的一部分;这允许以各种方式部署训练型模型。TensoRFlow服务也接受模型流以结合持续培训更新,其作者维护DockerFile以简化部署过程。据推测,GRPC的选择是与TensoRFlow执行模型一致;但是,我们通常旨在需要代码生成和本机绑定的协议。
机器学习模型开始蠕动到日常业务应用程序中。当有足够的训练数据时,这些算法可以解决先前需要复杂的统计模型或启发式的问题。随着我们从实验用法到生产,我们需要一个可靠的方法来托管和部署可以远程访问的模型,并使用消费者的数量进行比例。Tensorflow服务通过将远程GRPC接口暴露于导出的模型来解决该问题的一部分;这允许以各种方式部署训练型模型。TensoRFlow服务也接受模型流以结合持续培训更新,其作者维护DockerFile以简化部署过程。据推测,GRPC的选择是与TensoRFlow执行模型一致;但是,我们通常旨在需要代码生成和本机绑定的协议。