逑识

「导语」TensorFlow Serving 提供了 GRPC 接口来高效地完成对模型的预测请求，但是它本身只提供了基于 Python 的 API ，如果我们要使用其它语言进行 GRPC 访问，则需手动生成相应的 GRPC 接口文件方可。本文主要介绍使用 protoc 工具生成 TensorFlow Serving API 文件的方式与方法，并且提供完整的项目示例以供参考。

「导语」在模型训练完成后，我们需要使用保存后的模型进行线上预测，即模型 Serving 服务。 TensorFlow 团队提供了专门用于模型预测的服务系统 TensorFlow Serving，它专为生产环境设计，具备高性能且具有很强大的灵活性，本文将从服务搭建，服务配置，远程访问等多个方面对 TensorFlow Serving 进行详细地介绍。

「导语」模型训练完成后一项十分重要的步骤是对模型信息进行持久化保存，以用于后续的再训练以及线上 Serving。保存后的模型文件除了个人使用外，还可以将其分享到 TensorFlow Hub ，从而让他人可以很方便地在该预训练模型的基础上进行再次开发与训练。

「导语」 当我们创建了 Keras 模型并开始进行训练时，一般都会指定一些超参数（如学习率）的值来对训练的过程进行调控，而这些超参数的取值会对模型训练的结果产生很大的影响，因此在机器学习工作流程中一项十分重要的步骤就是要确定模型超参数的最佳取值，亦即超参数调优。在 TensorFlow 中，我们可以使用 HParams 插件很方便地完成这一调优过程。

「导语」 在上一篇文章 《TensorFlow 2.x 分布式训练概览》中，我对 TensorFlow 所支持的分布式训练策略以及分布式训练的实现方式做了简要的介绍。本文将在上一篇文章的基础上，着重介绍基于 Keras 的多节点分布式训练的实现方式以及在分布式训练过程中需要注意的一些细节。