Оглавление:

Как вы обслуживаете модель TensorFlow?
Как вы обслуживаете модель TensorFlow?

Видео: Как вы обслуживаете модель TensorFlow?

Видео: Как вы обслуживаете модель TensorFlow?
Видео: Как заставить tensorflow сделать хоть что то полезное 2024, Ноябрь
Anonim

Чтобы обслуживать модель Tensorflow просто экспортируйте SavedModel из своего Tensorflow программа. SavedModel - это не зависящий от языка, восстанавливаемый, герметичный формат сериализации, который позволяет высокоуровневым системам и инструментам производить, использовать и преобразовывать Модели TensorFlow.

Соответственно, как мне запустить модель TensorFlow?

Вот шаги, которые мы собираемся сделать:

  1. Сделайте для примера глупую модель, тренируйте и храните ее.
  2. Получите необходимые переменные из сохраненной модели.
  3. Постройте из них тензорную информацию.
  4. Создайте подпись модели.
  5. Создайте и сохраните конструктор моделей.
  6. Загрузите образ Docker с уже скомпилированной службой TensorFlow.

Кроме того, что обслуживает TensorFlow? Обслуживание TensorFlow гибкий, высокопроизводительный обслуживающий система для моделей машинного обучения, предназначенная для производственных сред. Обслуживание TensorFlow обеспечивает готовую интеграцию с TensorFlow модели, но может быть легко расширен до обслуживать другие типы моделей и данных.

Что касается этого, как работает TensorFlow serve?

Обслуживание TensorFlow позволяет нам выбрать, какую версию модели или «обслуживаемую» мы хотим использовать при выполнении запросов на вывод. Каждая версия будет экспортирована в отдельный подкаталог по заданному пути.

Что такое модельный сервер?

Модель сервера для Apache MXNet (MMS) - это компонент с открытым исходным кодом, который призван упростить задачу развертывания глубокого обучения модели для вывода в масштабе. Развертывание модели для вывода - нетривиальная задача.

Рекомендуемые: