На этом шаге мы рассмотрим плюсы и минусы такого развертывания.
Модели глубокого обучения часто применяются в приложениях на JavaScript, выполняющихся в браузере или в настольной версии. Конечно, приложение можно реализовать так, что оно будет обращаться к удаленной модели через REST API, но иногда использование модели непосредственно в браузере на компьютере пользователя дает важные преимущества (с задействованием ресурсов графического процессора, если он доступен) .
Данный вариант развертывания следует использовать, когда:
- вы хотите переложить нагрузку на оборудование конечного пользователя и за счет этого уменьшить нагрузку на сервер;
- входные данные должны оставаться на компьютере или телефоне конечного пользователя. Например, модель обнаружения
спама в настольной и вебверсии чат-приложения (реализованного как кросс-платформенное приложение на JavaScript) должна выполняться локально;
- приложение имеет строгие ограничения по задержке. Конечно, модель, работающая на ноутбуке или смартфоне
конечного пользователя, почти наверняка будет функционировать медленнее, чем на мощном графическом процессоре
вашего сервера, зато ей не потребуются дополнительные 100 миллисекунд на транспортировку данных по сети;
- приложение должно продолжать работу в отсутствие подключения к интернету, после того как модель будет загружена и сохранена в локальном кэше.
Выбирайте этот вариант, только если ваша модель достаточно мала и нетребовательна к вычислительным ресурсам или объему оперативной памяти ноутбука или смартфона пользователя. Кроме того, поскольку модель будет загружена на устройство пользователя, вы должны гарантировать отсутствие в ней любой конфиденциальной информации. Помните, что из обученной модели глубокого обучения часто можно восстановить некоторую информацию об обучающих данных: если модель была обучена на конфиденциальных данных, ее лучше не выкладывать в общий доступ.
Чтобы развернуть модель на JavaScript, экосистема TensorFlow включает TensorFlow.js (https://www.tensorflow.org/js), библиотеку JavaScript для глубокого обучения, которая реализует почти все возможности Keras (изначально она разрабатывалась под рабочим названием WebKeras), а также множество низкоуровневых функций TensorFlow API. Готовую модель Keras можно без особого труда импортировать в TensorFlow.js, чтобы затем использовать ее в составе браузерного приложения на JavaScript или настольного приложения Electron.
На следующем шаге мы рассмотрим оптимизацию обученной модели.
