Все готово, и ваша модель сияет, но теперь вы хотите поделиться ею.
В этой статье вы узнаете, как:
- создать API, используя структуру FastAPI для вашей модели
- контейнеризируйте свой API с помощью Docker
- разверните свой контейнерный API на облачном провайдере или VPS
Давайте погрузимся!
Кстати: если у вас нет модели глубокого обучения, которой вы хотите поделиться, вы можете прочитать статью ЧАСТЬ 1:
Как создать простой API
Предупреждение: это простой API для демонстрации, НЕ используйте его в производственной среде! Вы должны добавить некоторые стены безопасности (https, установить токен доступа…)
Это API для модели, генерирующей текст, он может не подходить для других типов моделей. Вы должны указать именно то, что вам нужно для запуска прогнозов на локальной установке. Например, для модели классификации вам понадобится csv/json с метками.
Собираем наш контейнер
Для сборки docker-контейнера вам понадобится папка с этими файлами:
- Ваш API
- Файл вашей модели (.pt, .pth…)
- файл .env
- Dockerfile (без расширения)
- файл requirements.txt со ВСЕМИ модулями, которые вам нужны
Докерфайл
Вот Dockerfile для проекта: