Для создания пайплайна инференса мы возьмем часть операций из пайплайна обучения и дополнительно создадим еще несколько операций. В идеальном случае он должен включать в себя следующее:
• Загрузка обученной модели и сохранение ее в памяти (для более быстрого получения результатов).
• Предобработка (такая же, как в случае обучения).
• Сбор любой дополнительной релевантной информации.
• Прогон образца через модель (инференс).
• Постобработка, обеспечивающая очистку результатов перед поставкой их пользователям