Triton Inference Server

Сравнение способов инференса модели на сервере, Особенности Triton Inference Server, Пример запуска Triton Inference Server