Утилизация GPU (GPU Utilization)
Метрика эффективности использования аппаратных вычислительных ресурсов (видеокарт), показывающая, процент времени реальной загрузки GPU полезными вычислениями.
Инференс (Inference)
Этап промышленной эксплуатации нейросети, когда обученная модель принимает новые данные от пользователя и генерирует на них ответ.