Optymalizacja modeli Machine Learning i AI

Doboru i zastosowania technik optymalizacji modeli ML i modeli głębokich (kwantyzacja, pruning, mixed precision) wraz z oceną kompromisów jakości i wydajności

Benchmarkingu treningu i inferencji oraz porównywania wariantów modeli na podstawie metryk (latencja, throughput, pamięć, koszt, metryki jakości)

Kompresji i adaptacji modeli do uruchomień na urządzeniach brzegowych oraz w środowiskach o ograniczonych zasobach

Wykorzystania narzędzi ONNX, TensorRT i Triton do przygotowania i przyspieszania inferencji oraz integracji z popularnymi bibliotekami i pipeline’ami

Projektowania powtarzalnego workflow optymalizacji (artefakty, konfiguracje, testy regresji jakości) do dalszej integracji w środowisku organizacji