Kıdemli Makine Öğrenimi Mühendisi

İlan özeti

Kimchi, büyük dil modellerinin çıkarım altyapısını daha hızlı, verimli ve düşük maliyetli hale getirecek deneyimli bir mühendis arıyor. Rol; vLLM, SGLang ve TensorRT-LLM gibi motorlarda performans, gecikme, GPU kullanımı, KV önbelleği ve model yükleme süreçlerini geliştirmeye odaklanıyor. Adayın üretim ortamında ML sistemleri kurmuş, çoklu GPU ve düğüm mimarilerine hakim olması bekleniyor. İlan, çıkarım altyapısında geniş sorumluluk üstlenebileceğin teknik ağırlıklı bir çalışma alanı sunuyor.