W skrócie
- Zadania: Twórz oprogramowanie dla systemów AI i optymalizuj wydajność aplikacji na dużą skalę.
- Firma: Wiodąca firma w branży półprzewodników i obliczeń wysokowydajnych.
- Benefity: Atrakcyjne wynagrodzenie, możliwość pracy zdalnej oraz rozwój zawodowy.
- Pozostałe informacje: Dynamiczne środowisko z doskonałymi możliwościami rozwoju kariery.
- Dlaczego ta praca: Pracuj z najnowszymi technologiami i wpływaj na rozwój AI.
- Kwalifikacje: Doświadczenie w programowaniu w C++/Python oraz umiejętności współpracy w zespole.
Przewidywane wynagrodzenie mieści się w przedziale 123750 - 151250 zł za rok.
Opis projektu: Wiodąca firma zajmująca się półprzewodnikami i obliczeniami o wysokiej wydajności poszukuje inżyniera oprogramowania, który pasjonuje się rozproszonym wnioskowaniem na GPU oraz poprawą wydajności kluczowych aplikacji i benchmarków. Będziesz członkiem zespołu składającego się z niezwykle utalentowanych specjalistów branżowych i będziesz pracować z najnowszymi technologiami sprzętowymi i programowymi.
Obowiązki: Poszukujemy inżyniera oprogramowania z silnymi umiejętnościami technicznymi w zakresie rozwoju w C++/Python, rozwiązywania problemów z wydajnością oraz badania skalowalności w klastrach multi-GPU i multi-node. Osoba ta powinna być również pasjonatem zapewnienia jakości, benchmarkingu i automatyzacji w obszarze AI/ML. Idealny kandydat odnajduje się zarówno w pracy zespołowej, jak i samodzielnej, wykazuje doskonałe umiejętności rozwiązywania problemów oraz bierze odpowiedzialność za definiowanie celów i dostarczanie wpływowych rozwiązań.
Kluczowe obowiązki:
- Włączenie AI i benchmarking rozproszony: Włączenie i benchmarking modeli AI na dużych, rozproszonych systemach w celu oceny wydajności, dokładności i skalowalności.
- Optymalizacja systemów skalowalnych: Optymalizacja obciążeń AI w konfiguracjach systemów rozproszonych typu scale-up (multi-GPU), scale-out (multi-node) i scale-across.
- Współpraca między zespołami: Ścisła współpraca z wewnętrznymi zespołami bibliotek GPU w celu analizy i optymalizacji rozproszonych obciążeń dla wysokiej przepustowości i niskiego opóźnienia.
- Strategie równoleglenia: Opracowywanie i stosowanie optymalnych strategii równoleglenia dla obciążeń AI w celu osiągnięcia najlepszej wydajności w różnych konfiguracjach systemów.
- Zarządzanie infrastrukturą modeli: Wkład w systemy zarządzania modelami rozproszonymi, zbiory modeli, ramy monitorowania, pipeline'y benchmarkowe oraz dokumentację techniczną.
- Monitorowanie wydajności i wizualizacja: Budowanie i utrzymywanie pulpitów nawigacyjnych w czasie rzeczywistym raportujących metryki wydajności, dokładności i niezawodności dla interesariuszy wewnętrznych i zewnętrznych użytkowników.
Umiejętności:
- Musisz mieć:
- Preferowane doświadczenie:
- Inżynieria frameworków AI: Praktyczne doświadczenie z frameworkami wnioskowania lub serwowania AI, takimi jak vLLM, SGLang i Llama.cpp.
- KV Cache i równoleglenie ekspertów: Zrozumienie mechanizmów transferu pamięci podręcznej KV oraz technologii (np. Mooncake, NIXL/RIXL) oraz podejść do równoleglenia ekspertów (np. DeepEP, MORI, PPLX-Garden).
- Programowanie i projektowanie oprogramowania: Silne umiejętności w C/C++ i Pythonie, z doświadczeniem w projektowaniu oprogramowania, debugowaniu, analizie wydajności i rozwoju testów.
- Duże rozproszone systemy: Doświadczenie w uruchamianiu obciążeń AI na dużych, heterogenicznych klastrach obliczeniowych.
- Systemy klastrowe i orkiestracyjne: Znajomość platform zarządzania klastrami i orkiestracji, takich jak SLURM i Kubernetes (K8s).
- Narzędzia i procesy rozwoju: Doświadczenie z GitHub, Jenkins lub podobnymi narzędziami CI/CD oraz nowoczesnymi procesami rozwoju.
- Miłe do posiadania:
- Wykształcenie: Tytuł magistra lub doktoratu w dziedzinie informatyki, inżynierii komputerowej lub pokrewnej, lub równoważne praktyczne doświadczenie.
Senior Software Engineer in Katowice – pracodawca: Luxoft
Nasza firma to doskonały pracodawca, który oferuje dynamiczne środowisko pracy w sercu innowacji technologicznych. Wspieramy rozwój zawodowy naszych pracowników poprzez mentoring oraz dostęp do najnowszych technologii, a także promujemy kulturę współpracy i otwartości. Pracując z nami, będziesz miał okazję uczestniczyć w projektach, które mają realny wpływ na branżę, a lokalizacja w centrum miasta zapewnia wygodny dostęp do licznych udogodnień.