W skrócie
- Zadania: Twórz i optymalizuj oprogramowanie do głębokiego uczenia dla najnowocześniejszych aplikacji AI.
- Firma: NVIDIA - lider w dziedzinie sztucznej inteligencji i obliczeń wysokowydajnych.
- Benefity: Konkurencyjne wynagrodzenie, bogaty pakiet benefitów i elastyczne warunki pracy.
- Pozostałe informacje: Dynamiczne środowisko z możliwościami rozwoju kariery w innowacyjnej firmie.
- Dlaczego ta praca: Pracuj nad przełomowymi technologiami i wpływaj na rozwój AI na całym świecie.
- Kwalifikacje: Magister lub doktorat w dziedzinie inżynierii komputerowej oraz 5+ lat doświadczenia.
NVIDIA seeks a Senior Software Engineer specializing in Deep Learning Inference for our growing team. As a key contributor, you will help design, build, and optimize the GPU-accelerated software that powers dziś’s most sophisticated AI applications. Our team is responsible for developing and maintaining high-performance deep learning frameworks, including SGLang i vLLM, które są na czołowej pozycji w zakresie efektywnego serwowania modeli i wnioskowania na dużą skalę. Będziesz odgrywać centralną rolę w poprawie tych platform, ułatwiając płynne wdrażanie i serwowanie przełomowych modeli językowych. Będziesz ściśle współpracować z społecznością uczenia maszynowego, aby wdrażać najnowsze algorytmy do publicznego wydania w ramach takich jak SGLang i vLLM, a także innych frameworków DL.
Twoja praca będzie koncentrować się na identyfikowaniu i napędzaniu ulepszeń wydajności dla modeli LLM i Generative AI na różnych akceleratorach NVIDIA, od GPU w centrach danych po SoC na krawędzi. Wykorzystasz narzędzia i wtyczki open-source—w tym CUTLASS, OAI Triton, NCCL i jądra CUDA—aby wdrożyć i zoptymalizować potoki serwowania modeli.
Co będziesz robić:
- Optymalizacja wydajności, analiza i dostrajanie modeli DL w różnych dziedzinach, takich jak LLM, Multimodal i Generative AI.
- Skalowanie wydajności modeli DL na różnych architekturach i typach akceleratorów NVIDIA.
- Wkład w funkcje i kod do bibliotek wnioskowania NVIDIA, vLLM i SGLang, FlashInfer i rozwiązań oprogramowania LLM.
- Praca z zespołami międzydziałowymi w zakresie frameworków, bibliotek NVIDIA i innowacyjnych rozwiązań optymalizacji wnioskowania.
Co musimy zobaczyć:
- Magister lub doktorat lub równoważne doświadczenie w odpowiedniej dziedzinie (Inżynieria komputerowa, Informatyka, EECS, AI).
- 5+ lat odpowiedniego doświadczenia w rozwoju oprogramowania.
- Doskonałe umiejętności programowania w C/C++ i projektowania oprogramowania.
- Umiejętności Agile w SW są pomocne, a doświadczenie w Pythonie jest dodatkowym atutem.
- Wcześniejsze doświadczenie w szkoleniu, wdrażaniu lub optymalizacji wnioskowania modeli DL w produkcji jest dodatkowym atutem.
- Wcześniejsze doświadczenie w modelowaniu wydajności, profilowaniu, debugowaniu i optymalizacji kodu lub wiedza architektoniczna CPU i GPU jest dodatkowym atutem.
Sposoby, aby wyróżnić się z tłumu:
- Wkład w projekty oprogramowania Deep Learning, takie jak PyTorch, vLLM i SGLang, aby napędzać postęp w tej dziedzinie.
- Doświadczenie z komunikacją Multi-GPU (NCCL, NVSHMEM).
- Doświadczenie w budowaniu i dostarczaniu produktów klientom korporacyjnym.
- Doświadczenie w programowaniu GPU (CUDA, OAI TRITON lub CUTLASS).
NVIDIA jest na czołowej pozycji w przełomach w sztucznej inteligencji, obliczeniach o wysokiej wydajności i wizualizacji. Nasze zespoły składają się z ambitnych, innowacyjnych profesjonalistów, którzy są zaangażowani w przesuwanie granic technologii. Oferujemy bardzo konkurencyjne wynagrodzenia, rozbudowany pakiet świadczeń oraz środowisko pracy, które promuje różnorodność, inkluzję i elastyczność. Jako pracodawca oferujący równe szanse, zobowiązujemy się do wspierania i wzmacniania miejsca pracy dla wszystkich.
Twoje wynagrodzenie podstawowe będzie ustalane na podstawie lokalizacji, doświadczenia i wynagrodzenia pracowników na podobnych stanowiskach. Dla Polski: Zakres wynagrodzenia podstawowego wynosi 221,250 PLN - 383,500 PLN dla poziomu 3 oraz 292,500 PLN - 507,000 PLN dla poziomu 4.
Senior Deep Learning Software Engineer, Inference in Warsaw – pracodawca: NVIDIA Corporation
NVIDIA to doskonały pracodawca, oferujący wyjątkowe możliwości rozwoju zawodowego w dynamicznej i innowacyjnej kulturze pracy. Pracując w zespole inżynierów zajmujących się bibliotekami matematycznymi, będziesz miał okazję wpływać na rozwój technologii AI i HPC, a także korzystać z konkurencyjnych wynagrodzeń oraz bogatego pakietu benefitów. Nasza lokalizacja w Polsce sprzyja elastycznemu modelowi pracy, co pozwala na doskonałą równowagę między życiem zawodowym a prywatnym.
