W skrócie
- Zadania: Twórz wydajny kompilator Triton i optymalizuj wydajność dla AI na NPU.
- Firma: Wiodąca firma technologiczna w dziedzinie AI z innowacyjnym zespołem.
- Benefity: Atrakcyjne wynagrodzenie, możliwość pracy zdalnej i rozwój zawodowy.
- Pozostałe informacje: Dynamiczne środowisko z możliwościami szybkiego rozwoju kariery.
- Dlaczego ta praca: Pracuj nad przełomowymi technologiami i wpływaj na przyszłość AI.
- Kwalifikacje: Magister lub doktorat w dziedzinie architektury komputerowej lub pokrewnej.
Przewidywane wynagrodzenie mieści się w przedziale 135000 - 165000 zł za rok.
Poszukujemy eksperta w dziedzinie kompilacji i optymalizacji wydajności, który dołączy do naszego zespołu infrastruktury uczenia głębokiego. Będziesz odpowiedzialny za budowanie wysokowydajnego kompilatora Triton oraz frameworka optymalizacji rdzeni, prowadząc rozwój następnej generacji obciążeń AI na NPU.
Kluczowe obowiązki:
- Prowadzenie projektowania i rozwoju kompilatora Triton oraz frameworka optymalizacji wydajności, umożliwiającego implementacje operatorów o wysokiej wydajności na NPU.
- Implementacja nowoczesnych rdzeni Triton (np. Attention, MatMul, LayerNorm, Conv, Softmax) z najlepszą efektywnością.
- Optymalizacja wzorców dostępu do pamięci i harmonogramowania równoległego, z głębokim zrozumieniem zachowań pamięci podręcznej, alokacji rejestrów i limitów zajętości SM.
- Wdrażanie optymalizacji wydajności od początku do końca poprzez integrację Triton z backendami frameworków (np. PyTorch, XLA) i stosami uruchomieniowymi.
- Badanie i stosowanie technologii auto-tuningu, fuzji rdzeni i harmonogramowania operatorów w celu maksymalizacji skalowalności wydajności.
- Mentorowanie członków zespołu w zakresie rozwoju rdzeni Triton oraz ustalanie standardowych procesów analizy i optymalizacji wydajności.
- Śledzenie najnowszych technologii kompilatorów (MLIR, TVM, Hidet, Cutlass) i wprowadzanie innowacyjnych pomysłów w celu przesuwania granic wydajności.
- Przeprowadzanie modelowania wydajności i identyfikacji obciążeń dla dużych modeli (LLM, Diffusion itp.) w celu kierowania optymalizacją na poziomie systemu.
Czego szukamy:
- Stopień magistra lub wyższy w dziedzinie architektury komputerowej, teorii kompilacji, obliczeń o wysokiej wydajności lub pokrewnej dziedzinie; preferowany doktorat.
- 5+ lat doświadczenia w programowaniu NPU/GPU, optymalizacji operatorów lub rozwoju kompilatorów.
- Głębokie zrozumienie architektur akceleratorów i analizy wąskich gardeł wydajności (jednostki obliczeniowe, linie wektorowe, hierarchia pamięci, pamięci podręczne itp.).
- Biegłość w Triton, PTX lub LLVM IR w zakresie programowania niskopoziomowego i optymalizacji.
- Znajomość PyTorch, TensorFlow lub JAX oraz ich mechanizmów wykonywania grafów i harmonogramowania operatorów.
- Udowodniona zdolność do samodzielnego rozwijania, benchmarkowania i optymalizacji złożonych rdzeni.
- Umiejętność korzystania z narzędzi do profilowania wydajności (np. perf, torch.profiler oraz inne neutralne dla dostawcy lub runtime profilers) do analizy ilościowej i modelowania wydajności.
- Silne umiejętności projektowania systemów i inżynierii oprogramowania, równoważące wydajność, utrzymanie i ogólność.
Dodatkowe punkty:
- Wkład w projekty open-source dotyczące Triton, LLVM, TVM, MLIR lub PyTorch.
- Doświadczenie w systemach treningu lub wnioskowania AI, takich jak TensorRT, vLLM, DeepSpeed, OneFlow lub OpenXLA.
- Publikacje lub patenty w zakresie fuzji rdzeni, układania pamięci lub optymalizacji potoków asynchronicznych.
- Doświadczenie w optymalizacji wnioskowania rozproszonego (równoległość tensorów/potoków, ZeRO, PagedAttention).
- Udowodnione doświadczenie w optymalizacji międzyplatformowej w różnych dostawcach akceleratorów i architekturach.
Compiler Engineer in Warsaw – pracodawca: microTECH Global LTD
Nasza firma to doskonały pracodawca, który oferuje wyjątkowe możliwości rozwoju w obszarze inżynierii kompilatorów i optymalizacji wydajności. Pracując w naszym zespole zajmującym się infrastrukturą uczenia głębokiego, będziesz miał szansę na współpracę z najnowszymi technologiami oraz mentorowanie innych członków zespołu, co sprzyja tworzeniu inspirującej kultury pracy. Oferujemy konkurencyjne wynagrodzenie, elastyczne godziny pracy oraz dostęp do szkoleń, które wspierają rozwój kariery w dynamicznie rozwijającym się środowisku AI.
