W skrócie
- Zadania: Twórz wydajny kompilator Triton i optymalizuj ramy dla AI.
- Firma: Wiodąca firma technologiczna w dziedzinie AI z innowacyjnym zespołem.
- Benefity: Atrakcyjne wynagrodzenie, możliwość pracy zdalnej i rozwój zawodowy.
- Pozostałe informacje: Dynamiczne środowisko z możliwościami szybkiego rozwoju kariery.
- Dlaczego ta praca: Pracuj nad przełomowymi technologiami i wpływaj na przyszłość AI.
- Kwalifikacje: Magister lub doktorat w dziedzinie architektury komputerowej lub pokrewnej.
Przewidywane wynagrodzenie mieści się w przedziale 135000 - 165000 zł za rok.
Poszukujemy eksperta w dziedzinie kompilatorów i optymalizacji wydajności, który dołączy do naszego zespołu infrastruktury uczenia głębokiego. Będziesz odpowiedzialny za budowanie wysokowydajnego kompilatora Triton oraz frameworka optymalizacji rdzeni, prowadząc nową generację obciążeń AI na NPU.
Kluczowe obowiązki:
- Prowadzenie projektowania i rozwoju kompilatora Triton oraz frameworka optymalizacji wydajności, umożliwiającego implementacje operatorów o wysokiej wydajności na NPU.
- Implementacja nowoczesnych rdzeni Triton (np. Attention, MatMul, LayerNorm, Conv, Softmax) z najlepszą efektywnością.
- Optymalizacja wzorców dostępu do pamięci i harmonogramowania równoległego, z głębokim zrozumieniem zachowania pamięci podręcznej, alokacji rejestrów i limitów zajętości SM.
- Wdrażanie optymalizacji wydajności od początku do końca poprzez integrację Triton z backendami frameworków (np. PyTorch, XLA) i stosami uruchomieniowymi.
- Badanie i stosowanie technologii auto-tuningu, fuzji rdzeni i harmonogramowania operatorów w celu maksymalizacji skalowalności wydajności.
- Mentorowanie członków zespołu w zakresie rozwoju rdzeni Triton oraz ustalanie standardowych procesów analizy i optymalizacji wydajności.
- Śledzenie najnowszych technologii kompilatorów (MLIR, TVM, Hidet, Cutlass) i wprowadzanie innowacyjnych pomysłów w celu przesuwania granic wydajności.
- Przeprowadzanie modelowania wydajności i fingerprintingu obciążeń dla dużych modeli (LLM, Diffusion itp.) w celu kierowania optymalizacją na poziomie systemu.
Czego szukamy:
- Stopień magistra lub wyższy w dziedzinie architektury komputerowej, teorii kompilatorów, obliczeń o wysokiej wydajności lub pokrewnej dziedzinie; preferowany doktorat.
- Ponad 5-letnie doświadczenie w programowaniu NPU/GPU, optymalizacji operatorów lub rozwoju kompilatorów.
- Głębokie zrozumienie architektur akceleratorów i analizy wąskich gardeł wydajności (jednostki obliczeniowe, linie wektorowe, hierarchia pamięci, pamięci podręczne itp.).
- Biegłość w Triton, PTX lub LLVM IR w zakresie programowania niskopoziomowego i optymalizacji.
- Znajomość PyTorch, TensorFlow lub JAX oraz ich mechanizmów wykonywania grafów i harmonogramowania operatorów.
- Udowodniona zdolność do samodzielnego rozwijania, benchmarkowania i optymalizacji złożonych rdzeni.
- Umiejętność korzystania z narzędzi do profilowania wydajności (np. perf, torch.profiler oraz inne neutralne dla dostawcy lub runtime profilers) do analizy ilościowej i modelowania wydajności.
- Silne umiejętności projektowania systemów i inżynierii oprogramowania, równoważące wydajność, łatwość utrzymania i ogólność.
Dodatkowe punkty:
- Wkład w projekty open-source dotyczące Triton, LLVM, TVM, MLIR lub PyTorch.
- Doświadczenie w systemach treningu lub wnioskowania AI, takich jak TensorRT, vLLM, DeepSpeed, OneFlow lub OpenXLA.
- Publikacje lub patenty w zakresie fuzji rdzeni, układania pamięci lub optymalizacji potoków asynchronicznych.
- Doświadczenie w optymalizacji wnioskowania rozproszonego (równoległość tensorów/potoków, ZeRO, PagedAttention).
- Udowodnione doświadczenie w optymalizacji międzyplatformowej w różnych dostawcach akceleratorów i architekturach.
Compiler Engineer – Poland in Warsaw – pracodawca: microTECH Global Limited
Nasza firma to doskonały pracodawca, który oferuje wyjątkowe możliwości rozwoju w dynamicznym środowisku technologicznym. Pracując jako inżynier kompilatorów w Polsce, będziesz częścią zespołu zajmującego się infrastrukturą głębokiego uczenia, gdzie innowacyjność i współpraca są kluczowe. Oferujemy konkurencyjne wynagrodzenie, elastyczne godziny pracy oraz możliwość pracy z najnowszymi technologiami, co sprawia, że jesteśmy idealnym miejscem dla ambitnych specjalistów pragnących rozwijać swoje umiejętności w obszarze AI i optymalizacji wydajności.
Dane kontaktowe:
Zespół rekrutacyjny microTECH Global Limited