Staff AI Application Engineer in Katowice

Axelera AI to nie jest zwykła firma technologiczna. Tworzymy platformę AI nowej generacji, aby wspierać każdego, kto chce przyczynić się do postępu ludzkości i poprawy świata wokół nas. W ciągu zaledwie pięciu lat zebraliśmy 450 milionów dolarów i zbudowaliśmy zespół światowej klasy liczący ponad 250 pracowników (w tym ponad 60 doktorów z więcej niż 40 000 cytatami), pracujących zdalnie z 21 różnych krajów oraz w biurach w Belgii, Francji, Szwajcarii, Włoszech, Wielkiej Brytanii, z siedzibą w High Tech Campus w Eindhoven w Holandii. Uruchomiliśmy również naszą platformę Metis™ AI, która osiąga 3-5-krotny wzrost wydajności i efektywności, a także mamy widoczność silnego pipeline'u biznesowego przekraczającego 100 milionów dolarów. Nasze niezłomne zaangażowanie w innowacje ugruntowało nas jako globalnego pioniera branży.

Jako Staff AI Application Engineer w zespole Model Enablement (Oprogramowanie Aplikacyjne) będziesz budować naszą platformę umożliwiającą modelowanie i decydować, jak każdy model działa na Metis lub Europa AIPU, CPU gospodarza i akceleratorach gospodarza. Jak ta praca jest podzielona i zaplanowana, ma kluczowe znaczenie dla wydajności końcowej, którą widzi klient w SDK Voyager. Rola łączy architekturę i praktyczną pracę w zakresie frontend'u modelu, kompilatora grafów, czasu wykonywania i pipeline'u aplikacji. Podczas uruchamiania modelu zajmujesz się frontend'em i stroną grafu, a inżynier zajmujący się backend'em zajmuje się stroną urządzenia. Nasz zespół codziennie korzysta z agentów kodowania AI, a Ty będziesz ich używać do budowy, testowania i weryfikacji swojej pracy. Zapraszamy również doświadczonych inżynierów aplikacji terenowych, liderów technicznych i menedżerów inżynierii, którzy chcą wrócić do praktycznej inżynierii. Doświadczenie w planowaniu, delegowaniu i przeglądaniu pracy dobrze przekłada się na pracę z agentami AI.

Kluczowe obowiązki:

• Budowanie platformy umożliwiającej modelowanie i zestawu narzędzi dla inżynierów i agentów AI do uruchamiania modeli: narzędzia do partycjonowania, kompilacji, uruchamiania i profilowania; środowiska z dostępem do rzeczywistego sprzętu; zamknięte pętle, które stosują zmianę, mierzą ją w odniesieniu do referencji i powtarzają; oraz weryfikacja (testowanie różnicowe, wykrywanie regresji) zintegrowana z CI.
• Własność sposobu, w jaki model PyTorch lub ONNX jest przechwytywany, analizowany i dzielony pomiędzy jednostki macierzy AIPU i wektora RISC-V, CPU gospodarza i akceleratory gospodarza (GPU, NPU, dekoder wideo), z tagami umiejscowienia, które użytkownicy mogą odczytać i nadpisać.
• Rozszerzenie podziału na duże modele, kaskady i wielomodelowe pipeline'y, na przykład z wykorzystaniem offloading'u ekspertów i pamięci podręcznej między pamięcią urządzenia a gospodarza.
• Współpraca z zespołem kompilatora grafów w celu uzgodnienia planu.
• Współpraca z zespołem aplikacyjnym (budowniczym pipeline'u) i zespołem czasu wykonywania, aby osiągnąć najlepszą wydajność end-to-end dla każdego modelu: nakładanie pracy gospodarza i urządzenia, buforów zero-copy, grupowania, harmonogramowania wielordzeniowego oraz modeli z kilkoma wejściami.
• Analiza modeli, które mają największe znaczenie dla klientów, na Metis dzisiaj i na Europie, oraz przekształcanie każdej lekcji w poprawę platformy.

Kwalifikacje:

Wymagane:

• 8+ lat doświadczenia inżynieryjnego w systemach, kompilatorach, czasach wykonywania lub wydajności, w tym odpowiedzialność za projektowanie na poziomie systemu.
• Praktyczne doświadczenie z heterogenicznym przetwarzaniem na CPU, GPU, DSP, NPU lub FPGA, w tym rozumienie obliczeń, przepustowości pamięci, opóźnienia i ruchu danych.
• Solidne podstawy w architekturze komputerowej, systemach operacyjnych i programowaniu równoległym.
• Znajomość reprezentacji grafów ML i koncepcji kompilatorów: przechwytywanie grafów (torch.export, FX, ONNX), obniżanie, fuzja operatorów, partycjonowanie, planowanie pamięci.
• Silna znajomość C++ i Pythona.
• Codzienne korzystanie z agentów kodowania AI w rzeczywistej pracy inżynieryjnej, z umiejętnością przeglądania i testowania ich wyników.

Preferowane:

• Praktyczne doświadczenie z MLIR lub innym frameworkiem kompilatora (TVM, XLA, TorchInductor, IREE).
• Doświadczenie z czasem wykonywania inferencji lub silnikiem wykonawczym (dostawcy wykonawczy ONNX Runtime, niestandardowy czas wykonywania NPU lub DSP).
• Doświadczenie z obliczeniami GPU (CUDA, OpenCL, Vulkan) lub optymalizacją SIMD na Arm lub x86.
• Doświadczenie z technikami wykonywania dużych modeli, takimi jak offloading, pamięć podręczna ekspertów, spekulatywne dekodowanie, pipelining między urządzeniami.
• Doświadczenie w budowaniu środowisk agentów, zestawów oceniających lub frameworków weryfikacyjnych (testowanie różnicowe, wykrywanie regresji) lub narzędzi opartych na MCP.

Lokalizacja: Oferujemy elastyczny układ pracy, z opcjami pracy z jednego z naszych biur Axelera AI (Leuven w Belgii, Amsterdam i Eindhoven w Holandii, Zurych w Szwajcarii, Florencja i Mediolan we Włoszech lub Bristol w Wielkiej Brytanii) lub pracy całkowicie zdalnej z dowolnego kraju europejskiego (w tym UK), w którym już jesteś. Możliwość relokacji do Włoch (Florencja lub Mediolan) lub Holandii (Amsterdam lub Eindhoven). Prosimy zauważyć, że priorytet będą miały osoby, które są zainteresowane pracą w Belgii lub Włoszech.

Co oferujemy: To Twoja szansa, aby kształtować i być częścią dynamicznej, szybko rozwijającej się, międzynarodowej organizacji. Oferujemy atrakcyjny pakiet wynagrodzeń, w tym plan emerytalny, szerokie ubezpieczenia pracownicze oraz możliwość uzyskania akcji firmy. Oczekuje Cię otwarta kultura, która wspiera kreatywność i ciągłą innowację. Współpraca i wolność z odpowiedzialnością to cechy charakterystyczne naszego działania i pracy jako zespół. W Axelera AI z pełnym zaangażowaniem przyjmujemy równe szanse i traktujemy różnorodność z najwyższym szacunkiem. Nasze niezłomne zobowiązanie do tworzenia ciepłego i inkluzywnego środowiska, które wzmacnia i celebruje każdego członka naszego zespołu, jest dla nas priorytetem. Zapraszamy kandydatów z różnych środowisk do dołączenia do nas w kształtowaniu przyszłości AI.