Senior AI Application Engineer in Katowice

Axelera AI to nie jest zwykła firma technologiczna. Tworzymy platformę AI nowej generacji, aby wspierać każdego, kto chce przyczynić się do postępu ludzkości i poprawy świata wokół nas. W ciągu zaledwie pięciu lat zebraliśmy 450 milionów dolarów i zbudowaliśmy zespół ponad 250 pracowników (w tym ponad 60 doktorów z ponad 40 000 cytatami), pracujących zdalnie z 21 różnych krajów oraz w biurach w Belgii, Francji, Szwajcarii, Włoszech, Wielkiej Brytanii, z siedzibą w High Tech Campus w Eindhoven w Holandii. Uruchomiliśmy również naszą platformę Metis AI, która osiąga 3-5-krotny wzrost wydajności i efektywności, a także mamy widoczność silnego pipeline'u biznesowego przekraczającego 100 milionów dolarów. Nasze niezłomne zaangażowanie w innowacje ugruntowało nas jako globalnego pioniera branży.

Jako starszy inżynier aplikacji AI w zespole Model Enablement (oprogramowanie aplikacyjne) będziesz odpowiedzialny za wsparcie LLM i VLM na Metis i Europa AIPUs, od badania nowych modeli po ich wdrażanie w Voyager SDK. Rola ta łączy wiedzę o LLM/VLM z solidnym inżynierią oprogramowania. Nasz zespół codziennie korzysta z agentów kodowania AI, a Ty będziesz ich używać do budowy, testowania i weryfikacji swojej pracy. Zapraszamy również doświadczonych inżynierów aplikacji terenowych, liderów technicznych i menedżerów inżynierii, którzy chcą wrócić do praktycznej inżynierii.

Kluczowe obowiązki:

• Badanie LLM/VLM: Badanie nowych rodzin i architektur LLM i VLM (np. mieszanka ekspertów, małe VLM, nowe schematy uwagi i dekodowania). Prototypowanie i profilowanie ich na Metis i Europa oraz podejmowanie decyzji, jak powinny działać na naszym sprzęcie.
• Produktizacja: Przekształcanie wyników i wyników naszej grupy badawczej ML w obsługiwane funkcje Voyager SDK, z stabilnymi API, testami, dokumentacją i bramkami wydania.
• Umowy dotyczące modelu: Dla każdego bloku budującego LLM/VLM, posiadanie odniesienia PyTorch z wbudowaną kwantyzacją, mapowaniem wag oraz jedną umową, która wymienia każdy input, output, wagę i stan trwały (np. pamięć podręczna KV), i przekazanie tej umowy zespołowi kompilatorów.
• Integracja pipeline'u: Wprowadzenie serwowania LLM i VLM do budowniczego pipeline'u Voyager SDK: zarządzanie pamięcią podręczną KV, strumieniowe wyjście tekstowe i multimodalne wejścia.
• Jakość: Wraz z właścicielami regresji i kwantyzacji, pomiar dokładności w porównaniu do odniesienia zmiennoprzecinkowego oraz zamykanie lub wyjaśnianie każdej luki.
• Platforma uruchamiania LLM/VLM: Rozszerzenie platformy umożliwiającej model dla LLM i VLM: środowiska z dostępem do kompilatora, czasu wykonania i rzeczywistego sprzętu (np. za pomocą narzędzi MCP), zamknięte pętle, które stosują zmianę, mierzą dokładność i prędkość w porównaniu do odniesienia i powtarzają, oraz oceny, które oceniają każdy bieg.
• Kierunek GenAI: Rekomendowanie, czego potrzebuje Voyager SDK dla GenAI, agentów i mowy na urządzeniach brzegowych oraz które pokazy modeli najlepiej to ilustrują.

Wymagania:

Podstawowe:

• 5+ lat doświadczenia w inżynierii oprogramowania, w tym co najmniej 2 lata w zakresie wnioskowania ML, systemów ML lub narzędzi ML.
• Solidne zrozumienie wnioskowania transformatorów: warianty uwagi, pamięć podręczna KV, prefill vs decode, próbkowanie, tokenizacja oraz jak VLM łączy enkoder wizji z modelem językowym.
• Znajomość kwantyzacji LLM (schematy tylko wagowe i wagowo-aktywacyjne, kalibracja, obsługa wartości odstających) oraz umiejętność rozróżnienia utraty kwantyzacji od błędu implementacji.
• Silna znajomość Pythona i PyTorch oraz doświadczenie w dostarczaniu oprogramowania produkcyjnego.
• Codzienne korzystanie z agentów kodowania AI w rzeczywistych bazach kodu, z dobrym osądem, kiedy weryfikować lub odrzucać ich wyniki.
• Umiejętność przekształcania kodu badawczego i ograniczeń sprzętowych w praktyczny projekt.

Preferowane:

• Doświadczenie z silnikami wnioskowania lub stosami serwującymi (np. llama.cpp, vLLM, ONNX Runtime GenAI, ExecuTorch).
• Doświadczenie z rozwojem jądra lub kompilatorem tensorów (np. Triton, TVM lub MLIR) lub z profilowaniem modeli na sprzęcie akceleracyjnym.
• Doświadczenie z mową (ASR, TTS) lub aplikacjami agentowymi na urządzeniach wbudowanych.
• Doświadczenie w budowaniu systemów oceny lub testowania dla systemów ML lub agentów AI, lub narzędzi wywołujących agentów (np. serwery MCP).

Lokalizacja:

Oferujemy elastyczne warunki pracy, z opcjami: Praca z jednego z naszych biur Axelera AI (Leuven w Belgii, Amsterdam i Eindhoven w Holandii, Zurych w Szwajcarii, Florencja i Mediolan we Włoszech lub Bristol w Wielkiej Brytanii), jeśli już tam mieszkasz. Praca całkowicie zdalna z dowolnego kraju europejskiego (w tym Wielkiej Brytanii), w którym już jesteś. Przeprowadzka z nami i praca z Włoch (Florencja lub Mediolan) lub Holandii (Amsterdam lub Eindhoven). Prosimy zauważyć, że priorytet będą mieli kandydaci, którzy są zainteresowani pracą w Belgii lub Włoszech.

Co oferujemy:

To Twoja szansa, aby kształtować i być częścią dynamicznej, szybko rozwijającej się, międzynarodowej organizacji. Oferujemy atrakcyjny pakiet wynagrodzeń, w tym plan emerytalny, szerokie ubezpieczenia dla pracowników oraz możliwość uzyskania akcji firmy. Czeka na Ciebie otwarta kultura, która wspiera kreatywność i ciągłą innowację. Wspólna odpowiedzialność i wolność z odpowiedzialnością charakteryzują sposób, w jaki działamy i pracujemy jako zespół. W Axelera AI z pełnym zaangażowaniem przyjmujemy równe szanse i traktujemy różnorodność z najwyższym szacunkiem. Nasze niezłomne zobowiązanie polega na tworzeniu ciepłego i inkluzywnego środowiska, które wzmacnia i celebruje każdego członka naszego zespołu. Zapraszamy kandydatów z różnych środowisk do dołączenia do nas w kształtowaniu przyszłości AI.