AI Accelerator Software Principal Engineer – Runtime Library in Warsaw

Ampere jest firmą zajmującą się projektowaniem półprzewodników dla nowej ery, prowadzącą przyszłość obliczeń z innowacyjnym podejściem do projektowania CPU, skoncentrowanym na wysokiej wydajności i efektywności energetycznej obliczeń AI. Jako pionier w nowej dziedzinie efektywnego energetycznie obliczeń o wysokiej wydajności, Ampere jest częścią grupy Softbank, która napędza zrównoważone obliczenia dla aplikacji AI, chmurowych i brzegowych.

Dołącz do nas w Ampere i pracuj obok pasjonującego się i rosnącego zespołu – chcielibyśmy, abyś aplikował!

O roli: Jako Główny Inżynier Oprogramowania AI Accelerator – Biblioteka Czasu Wykonania, będziesz prowadzić projektowanie, rozwój i optymalizację oprogramowania runtime AI, które umożliwia uruchamianie wielu nowoczesnych modeli głębokiego uczenia na akceleratorach głębokiego uczenia Ampere. Będziesz pracować na styku oprogramowania systemowego, inżynierii wydajności i wsparcia AI, pomagając dostarczać wysokowydajne, niskolatencyjne wnioskowanie oraz solidną podstawę dla przyszłego wsparcia modeli i frameworków.

Co osiągniesz:

• Budowanie i rozwijanie Biblioteki Czasu Wykonania AI dla akceleratorów Ampere, która wspiera wykonanie, harmonogramowanie i zarządzanie cyklem życia obciążeń głębokiego uczenia w różnych typach modeli i popularnych frameworkach.
• Posiadanie pełnych ścieżek przyspieszenia, zagłębiając się w pełny stos SW/HW, w tym:
• Warstwy serwowania wnioskowania i integracji
• Interfejsy kompilatora/runtime i przepływy wykonania grafu/IR
• Architektura biblioteki czasu wykonania (API, zarządzanie pamięcią, operatory, silniki wykonawcze)
• Mechanizmy komunikacyjne i orkiestracja urządzeń/gospodarzy
• Prowadzenie współprojektowania HW/SW i optymalizacji w celu poprawy:
• Wydajności (tokeny/żądania na sekundę)
• Latencji (wydajność wykonania i harmonogramowania rdzeni)
• Efektywności pamięci (buforowanie, stronicowanie, ponowne użycie, buforowanie)
• Ogólnej wykorzystania obliczeń i zachowania skalowania
• Wkład w umożliwienie oprogramowania dla współprocesorów/akceleratorów AI, ściśle współpracując z zespołami sprzętowymi i systemowymi, aby zapewnić, że strategie runtime i rdzeni odpowiadają możliwościom i ograniczeniom akceleratora.
• Współpraca międzyfunkcyjna w celu integracji komponentów runtime w stosy platformy Ampere, zapewniając solidne wdrożenie w docelowych środowiskach i spójną wydajność w obciążeniach przypominających produkcję.

O Tobie:

• Wykształcenie wyższe w dziedzinie informatyki, inżynierii komputerowej, inżynierii elektrycznej lub pokrewnej dziedziny technicznej oraz 8-letnie doświadczenie; lub stopień magistra i 6-letnie doświadczenie; lub doktorat i 3-letnie doświadczenie.
• Udokumentowane doświadczenie w opracowywaniu sterowników użytkownika i/lub bibliotek czasu wykonania dla GPU lub akceleratorów głębokiego uczenia w środowiskach Linux lub RTOS.
• Silna wiedza w zakresie programowania w C/C++ i programowania na poziomie systemu (pamięć, wątki, synchronizacja, profilowanie wydajności).
• Udokumentowane doświadczenie w umożliwieniu frameworków AI, z praktycznym doświadczeniem w jednym lub więcej z:
• PyTorch (integracja operatora/runtime, wykonanie grafu, prace nad poprawnością/wydajnością)
• llama.cpp (wzorce wykonania/runtime)
• ONNX (obsługa grafu, interoperacyjność, silniki wykonawcze)
• Silne umiejętności inżynierii wydajności, w tym profilowanie/diagnostyka i optymalizacja potoków wykonawczych, ruchu danych i rdzeni obliczeniowych.
• Umiejętność efektywnego działania w środowisku współpracy – posiadanie złożonych komponentów przy jednoczesnej współpracy z zespołami kompilatorów, sprzętu i platformy.

Co oferujemy:

• W Ampere wierzymy w dbanie o naszych pracowników i oferowanie konkurencyjnego pakietu wynagrodzeń, który obejmuje wynagrodzenie podstawowe, długoterminowe zachęty pieniężne oraz kompleksowe świadczenia.
• Pełny zakres wynagrodzenia podstawowego dla tej roli wynosi od 301,500 PLN do 452,500 PLN.
• Wyróżniające się korzyści obejmują:
• Premium opieka zdrowotna, abyś Ty i członkowie Twojej rodziny mogli czuć się bezpiecznie w swoim zdrowiu.
• Hojna polityka płatnego urlopu, abyś mógł cieszyć się zdrową równowagą między pracą a życiem prywatnym.
• Szeroki wybór udogodnień biurowych, w tym zdrowe przekąski i orzeźwiające napoje, darmowy dostęp do siłowni i sauny, abyś mógł być naładowany energią i zdrowy.
• Elastyczne godziny pracy i polityka pracy zdalnej, która obejmuje zwrot kosztów łączności i sprzętu do pracy z domu.
• Karta sportowa w pełni finansowana przez Ampere.
• I wiele więcej niż tylko wynagrodzenie i świadczenia. W Ampere promujemy kulturę inkluzywną, która umożliwia naszym pracownikom robienie więcej i rozwijanie się.

Jesteśmy podekscytowani, aby podzielić się z Tobą więcej informacji na temat naszych możliwości kariery podczas procesu rekrutacji. Możemy używać narzędzi sztucznej inteligencji (AI) do wspierania części procesu rekrutacji, takich jak przeglądanie aplikacji, analizowanie CV lub ocenianie odpowiedzi. Te narzędzia wspierają nasz zespół rekrutacyjny, ale nie zastępują ludzkiego osądu. Ostateczne decyzje dotyczące zatrudnienia są podejmowane przez ludzi.

Ampere jest pracodawcą równych szans i zaprasza kandydatów z różnych środowisk. Wszyscy kwalifikowani kandydaci będą rozpatrywani do zatrudnienia bez względu na rasę, kolor skóry, pochodzenie narodowe, obywatelstwo, religię, wiek, status weterana i/lub wojskowy, płeć, orientację seksualną, tożsamość płciową, ekspresję płci, niepełnosprawność fizyczną lub psychiczną lub jakąkolwiek inną podstawę chronioną przez prawo federalne, stanowe lub lokalne.