W skrócie
- Zadania: Buduj i ulepszaj warstwę inferencji platformy Gcore.
- Firma: Gcore - globalny dostawca rozwiązań infrastrukturalnych i programowych.
- Benefity: Konkurencyjne wynagrodzenie, elastyczne godziny pracy, zdalne opcje i dodatkowe dni urlopu.
- Pozostałe informacje: Możliwość pracy zdalnej przez 45 dni w roku oraz wsparcie dla ważnych momentów życiowych.
- Dlaczego ta praca: Pracuj z najnowszymi technologiami w globalnym zespole 550+ profesjonalistów.
- Kwalifikacje: 5+ lat doświadczenia w pisaniu niezawodnego kodu produkcyjnego w Pythonie.
Przewidywane wynagrodzenie mieści się w przedziale 113400 - 138600 zł za rok.
To connect the world to AI, anywhere, anytime. We are currently looking for a Python Inference Engineer to join our Edge Cloud & AI Team.
Job Description
- Build and improve the inference layer of the Gcore Inference platform.
- Integrate and operate inference frameworks such as vLLM, SGLang, NVIDIA Dynamo, and TensorRT-LLM.
- Bring new language and multimodal models into production.
- Improve inference latency, throughput, memory use, GPU utilization, and cost efficiency.
- Debug performance and reliability issues across model code, inference frameworks, GPU execution, networking, and Kubernetes.
- Work with platform, infrastructure, product, and customer-facing teams to turn inference improvements into reliable product features.
- Contribute improvements to open-source inference projects when appropriate.
Qualifications
- 5+ years of experience writing reliable, well-tested production code.
- Strong Python skills and experience designing production systems.
- Hands-on experience with PyTorch and deploying machine learning models.
- Experience with Linux, Docker, and Kubernetes.
- Experience in at least one relevant area: distributed systems, GPU computing, ML runtimes, model optimization, or cluster scheduling.
- Ability to debug complex problems across software, infrastructure, and hardware.
- Strong sense of developer experience: you think about how systems are used, not just how they work.
- Genuine interest in inference engineering. You do not need direct experience with inference engines, but you should be motivated to learn.
- Good communication and collaboration skills.
Nice to Have
- Experience with vLLM, SGLang, NVIDIA Dynamo, TensorRT-LLM, or a similar inference framework.
- Experience running GPU workloads in production.
- Knowledge of inference techniques such as quantization, continuous batching, speculative decoding, prefix caching, chunked prefill, or LoRA serving.
- Experience with CUDA, Triton, TensorRT, or other GPU programming tools.
- Experience profiling and improving model latency, throughput, memory use, or GPU utilization.
- Experience with distributed inference, multi-GPU systems, scheduling, or autoscaling.
- Contributions to open-source ML, inference, or infrastructure projects.
Dodatkowe informacje
- W Gcore chcemy, abyś wykonywał swoją najlepszą pracę i cieszył się podróżą. Nasze benefity są zaprojektowane, aby wspierać Twój rozwój, dobre samopoczucie i życie poza pracą:
- Konkurencyjne wynagrodzenie
- Elastyczne godziny pracy oraz opcje hybrydowe lub zdalne, w zależności od Twojej roli
- Praca z dowolnego miejsca na świecie przez maksymalnie 45 dni w roku
- Prywatne ubezpieczenie zdrowotne dla Ciebie i Twojej rodziny
- Dodatkowe płatne dni urlopu i zwolnienia chorobowe
- Wsparcie w ważnych momentach życia i celebracjach
- Kursy językowe, które pomogą Ci się połączyć i rozwijać
- Sporty zespołowe i aktywności społeczne
Benefity mogą się różnić w zależności od lokalizacji.
Równy pracodawca
Zapewniamy równe szanse wszystkim kandydatom bez względu na rasę, kolor skóry, religię, płeć, orientację seksualną, wiek, tożsamość płciową, ekspresję płciową, pochodzenie narodowe, niepełnosprawność lub jakiekolwiek inne cechy chronione prawem.
Python Inference Engineer in Warsaw – pracodawca: Gcore
Gcore to doskonały pracodawca, oferujący elastyczne opcje pracy zdalnej, hybrydowej lub biurowej, co pozwala na dostosowanie środowiska pracy do indywidualnych potrzeb. Nasza kultura pracy opiera się na współpracy i wsparciu, a pracownicy mają możliwość rozwoju zawodowego poprzez różnorodne szkolenia i projekty w dynamicznie rozwijającej się branży chmurowej i AI. Dołączając do nas, stajesz się częścią zespołu, który ceni innowacyjność i dąży do doskonałości w obsłudze klienta.
