W skrócie
- Zadania: Automatyzuj procesy CI/CD dla AI i zarządzaj infrastrukturą jako kodem.
- Firma: TechBiz Global - innowacyjna firma rekrutacyjna z najlepszymi klientami.
- Benefity: Atrakcyjne wynagrodzenie, elastyczne godziny pracy i możliwości rozwoju zawodowego.
- Pozostałe informacje: Dynamiczne środowisko z doskonałymi możliwościami kariery.
- Dlaczego ta praca: Pracuj z najnowszymi technologiami AI i wpływaj na rozwój innowacyjnych projektów.
- Kwalifikacje: 10+ lat doświadczenia w DevOps oraz 2+ lata w MLOps lub LLMOps.
Przewidywane wynagrodzenie mieści się w przedziale 123750 - 151250 zł za rok.
W TechBiz Global świadczymy usługi rekrutacyjne dla naszych najlepszych klientów z naszego portfolio. Obecnie poszukujemy specjalisty Senior AI DevOps / LLMOps do zespołu jednego z naszych klientów. Jeśli szukasz ekscytującej możliwości rozwoju w innowacyjnym środowisku, to może być idealne miejsce dla Ciebie.
Kluczowe obowiązki
- Automatyzacja procesu Build-to-Production: Projektowanie i wdrażanie solidnych pipeline'ów CI/CD dostosowanych do AI, obejmujących wersjonowanie wag modeli, wersjonowanie zbiorów danych oraz kod aplikacji.
- Opracowywanie specjalistycznych workflow dla PromptOps, zapewniając, że systemowe podpowiedzi są wersjonowane, testowane pod kątem regresji i wdrażane z taką samą starannością jak tradycyjny kod.
- Automatyzacja wdrożenia workflow Agentic, zarządzając złożonościami interakcji AI z zachowaniem stanu i przekazywaniem między wieloma agentami.
- AI Infrastructure as Code (IaC): Provisioning i zarządzanie wysokowydajnymi środowiskami obliczeniowymi (klastry GPU, pody TPU) przy użyciu Terraform, Pulumi lub Ansible.
- Definiowanie i egzekwowanie Policy-as-Code dla punktów końcowych AI, aby zapewnić zgodność z wymaganiami bezpieczeństwa, limitami kosztów i lokalizacją danych.
- Utrzymywanie spójnego środowiska w ramach Hybrid Infrastructure, zapewniając płynne parytety między rozwojem On-Premises a produkcją w chmurze.
- Bezpieczne eksperymentowanie i kontrolowane wydania: Architektura strategii Progressive Delivery dla AI, w tym wydania Canary, wdrożenia Blue-Green i Shadowing (gdzie nowe modele działają równolegle z produkcją w celu porównania wyników).
- Budowanie bramek Evaluation-in-the-Loop w pipeline'ie, aby automatycznie testować na obecność biasu, halucynacji i degradacji wydajności przed wydaniem.
- Implementacja frameworków A/B testing zaprojektowanych specjalnie dla wyników LLM i zachowań agentów.
- Monitoring i obserwowalność: Ustanowienie głębokiej obserwowalności punktów końcowych Inference, śledzenie metryk takich jak tokeny na sekundę, opóźnienie i dryf w dokładności modelu.
- Integracja pętli sprzężenia zwrotnego, które uchwycą przypadki brzegowe produkcji, aby wprowadzić je z powrotem do pipeline'ów treningowych i fine-tuningowych.
Wymagane umiejętności techniczne:
- Orkiestracja: Zaawansowane umiejętności Kubernetes (K8s), szczególnie z KubeFlow, Ray lub NVIDIA Triton.
- CI/CD i IaC: Ekspertyza w GitHub Actions/GitLab CI oraz Terraform lub Pulumi.
- Narzędzia AI: Doświadczenie z Weights & Biases, MLflow, LangSmith lub Arize Phoenix.
- Sprzęt: Zrozumienie wirtualizacji GPU, sterowników CUDA i zarządzania sprzętem on-premises.
- Bezpieczeństwo: Znajomość Open Policy Agent (OPA) i zarządzania sekretami (Vault).
Doświadczenie:
- 10+ lat w DevOps, SRE lub Cloud Engineering.
- 2+ lata praktycznego doświadczenia w MLOps lub LLMOps, szczególnie w przenoszeniu LLM z notebooka do produkcji.
- Udokumentowane doświadczenie w zarządzaniu środowiskami Hybrid Cloud (np. AWS/Azure + Prywatne Centrum Danych).
Senior AI DevOps / LLMOps in Kraków – pracodawca: TechBiz Global GmbH
TechBiz Global to doskonały pracodawca, który oferuje wyjątkowe możliwości rozwoju w innowacyjnym środowisku. Nasza kultura pracy opiera się na współpracy i kreatywności, a pracownicy mają dostęp do zaawansowanych technologii oraz szkoleń, co sprzyja ich osobistemu i zawodowemu rozwojowi. Dodatkowo, praca w dynamicznym zespole przy projektach dla czołowych klientów zapewnia satysfakcję i poczucie wpływu na rozwój branży AI.
