Generative AI Operations Engineer in Warsaw

Poszukujemy wysoko zmotywowanego i doświadczonego inżyniera operacji Generative AI (GenAI Ops), który dołączy do naszego innowacyjnego zespołu. W tej roli będziesz na czołowej pozycji rewolucji AI, odpowiedzialny za budowanie, wdrażanie i utrzymywanie infrastruktury operacyjnej dla naszych nowoczesnych modeli i usług generatywnej AI. Będziesz ściśle współpracować z naukowcami danych, inżynierami uczenia maszynowego oraz programistami, aby zapewnić, że nasze aplikacje GenAI - szczególnie złożone systemy wieloagentowe - są skalowalne, niezawodne i efektywne na głównych platformach chmurowych.

Jeśli pasjonujesz się operacjonalizacją dużych systemów AI i chcesz mieć znaczący wpływ, to jest rola dla Ciebie.

Obowiązki:

• Budowanie i zarządzanie CI/CD: Projektowanie, wdrażanie i utrzymywanie solidnych, zautomatyzowanych pipeline'ów CI/CD dla trenowania, oceny i wdrażania dużych modeli językowych (LLM) i agentów AI.
• Orkiestracja agentowych przepływów pracy: Projektowanie, wdrażanie i zarządzanie złożonymi systemami wieloagentowymi. Zapewnienie płynnej komunikacji i współpracy między agentami w celu automatyzacji złożonych procesów biznesowych.
• Zarządzanie integracją narzędzi: Wdrażanie i zarządzanie bezpiecznymi, skalowalnymi integracjami między agentami AI a zewnętrznymi narzędziami/API, wykorzystując otwarte standardy, takie jak Model Context Protocol (MCP), aby zapewnić interoperacyjność.
• Wykorzystanie narzędzi rozwoju wspomaganego AI: Wykorzystanie narzędzi rozwoju wspomaganego AI do przyspieszenia całego cyklu życia rozwoju oprogramowania, od pisania kodu infrastruktury i testów po rozwiązywanie problemów operacyjnych w środowiskach chmurowych.
• Infrastruktura jako kod (IaC): Wykorzystanie usług IaC natywnych dla chmury lub narzędzi niezależnych od chmury, takich jak Terraform, do definiowania i zarządzania infrastrukturą wymaganą dla obciążeń GenAI.
• Monitorowanie modeli i obserwowalność: Wdrażanie kompleksowych rozwiązań monitorujących i logujących w celu śledzenia wydajności modeli i agentów, wykorzystania zasobów oraz stanu systemu.
• Skalowalność i optymalizacja wydajności: Projektowanie i wdrażanie skalowalnych architektur dla serwowania modeli i wnioskowania. Ciągła optymalizacja wydajności i opłacalności naszych usług GenAI.
• Bezpieczeństwo i zgodność: Wdrażanie i egzekwowanie najlepszych praktyk bezpieczeństwa dla naszej infrastruktury GenAI i danych. Zapewnienie zgodności z normami i regulacjami branżowymi.

Wymagania:

• 3+ lata doświadczenia w roli DevOps, SRE lub MLOps z naciskiem na infrastrukturę chmurową oraz doświadczenie w usługach chmurowych (AWS, GCP, Azure).
• Umiejętności w budowaniu i zarządzaniu pipeline'ami CI/CD (Jenkins, GitLab CI lub usługi natywne dla chmury) oraz biegłość w przynajmniej jednym języku skryptowym (np. Python, Bash).
• Znajomość narzędzi IaC (np. AWS CDK, CloudFormation, Terraform) oraz konteneryzacji/orkiestracji (Docker, Kubernetes).
• Doświadczenie w wdrażaniu i obsłudze wnioskowania LLM (np. vLLM, Triton, TGI, Ray Serve, KServe/Seldon).
• Praktyczne doświadczenie z śledzeniem LLM/agentów i metrykami (np. OpenTelemetry + Langfuse, Arize Phoenix, WhyLabs) oraz w budowaniu pipeline'ów oceny (offline/online, zestawy regresyjne).
• Umiejętności w obsłudze pipeline'ów wyszukiwania: generacja osadzeń, strategie indeksowania/odświeżania, bazy wektorowe (Pinecone, Weaviate, Milvus, FAISS) oraz monitorowanie trafności.
• Doświadczenie w uruchamianiu przepływów pracy wieloagentowych (LangGraph, CrewAI, AutoGen-like), w tym zarządzanie stanem, ponownymi próbami, ograniczeniami prędkości, obsługą błędów narzędzi oraz audytowaniem na poziomie kroków.
• Doświadczenie w implementacji zabezpieczeń: izolacja sekretów, uprawnienia narzędzi/API, obrony przed wstrzyknięciami zapytań, zapobieganie wyciekom danych, redakcja PII oraz egzekwowanie polityki.
• Znajomość integracji agentów z zewnętrznymi narzędziami przy użyciu MCP (lub podobnych standardów wywoływania narzędzi) oraz obsługi rejestrów narzędzi jest dodatkowym atutem.

Miłe widzieć:

• Magisterium lub doktorat w dziedzinie informatyki, AI, uczenia maszynowego lub pokrewnej.
• Doświadczenie z natywnymi usługami GenAI w chmurze, takimi jak AWS Bedrock, Azure AI Foundry lub Google Vertex AI.
• Znajomość architektury i wyzwań operacyjnych dużych modeli językowych (LLM).
• Doświadczenie w projektowaniu lub zarządzaniu systemami wieloagentowymi lub złożonymi, orkiestrującymi przepływami pracy.
• Znajomość narzędzi monitorujących i obserwowalności, takich jak Prometheus, Grafana lub Datadog.
• Odpowiednie certyfikaty chmurowe lub DevOps.
• Silne umiejętności rozwiązywania problemów oraz zdolność do efektywnej pracy w szybkim, współpracującym środowisku.

Oferujemy:

• Możliwość pracy z ludźmi o podobnych poglądach: Najlepsi specjaliści technologiczni napędzający innowacje w AI, chmurze i modernizacji platform cyfrowych.
• Wsparcie zespołu i kultura pracy przypominająca startup.
• Tryb hybrydowy i możliwość pracy zdalnej w Polsce.
• Możliwość pracy za granicą przez maksymalnie 60 dni rocznie.
• Możliwości relokacji związane z działalnością biznesową.

Zapewniamy możliwości rozwoju:

• Programy rozwoju kariery.
• Myślenie liderów, mentoring, programy umiejętności miękkich i dobrostanu.
• Certyfikaty (Anthropic, Gemini, GCP, Azure, AWS).
• Kursy języka angielskiego.

Pokrywamy wszystko:

• Stabilne wynagrodzenie.
• Udział w planie zakupu akcji pracowniczych z 15% zniżką.
• Pakiet benefitów (ubezpieczenie zdrowotne, multisport, bony zakupowe).
• Premie za polecenia do 2000 USD.
• Biura z strefami rozrywki i relaksu, stołami do tenisa i piłki nożnej, darmowymi przekąskami, kawą i innymi.
• Wydarzenia korporacyjne, społeczne i dotyczące dobrostanu.

Proszę zauważyć: Wymienione powyżej benefity są dostępne tylko dla pracowników. Jesteśmy otwarci na współpracę z kontrahentami. Warunki umów współpracy B2B ustalane są indywidualnie. Skontaktujemy się z wybranymi kandydatami wyłącznie.

EPAM jest globalnym liderem w inżynierii transformacji AI i zintegrowanym doradztwie, obsługującym firmy z listy Forbes Global 2000 oraz ambitne startupy. Z ponad trzydziestoletnim doświadczeniem w dostosowanym oprogramowaniu, inżynierii produktów i platform, umożliwiamy naszym klientom stawanie się przedsiębiorstwami AI-Native, przynoszącymi wymierną wartość z innowacji i inwestycji cyfrowych.