W skrócie
- Zadania: Pracuj nad wdrażaniem i optymalizacją rozwiązań Generative AI.
- Firma: Intel - lider w technologii AI z innowacyjną kulturą pracy.
- Benefity: Atrakcyjne wynagrodzenie, elastyczne godziny pracy i możliwość nauki od ekspertów.
- Pozostałe informacje: Dynamiczne środowisko z możliwościami rozwoju kariery w branży technologicznej.
- Dlaczego ta praca: Zdobądź praktyczne doświadczenie w rozwijaniu nowoczesnych rozwiązań AI.
- Kwalifikacje: Znajomość AI, umiejętności programowania w Pythonie oraz doświadczenie w Linuxie.
Przewidywane wynagrodzenie mieści się w przedziale 16800 - 18900 zł za rok.
Dołącz do zespołu inżynierii ekosystemu oprogramowania Intel Datacenter i AI, aby przyspieszyć wdrażanie i optymalizację rozwiązań Generative AI. Ten staż koncentruje się na ocenie, benchmarkingu i optymalizacji obciążeń inferencyjnych dużych modeli językowych (LLM) na platformach Intel, wykorzystując nowoczesne frameworki serwisowe, takie jak vLLM, SGLang i OpenVINO.
Generative AI szybko przekształca aplikacje przedsiębiorstw, a organizacje coraz częściej wdrażają duże modele językowe (LLM) do zastosowań w zakresie sztucznej inteligencji, pozyskiwania wiedzy, rozwoju oprogramowania, generowania treści i inteligentnej automatyzacji. W miarę wzrostu rozmiarów modeli i adopcji przez użytkowników, dostarczanie niskolatencyjnej, kosztowo efektywnej i skalowalnej inferencji AI staje się kluczowym wyzwaniem.
Ten staż koncentruje się na opracowywaniu i walidacji nowoczesnych rozwiązań inferencyjnych AI z wykorzystaniem technologii takich jak vLLM, SGLang i OpenVINO. Praca będzie obejmować wdrażanie i benchmarking nowoczesnych LLM, analizowanie wydajności inferencji na platformach Intel, automatyzację testów i procesów wdrożeniowych oraz ocenę architektur AI w chmurze.
Co będziesz robić:
- Wdrażanie i ocena dużych modeli językowych przy użyciu frameworków takich jak vLLM, SGLang i OpenVINO.
- Mierzenie i optymalizacja metryk serwisowych, w tym przepustowości, latencji, TTFT, TPOT, współbieżności i wykorzystania zasobów.
- Opracowywanie zautomatyzowanych procesów benchmarkowych do charakteryzowania wydajności modeli na różnych konfiguracjach sprzętowych i programowych.
- Wdrażanie i ocena obciążeń AI w środowiskach AWS i Google Cloud Platform.
- Budowanie pipeline'ów CI/CD, automatyzacja testów i narzędzi infrastrukturalnych przy użyciu Jenkins, Pythona i środowisk opartych na Linuksie.
- Projektowanie i utrzymywanie systemów do przechowywania, zapytań i analizy danych benchmarkowych i telemetrycznych przy użyciu PostgreSQL i pokrewnych technologii.
- Badanie kompromisów między wydajnością, skalowalnością, dokładnością a kosztami w różnych scenariuszach wdrożeniowych.
Dlaczego ten staż?
- Praca nad rzeczywistymi wyzwaniami związanymi z wdrażaniem i optymalizacją inferencji Generative AI.
- Wkład w technologie, które pomagają klientom wdrażać i skalować rozwiązania AI na platformach Intel.
- Zdobycie praktycznej wiedzy na temat frameworków serwisowych LLM, infrastruktury chmurowej i wykonania.
- Możliwość nauki od ekspertów w dziedzinie systemów AI, inżynierii wydajności, chmur obliczeniowych i rozwoju oprogramowania.
- Rozwój umiejętności w zakresie AI, Linuksa, DevOps, chmur obliczeniowych, baz danych i automatyzacji infrastruktury.
- Budowanie głębokiej wiedzy na temat wdrażania i optymalizacji AI na procesorach Intel Xeon i rozwiązaniach oprogramowania AI Intel.
Wymagania:
- Silne podstawy w sztucznej inteligencji, uczeniu maszynowym, informatyce lub pokrewnej dziedzinie.
- Umiejętności programowania: biegłość w Pythonie i doświadczenie w rozwijaniu aplikacji oprogramowania oraz narzędzi automatyzacyjnych.
- Znajomość LLM: zrozumienie modeli generatywnych opartych na transformatorach, procesów inferencyjnych, tokenizacji, kwantyzacji i architektur serwisowych.
- Biegłość w Linuksie: doświadczenie w pracy w środowiskach Linuksowych, skryptowaniu powłoki, monitorowaniu systemu i rozwiązywaniu problemów.
- Aktualny status akademicki: obecnie zapisany na studia licencjackie, magisterskie lub doktoranckie w dziedzinie informatyki, sztucznej inteligencji, inżynierii oprogramowania lub pokrewnej dziedzinie.
Preferowane kwalifikacje:
- Doświadczenie z jednym z frameworków serwisowych LLM, takich jak vLLM, SGLang, TensorRT-LLM, TGI lub podobnymi.
- Doświadczenie w benchmarkingu i dostrajaniu wydajności obciążeń inferencyjnych AI.
- Podstawy chmury: doświadczenie z usługami AWS i/lub Google Cloud Platform.
- Znajomość DevOps: zrozumienie koncepcji CI/CD i narzędzi takich jak Jenkins, Git oraz zautomatyzowane procesy kontenerowe.
- Znajomość technik optymalizacji modeli, w tym kwantyzacji, przycinania, optymalizacji KV-cache i spekulacyjnego dekodowania.
- Doświadczenie w pracy z technologiami orkiestracji kontenerów, takimi jak Kubernetes i Docker.
- Doświadczenie w budowaniu interfejsów API i usług przy użyciu frameworków Pythona, takich jak FastAPI.
- Osobiste lub akademickie projekty związane z wdrażaniem LLM, generowaniem wzbogaconym o pozyskiwanie wiedzy (RAG), agentami AI lub optymalizacją inferencji.
Wykonaj kolejny krok w swojej karierze, dołączając do zespołu pasjonującego się rozwojem przyszłości oprogramowania AI. Ten staż oferuje unikalną możliwość rozwijania swoich umiejętności, przyczyniania się do wpływowych projektów i wzrastania w towarzystwie liderów branży.
AI Software Development Intern in Gdańsk – pracodawca: Intel Corporation
Intel w Gdańsku to doskonały pracodawca, który oferuje dynamiczne środowisko pracy, sprzyjające innowacjom i rozwojowi zawodowemu. Pracownicy mają dostęp do zaawansowanych narzędzi oraz możliwości współpracy z zespołami międzynarodowymi, co sprzyja wymianie wiedzy i doświadczeń. Dodatkowo, firma zapewnia konkurencyjne wynagrodzenie oraz bogaty pakiet benefitów, co czyni ją atrakcyjnym miejscem dla inżynierów zajmujących się rozwojem kompilatorów.
