W skrócie
- Zadania: Opracowywanie metod ewaluacji i adaptacji modeli AI w innowacyjnym projekcie badawczym.
- Firma: NASK-PIB, lider w dziedzinie sztucznej inteligencji i cyberbezpieczeństwa.
- Benefity: Atrakcyjne wynagrodzenie, elastyczne godziny pracy, prywatna opieka medyczna i dofinansowanie wypoczynku.
- Pozostałe informacje: Dynamiczne środowisko z możliwościami rozwoju kariery i wsparciem dla pracowników.
- Dlaczego ta praca: Pracuj nad przełomowymi technologiami i wpływaj na bezpieczeństwo społeczeństwa.
- Kwalifikacje: Doktorat w informatyce lub pokrewnych dziedzinach oraz doświadczenie w AI.
Przewidywane wynagrodzenie mieści się w przedziale 3600 - 4400 zł za miesiąc.
Kierownik projektu ogłasza konkurs na stanowisko typu post-doc o nazwie Ekspert ds. Sztucznej Inteligencji (k/M) w projekcie badawczym „Eval FM: Rzetelna ewaluacja bezpieczeństwa w modelach AI”, finansowanym z budżetu Narodowego Centrum Nauki (konkurs SONATA), prowadzonym przez NASK-PIB.
Gwałtowny rozwój modeli sztucznej inteligencji, a w szczególności modeli bazowych (ang. foundation models), zrewolucjonizował takie dziedziny, jak widzenie komputerowe czy przetwarzanie języka naturalnego. Jednak powszechnie stosowane strategie adaptacji, takie jak dostrajanie (ang. fine-tuning), wiążą się z istotnymi zagrożeniami. W szczególności dostrajanie może prowadzić do katastrofalnego zapominania, w tym utraty zgodności z założonymi wartościami (ang. misalignment) lub pojawiania się niebezpiecznych zachowań. Ponadto obecne praktyki ewaluacyjne pozostają niewystarczająco wiarygodne. Raportowane wzrosty skuteczności często mogą wynikać z zapamiętania danych wykorzystanych podczas pretreningu, a nie z rzeczywistej zdolności do generalizacji. Jest to szczególnie istotny problem w zastosowaniach związanych z bezpieczeństwem. Bez rygorystycznej ewaluacji deklaracje dotyczące odporności i wiarygodności modeli pozostają niepewne, narażając społeczeństwo na trudne do wykrycia zagrożenia.
CEL BADAWCZY - opracowanie metod wiarygodnej ewaluacji oraz bezpiecznej adaptacji modeli językowych, takich jak Mistral czy LLaMA. Projekt koncentruje się na poniższych kluczowych pytaniach badawczych:
- Ewaluacja - jak projektować benchmarki, które wiarygodnie mierzą rzeczywistą zdolność generalizacji, wolną od zanieczyszczenia danymi wykorzystanymi podczas pretreningu? Oraz jak wykrywać potencjalnie ukryte podatności w modelach?
- Adaptacja - jak dostrajać modele do zadań docelowych, zachowując jednocześnie ich zgodność z założonymi zasadami, odporność oraz bezpieczeństwo?
Metodyka będzie łączyć automatyczne wykrywanie i eliminowanie nakładania się danych treningowych i ewaluacyjnych, diagnostykę wewnętrznych aktywacji i zachowania modeli w celu identyfikacji ukrytych podatności. Ponadto rozwijane będą strategie dostrajania ograniczające katastrofalne zapominanie i pozwalające zachować zgodność z założonymi zasadami, odporność i bezpieczeństwo modelu podczas adaptacji do nowych zadań. Prace będą prowadzone na współczesnych modelach językowych, w tym multimodalnych.
Zakres prac w projekcie badawczym:
- Projektowanie, prowadzenie i analiza eksperymentów badawczych oraz rozwijanie metod zgodnych z celami projektu;
- Przygotowywanie publikacji naukowych i prezentowanie wyników badań;
- Wsparcie merytoryczne i techniczne doktoranta w bieżącej pracy badawczej, w tym pomoc w planowaniu eksperymentów i rozwiązywaniu problemów technicznych;
- Współpraca z kierownikiem projektu i doktorantem w zakresie planowania, koordynacji i monitorowania realizacji prac badawczych.
Oferujemy umowę o pracę na 25 miesięcy z wynagrodzeniem miesięcznym 16 000 - 17 800 PLN + 20% premii.
Nasze wymagania:
- Stopień naukowy doktora w dziedzinach: informatyka, matematyka, fizyka lub pokrewnych, uzyskany w roku zatrudnienia w projekcie lub w okresie 7 lat przed 1 stycznia roku zatrudnienia w projekcie (zgodnie z Regulaminem przyznawania środków na realizację zadań finansowanych przez NCN w zakresie projektów badawczych);
- Bardzo dobra znajomość Pythona i frameworków AI (PyTorch);
- Zaawansowane, praktyczne doświadczenie z trenowaniem dużych modeli i implementacji nowatorskich rozwiązań;
- Publikacje naukowe na wiodących konferencjach AI lub w odpowiadających czasopismach;
- Samodzielność w prowadzeniu badań;
- Znajomość języka angielskiego w stopniu komunikatywnym.
Termin przyjmowania zgłoszeń: 13 listopada 2026 r.
Termin rozstrzygnięcia konkursu: 27 listopada 2026 r.
Zapewniamy dobre warunki pracy. O właściwych ludzi trzeba odpowiednio dbać. Dlatego oferujemy cały szereg dodatkowych korzyści. Od szkoleń i kursów zawodowych, poprzez zajęcia z jogi i owocowe czwartki, po dofinansowaną kartę Multisport albo zwrot za bilety do kina czy teatru. To wszystko jest jednak dodatkiem do tego, że po prostu dobrze się z nami pracuje.
Elastyczne godziny pracy: Zaczynamy między 7 a 10 rano.
Równowaga między pracą a życiem: Dbamy o zachowanie zdrowego podejścia do obowiązków służbowych.
Szkolenia i konferencje: Daje możliwość podnoszenia swoich kompetencji. Działamy na pograniczu nauki, cyberbezpieczeństwa i nowych technologii.
Opieka medyczna: Każdy pracownik ma możliwość korzystania z prywatnej opieki medycznej.
Dofinansowanie wypoczynku: Zwracamy część kosztów związanych z urlopem (tzw. wakacje pod gruszą).
Ubezpieczenie na życie: Dajemy możliwość zawarcia dodatkowego ubezpieczenia na życie.
Ekspert ds. sztucznej inteligencji (Post-doc) K/M in Katowice – pracodawca: Nask
NASK w Warszawie to doskonały pracodawca, który stawia na rozwój swoich pracowników oraz elastyczność w organizacji pracy. Oferujemy bogaty pakiet benefitów, w tym dofinansowanie kart Multisport, prywatną opiekę medyczną oraz ubezpieczenie na życie, co sprawia, że praca u nas jest nie tylko satysfakcjonująca, ale i komfortowa. Nasza kultura pracy sprzyja współpracy i ciągłemu doskonaleniu, co czyni nas idealnym miejscem dla osób poszukujących znaczącego zatrudnienia w obszarze archiwizacji.
