W skrócie
- Zadania: Pracuj nad innowacyjnymi metodami ewaluacji modeli AI i ich bezpieczeństwa.
- Firma: NASK-PIB, lider w badaniach nad sztuczną inteligencją.
- Benefity: Stypendium do 6500 PLN, elastyczne godziny pracy i rozwój naukowy.
- Pozostałe informacje: Doskonałe możliwości kariery i wsparcie dla aktywności sportowych.
- Dlaczego ta praca: Zmieniaj świat AI, pracując nad kluczowymi problemami bezpieczeństwa.
- Kwalifikacje: Studia w informatyce, fizyce lub matematyce oraz znajomość Pythona.
Przewidywane wynagrodzenie mieści się w przedziale 63000 - 77000 zł za rok.
Kierownik projektu ogłasza konkurs na 1 stypendium w projekcie badawczym „Eval FM: Rzetelna ewaluacja bezpieczeństwa w modelach AI”, finansowanym z budżetu Narodowego Centrum Nauki (konkurs SONATA), prowadzonym przez NASK-PIB.
Gwałtowny rozwój modeli sztucznej inteligencji, a w szczególności modeli bazowych (ang. foundation models), zrewolucjonizował takie dziedziny, jak widzenie komputerowe czy przetwarzanie języka naturalnego. Jednak powszechnie stosowane strategie adaptacji, takie jak dostrajanie (ang. fine-tuning), wiążą się z istotnymi zagrożeniami. W szczególności dostrajanie może prowadzić do katastrofalnego zapominania, w tym utraty zgodności z założonymi wartościami (ang. misalignment) lub pojawiania się niebezpiecznych zachowań. Ponadto obecne praktyki ewaluacyjne pozostają niewystarczająco wiarygodne. Raportowane wzrosty skuteczności często mogą wynikać z zapamiętania danych wykorzystanych podczas pretreningu, a nie z rzeczywistej zdolności do generalizacji. Jest to szczególnie istotny problem w zastosowaniach związanych z bezpieczeństwem. Bez rygorystycznej ewaluacji deklaracje dotyczące odporności i wiarygodności modeli pozostają niepewne, narażając społeczeństwo na trudne do wykrycia zagrożenie.
CEL BADAWCZY - opracowanie metod wiarygodnej ewaluacji oraz bezpiecznej adaptacji modeli językowych, takich jak Mistral czy LLaMA. Projekt koncentruje się na poniższych kluczowych pytaniach badawczych:
- Ewaluacja - jak projektować benchmarki, które wiarygodnie mierzą rzeczywistą zdolność generalizacji, wolną od zanieczyszczenia danymi wykorzystanymi podczas pretreningu? Oraz jak wykrywać potencjalnie ukryte podatności w modelach?
- Adaptacja - jak dostrajać modele do zadań docelowych, zachowując jednocześnie ich zgodność z założonymi zasadami, odporność oraz bezpieczeństwo?
Metodyka będzie łączyć automatyczne wykrywanie i eliminowanie nakładania się danych treningowych i ewaluacyjnych, diagnostykę wewnętrznych aktywacji i zachowania modeli w celu identyfikacji ukrytych podatności. Ponadto rozwijane będą strategie dostrajania ograniczające katastrofalne zapominanie i pozwalające zachować zgodność z założonymi zasadami, odporność i bezpieczeństwo modelu podczas adaptacji do nowych zadań. Prace będą prowadzone na współczesnych modelach językowych, w tym multimodalnych.
Zakres prac stypendysty/stypendystki w projekcie badawczym:
- Implementacja algorytmów dostrajania oraz ewaluacji modelu AI;
- Badanie bezpieczeństwa modeli AI;
- Przygotowywanie prototypów i przeprowadzanie testów proponowanych rozwiązań; raportowanie wyników;
- Rozpowszechnianie wyników badań naukowych poprzez prezentowanie proponowanych koncepcji na wiodących konferencjach naukowych AI;
Nasze wymagania:
- Status studenta/-tki (ukończone studia I stopnia w dziedzinach: informatyka, fizyka, matematyka, lub pokrewne) lub status doktoranta/-tki w wymienionych dziedzinach;
- Wiedza z dziedziny uczenia głębokiego;
- Praktyczne doświadczenie z Python oraz wybranymi frameworkami (PyTorch, Tensorflow);
- Znajomość języka angielskiego w stopniu komunikatywnym;
- Doświadczenie publikacyjne będzie dodatkowym atutem;
Termin przyjmowania zgłoszeń: 28 października 2026 r. Termin rozstrzygnięcia konkursu: 13 listopada 2026 r.
Stypendium w wysokości: 5000 PLN (student/-tka studiów magisterskich) lub 6500 PLN (doktorant/-tka) miesięcznie;
Okres trwania stypendium: maksymalnie do 22 września 2029 r.;
Możliwość rozwoju naukowego pod kierunkiem doświadczonych badaczy;
Stypendium może być wypłacone wyłącznie doktorantowi/-tce przy założeniu, że doktorant/-tka spełnia wymagania określone stosownymi przepisami ustawy z dnia 20 lipca 2018 r. Prawo o szkolnictwie wyższym i nauce (t.j. Dz. U. z 2023 r. poz. 742 z późn. zm.) niezbędne do pobierania stypendium doktoranckiego przez cały okres realizacji planowanych zadań w projekcie.
Zapewniamy dobre warunki pracy. O właściwych ludzi trzeba odpowiednio dbać. Dlatego oferujemy cały szereg dodatkowych korzyści, od szkoleń i kursów zawodowych, poprzez zajęcia z jogi i owocowe czwartki, po dofinansowaną kartę Multisport albo zwrot za bilety do kina czy teatru. To wszystko jest jednak dodatkiem do tego, że po prostu dobrze się z nami pracuje.
Elastyczne godziny pracy: Zaczynamy między 7 a 10 rano.
Równowaga między pracą a życiem: Dbamy o zachowanie zdrowego podejścia do obowiązków służbowych.
Szkolenia i konferencje: Daje możliwość podnoszenia swoich kompetencji.
Działamy na pograniczu nauki, cyberbezpieczeństwa i nowych technologii.
Opieka medyczna: Każdy pracownik ma możliwość korzystania z prywatnej opieki medycznej.
Zachęcamy do aktywności sportowej lub uzyskania zwrotu za wydatki poniesione na kulturę.
Dofinansowanie wypoczynku: Zwracamy część kosztów związanych z urlopem (tzw. wakacje pod gruszą).
Ubezpieczenie na życie: Dajemy możliwość zawarcia dodatkowego ubezpieczenia na życie.
Konkurs - stypendium w projekcie badawczym in Katowice – pracodawca: Nask
NASK w Warszawie to doskonały pracodawca, który stawia na rozwój swoich pracowników oraz elastyczność w organizacji pracy. Oferujemy bogaty pakiet benefitów, w tym dofinansowanie kart Multisport, prywatną opiekę medyczną oraz ubezpieczenie na życie, co sprawia, że praca u nas jest nie tylko satysfakcjonująca, ale i komfortowa. Nasza kultura pracy sprzyja współpracy i ciągłemu doskonaleniu, co czyni nas idealnym miejscem dla osób poszukujących znaczącego zatrudnienia w obszarze archiwizacji.
