W skrócie
- Zadania: Twórz i utrzymuj benchmarki cyberbezpieczeństwa dla modeli AI.
- Firma: Innowacyjna firma technologiczna z kulturą współpracy.
- Benefity: Praca z najnowszymi technologiami i możliwość rozwoju zawodowego.
- Pozostałe informacje: Możliwość pracy w międzynarodowym zespole i codziennego używania języków obcych.
- Dlaczego ta praca: Wpływaj na bezpieczeństwo AI i rozwijaj swoje umiejętności w dynamicznym środowisku.
- Kwalifikacje: Wykształcenie w informatyce lub pokrewnych dziedzinach oraz umiejętności programowania.
Przewidywane wynagrodzenie mieści się w przedziale 135000 - 165000 zł za rok.
Opis: Poszukujemy inżyniera bezpieczeństwa AI, który oceni zdolności cyberbezpieczeństwa i bezpieczeństwo modeli AI na granicy. Rola będzie koncentrować się na opracowywaniu wewnętrznych benchmarków cybernetycznych oraz testowaniu, jak dobrze zabezpieczenia modeli odrzucają prośby związane z cyberbezpieczeństwem. Praca ta pomoże firmie w ocenie i bezpiecznym wdrażaniu modeli AI w całym przedsiębiorstwie.
Zadania:
- Projektowanie, budowanie i utrzymywanie wewnętrznych benchmarków, które mierzą zdolności cybernetyczne modeli na granicy.
- Opracowywanie i uruchamianie zestawów testowych, które mierzą wskaźniki odrzucenia dla prośb naruszających politykę, w tym prośby o charakterze adwersarialnym i jailbreak.
- Utrzymywanie zbiorów danych do oceny, metod oceniania i narzędzi, aby testy były powtarzalne w różnych wersjach modeli i dostawcach.
- Współpraca z zespołami wewnętrznymi i interesariuszami, takimi jak zarządzanie ryzykiem modeli, zarządzanie i zespoły technologiczne, aby zrozumieć potrzeby oceny i wspierać bezpieczne wdrażanie AI.
- Jasne komunikowanie wyników zarówno do odbiorców technicznych, jak i nietechnicznych poprzez raporty, pulpity nawigacyjne i prezentacje, w tym zalecenia do działania.
- Zestaw wewnętrznych benchmarków cybernetycznych, które mierzą zdolności modeli na granicy w określonych zadaniach bezpieczeństwa, z udokumentowaną metodologią i kryteriami oceniania.
- Powtarzalna struktura testowania zabezpieczeń, która mierzy, jak modele reagują na zadania związane z cyberbezpieczeństwem w określonych kategoriach ryzyka, potwierdzając, że odrzucają lub stosują się odpowiednio do każdej z nich.
- Utrzymywana biblioteka zbiorów danych do oceny i podpowiedzi testowych przypisanych do każdej kategorii ryzyka, wersjonowanych, aby wyniki mogły być porównywane w czasie.
- Narzędzia wspierające i dokumentacja, które pozwalają zespołom na samodzielne przeprowadzanie ocen.
Wymagania:
- Dyplom licencjata lub magistra w dziedzinie informatyki, inżynierii oprogramowania, cyberbezpieczeństwa, nauki o danych, sztucznej inteligencji lub pokrewnej dziedziny.
Będzie plusem:
- Praktyczne doświadczenie w cyberbezpieczeństwie w obszarach takich jak bezpieczeństwo ofensywne, testowanie penetracyjne, red teaming lub badania podatności;
- Biegłość w Pythonie lub innym języku programowania do budowania zestawów testowych, automatyzacji zadań i analizy wyników;
- Silne umiejętności pisemnej komunikacji do dokumentowania metod i wyników;
- Doświadczenie w korzystaniu z dużych modeli językowych, znajomość oceny modeli lub testowania bezpieczeństwa AI, lub silna ciekawość i umiejętność szybkiego uczenia się, jak te modele działają i jak je oceniać;
- Doświadczenie w pracy z API i budowaniu automatyzacji wokół nich.
Warunki:
- Współpraca na podstawie umowy B2B.
- Możliwość codziennego korzystania z języków obcych i najnowszych technologii.
AI Security Engineer in Warsaw – pracodawca: Tata Consultancy Services Limited
Nasza firma to doskonały pracodawca, który oferuje wyjątkowe możliwości rozwoju zawodowego w dynamicznym środowisku IT. Pracując jako Service Desk Analyst, będziesz częścią zgranego zespołu, który ceni współpracę i komunikację, a także korzysta z nowoczesnych technologii oraz języków obcych na co dzień. Oferujemy elastyczny model pracy hybrydowej, konkurencyjne wynagrodzenie oraz dostęp do szerokiej gamy benefitów, co sprawia, że praca u nas jest nie tylko satysfakcjonująca, ale i pełna możliwości.
Dane kontaktowe:
Zespół rekrutacyjny Tata Consultancy Services Limited
