W skrócie
- Zadania: Twórz oceny dotyczące rozumowania koncepcyjnego w bezpieczeństwie AI.
- Firma: Innowacyjny startup zajmujący się bezpieczeństwem AI z dynamiczną kulturą pracy.
- Benefity: Wysokie wynagrodzenie, elastyczne godziny pracy i możliwość pracy zdalnej.
- Pozostałe informacje: Możliwość pracy z zespołem ekspertów z najlepszych uniwersytetów.
- Dlaczego ta praca: Pracuj nad ważnymi problemami w AI i wpływaj na przyszłość technologii.
- Kwalifikacje: Doświadczenie w badaniach nad AI, umiejętność oceny argumentów i tworzenia rubryk.
Przewidywane wynagrodzenie mieści się w przedziale 80 - 150 zł za godzinę.
Engagement: Umowa godzinowa, 20–40+ godzin tygodniowo
Start: ASAP
Długość umowy: ~3 miesiące, z możliwością przedłużenia
Raportuje do: Ryan Carey (MTS, szef ds. rozumowania koncepcyjnego)
Lokalizacja: Zdalnie lub na miejscu w Constellation w Berkeley
Wynagrodzenie: $80–150/h
Overview: Trajectory Labs zatrudnia badaczy do projektowania ocen rozumowania koncepcyjnego w bezpieczeństwie AI — trudne, otwarte problemy w zakresie zarządzania AI, dostosowania, makrostrategii i ekonomii, każda para z rubryką, która oddziela prawdziwe rozumowanie od brzmiącego wiarygodnie wypełniacza. Będziesz pracować 20–40+ godzin tygodniowo, zdalnie lub razem z nami w Constellation w Berkeley.
O nas: Naszą misją jest automatyzacja bezpieczeństwa AI, aby utorować drogę do przyszłości, w której większość pracy związanej z bezpieczeństwem AI będzie wykonywana przez modele AI. W tym celu budujemy oceny bezpieczeństwa i dostosowania, programy red-teamingowe oraz środowiska RL dla czołowych laboratoriów AI.
O roli: Z czasem ważne jest, abyśmy mogli wydawać pieniądze na uzyskanie użytecznej pracy związanej z bezpieczeństwem AI z modeli AI, co wymaga, aby stały się one lepsze w trudnych do nadzorowania, niejednoznacznych zadaniach w zakresie bezpieczeństwa AI i pokrewnych dziedzinach. Współpracujemy z czołowymi laboratoriami AI, aby zamknąć tę lukę.
Co będziesz robić:
- Znajdź trudne pytania koncepcyjne w zakresie bezpieczeństwa AI — dostosowanie, makrostrategia, ekonomia, zarządzanie — gdzie modele czołowe nadal źle rozumują
- Przekształć każde z nich w zadanie oceniające: dobrze postawiony problem i opiniotwórczą rubrykę, która nagradza doskonałe rozumowanie i karze za niedbałość
- Uruchom swoje zadania przeciwko modelom czołowym i iteruj, aż wyniki oddzielą mocne odpowiedzi od brzmiących wiarygodnie słabych
- Przeprowadzaj szczegółowe QA — zadania są wysyłane po przeglądzie, a nie po pierwszym szkicu
Co nas interesuje: Szukamy badaczy w dowolnej z czterech poniższych dziedzin lub pokrewnych, którzy mają silne, obronne opinie na temat tego, jak wygląda dobre rozumowanie w ich konkretnej dziedzinie ekspertyzy.
- Zarządzanie: zarządzanie obliczeniowe i weryfikacja, międzynarodowe umowy i bezpieczeństwo, prawo AI i instytucje
- Bezpieczeństwo AI i dostosowanie: teoria dostosowania, kontrola i nadzór AI, oceny, psychologia modeli i dobrostan AI
- Filozofia i makrostrategia: etyka, moralny status AI, dynamika przejęcia, koncentracja władzy i długoterminowe trajektorie
- Ekonomia i teoria decyzji: teoria wzrostu, wpływ AI na pracę i kapitał, teoria gier i projektowanie mechanizmów, teoria decyzji
Wymagania:
- Głębokość w dziedzinie: stworzyłeś oryginalną analizę ryzyka AI, dostosowania, makrostrategii, ekonomii lub zarządzania, którą popierasz.
- Artikulowana estetyka: potrafisz powiedzieć, dlaczego jeden argument w swojej dziedzinie jest lepszy od innego, wystarczająco precyzyjnie, aby zakodować go w rubryce.
- Kalibracja pod presją: poprawiasz swoje osądy, gdy argument przeciwko niemu jest dobry, i bronisz go powodami, gdy nie jest.
- Badania natywne dla agentów: pracujesz płynnie z modelami czołowymi i narzędziami agentów — uzyskujesz rzeczywistą dźwignię z Claude Code lub podobnych w swojej pracy i potrafisz odróżnić wyniki, które są poprawne, od tych, które tylko brzmią poprawnie.
Preferencje:
- Doświadczenie badawcze na poziomie doktoratu. Cały nasz personel CR studiował i/lub pracował na najlepszych uniwersytetach, ale doktorat nie jest twardym wymaganiem.
- Doświadczenie w pisaniu rubryk oceniania, pytań egzaminacyjnych lub kryteriów oceny
- Prace recenzowane lub szeroko cytowane w jednej z powyższych dziedzin
- Doświadczenie w korzystaniu z modeli czołowych do odpowiadania na skomplikowane pytania w swoich badaniach
Podsumowanie roli: Twoje gusta w argumentach są kodowane w ocenach, przeciwko którym laboratoria czołowe trenują i mierzą, pętla informacji zwrotnej jest krótka — zadanie przechodzi od szkicu do ocenionych uruchomień modelu w ciągu kilku dni — a Ty ustalasz własne godziny.
Pracuj z naszym najlepszym zespołem badawczym, w tym doktorami lub stypendystami badawczymi z Uniwersytetu Oksfordzkiego (x4) i LSE (x2) oraz wiodącymi postaciami w swojej dziedzinie.
Inne szczegóły: Przyjazne dla zdalnych pracowników, asynchroniczne domyślnie; dostępna przestrzeń biurowa w Constellation w Berkeley. 20–40+ godzin tygodniowo, elastyczne w miarę zmiany dostępności. Rozpoczyna się natychmiast, przegląd w trybie ciągłym.
Conceptual Reasoning Researcher in Katowice – pracodawca: Trajectory Labs
Trajectory Labs to atrakcyjny pracodawca, oferujący elastyczne godziny pracy oraz możliwość pracy zdalnej lub na miejscu w Berkeley. Jako startup w fazie wczesnego rozwoju, pracownicy mogą liczyć na dynamiczny rozwój kariery oraz różnorodne wyzwania związane z bezpieczeństwem AI. Firma stawia na innowacyjność i kreatywność, co sprzyja twórczej atmosferze pracy.
