BigData Engineer (Python + Spark) in Warsaw

BigData Engineer (Python + Spark) in Warsaw

Warsaw Pełny etat 62100 - 75900 zł / rok (szac.) Stacjonarnie
I

W skrócie

  • Zadania: Twórz i utrzymuj potoki danych oraz aplikacje przy użyciu Pythona i Apache Spark.
  • Firma: Wiodąca firma bankowa w Polsce z nowoczesnymi projektami.
  • Benefity: Atrakcyjne wynagrodzenie, elastyczne godziny pracy i możliwość rozwoju zawodowego.
  • Pozostałe informacje: Dynamiczne środowisko z możliwością pracy zdalnej co drugi tydzień.
  • Dlaczego ta praca: Pracuj nad innowacyjnymi rozwiązaniami Big Data i wpływaj na kluczowe procesy biznesowe.
  • Kwalifikacje: Minimum 3 lata doświadczenia w programowaniu w Pythonie lub Scali oraz znajomość technologii Big Data.

Przewidywane wynagrodzenie mieści się w przedziale 62100 - 75900 zł za rok.

Poszukujemy wykwalifikowanego inżyniera Big Data do dołączenia do ekscytującego projektu dla wiodącego klienta bankowego, jednego z czołowych graczy na polskim rynku. Będziesz pracować nad budowaniem i ulepszaniem rozwiązań Big Data, które wspierają kluczowe procesy biznesowe, wykorzystując nowoczesne technologie i najlepsze praktyki inżynieryjne. To możliwość pracy w Warszawie. Zespół odwiedza biuro raz na dwa tygodnie.

Obowiązki:

  • Pisanie i utrzymywanie potoków danych oraz aplikacji przy użyciu Pythona
  • Praca z Apache Spark i innymi narzędziami Big Data w celu przetwarzania dużych ilości danych
  • Używanie zasad hurtowni danych, aby dane były dobrze zorganizowane i wiarygodne
  • Przestrzeganie dobrych praktyk inżynieryjnych: czytelny kod, odpowiednie testowanie, dokumentacja i czysty design
  • Obsługa różnych formatów danych, takich jak JSON, Parquet, ORC i Avro
  • Pisanie i poprawianie zapytań SQL w celu efektywnej pracy z danymi
  • Łączenie danych z różnych źródeł w jeden system

Idealny kandydat powinien mieć:

  • Minimum 3-letnie doświadczenie w programowaniu w Pythonie lub Scali
  • Doświadczenie komercyjne i znajomość technologii Big Data, Spark jest koniecznością
  • Znajomość zasad hurtowni danych
  • Znajomość dobrych praktyk inżynieryjnych, przetwarzania Big Data, w tym standardów projektowania, technik modelowania danych, kodowania, dokumentacji, testowania i wdrażania
  • Doświadczenie z różnymi formatami danych: JSON, PARQUET, ORC, AVRO
  • Zrozumienie typów baz danych i scenariuszy ich użycia, np. Hive, Kudu, HBase, Iceberg itp.
  • Zaawansowana znajomość SQL
  • Doświadczenie w integracji danych z wielu źródeł danych
  • Znajomość narzędzi do budowania projektów/aplikacji, np. Maven
  • Zaawansowana znajomość języka polskiego i dobra znajomość języka angielskiego

Silnym atutem będzie:

  • Praktyczna znajomość procesów i narzędzi Agile: Jira, Confluence, Kanban, Scrum itp.
  • Znajomość platformy Kubeflow
  • Znajomość technologii i narzędzi strumieniowych, takich jak Kafka, Apache Nifi

BigData Engineer (Python + Spark) in Warsaw – pracodawca: Integral Solutions - Informatica Distributor

Integral Solutions to doskonały pracodawca, który oferuje wyjątkowe możliwości rozwoju zawodowego w dynamicznym środowisku. Pracując w Warszawie, będziesz częścią zespołu ekspertów, realizujących innowacyjne projekty dla największych organizacji w Polsce i za granicą, z dostępem do szkoleń oraz benefitów takich jak prywatne ubezpieczenie medyczne i karta Multisport. Nasza kultura pracy opiera się na współpracy, samodzielności oraz ciągłym doskonaleniu umiejętności, co czyni nas idealnym miejscem dla ambitnych profesjonalistów w dziedzinie integracji danych.

I

Dane kontaktowe:

Zespół rekrutacyjny Integral Solutions - Informatica Distributor

Naszym zdaniem te umiejętności pozwolą ci błyszczeć jako BigData Engineer (Python + Spark) in Warsaw

Python
Apache Spark
Big Data technologies
Data Warehouse principles
SQL
JSON
Parquet