Mid Data Engineer

Poszukujemy Data Engineer’a na poziomie Middle do współpracy przy realizacji projektu z obszaru Data Engineering i migracji danych do Google Cloud Platform.

Szukamy osoby, która dobrze czuje się w pracy z dużymi zbiorami danych, zna BigQuery i SQL, a także ma praktyczne doświadczenie w budowaniu i rozwijaniu procesów ETL/ELT oraz migracji rozwiązań z środowisk on-premise do chmury.

Forma współpracy:

• Model współpracy: B2B 

• Stawka: 147,20 zł netto/h

• Lokalizacja: Warszawa, z okresowymi wizytami w siedzibie klienta, średnio raz w tygodniu, zależnie od bieżących potrzeb projektowych.

W ramach współpracy będziesz odpowiadać m.in. za:

• projektowanie, implementację i rozwój rozwiązań Data Engineering na Google Cloud Platform, przede wszystkim z wykorzystaniem BigQuery, Cloud Storage i Pub/Sub;

• migrację i przebudowę procesów przetwarzania oraz zasilania danych z Oracle / środowisk on-premise do GCP;

• projektowanie i rozwój procesów batch oraz streaming, wraz z mechanizmami kontroli jakości, obsługi błędów i ponawiania operacji;

• projektowanie struktur i modeli danych w BigQuery, z uwzględnieniem wydajności, skalowalności oraz optymalizacji kosztów;

• analizę danych oraz przygotowywanie logicznych i fizycznych modeli danych dla Oracle, PostgreSQL i GCP;

• tworzenie, analizę i optymalizację zapytań SQL, w tym analizę planów wykonania i identyfikowanie wąskich gardeł przy dużych wolumenach danych;

• analizę istniejących procesów Informatica PowerCenter oraz ich migrację do rozwiązań docelowych w GCP;

• implementację logiki transformacji, walidacji i integracji danych w SQL i Python;

• wykonywanie analiz technicznych, analiz wpływu i zależności oraz udział w uzgadnianiu specyfikacji rozwiązania;

• przygotowywanie testów jednostkowych i integracyjnych oraz wsparcie testów systemowych, wydajnościowych, regresji i UAT;

• przygotowywanie zmian do wdrożenia, instrukcji wdrożeniowych oraz wsparcie wdrożeń i weryfikacji powdrożeniowej;

• diagnozowanie i usuwanie incydentów związanych z przetwarzaniem oraz jakością danych;

• tworzenie i aktualizację dokumentacji technicznej;

• pracę z repozytorium kodu oraz procesami CI/CD zgodnie z podejściem DevOps.

Czego oczekujemy?

• minimum 2 lata komercyjnego doświadczenia w projektowaniu i implementacji procesów integracji lub przetwarzania danych;

• doświadczenia odpowiadającego poziomowi Middle Data Engineer;

• praktycznej znajomości Google Cloud Platform, w szczególności:

  • BigQuery,

  • Cloud Storage,

  • Pub/Sub;

• praktycznego doświadczenia z Oracle, w tym tworzenia i optymalizacji zapytań SQL oraz pracy z dużymi wolumenami danych;

• doświadczenia z Informatica PowerCenter, pozwalającego na samodzielną analizę i modyfikację procesów ETL;

• znajomości SQL na poziomie pozwalającym na analizę, optymalizację i rozwój procesów przetwarzania danych;

• doświadczenia w pracy z procesami ETL/ELT, migracją danych i integracją systemów;

• znajomości Python w zakresie potrzebnym do implementacji logiki przetwarzania i transformacji danych;

• doświadczenia z testowaniem, dokumentowaniem i wdrażaniem rozwiązań danych.