Mid Data Engineer

Poszukujemy Data Engineer’a na poziomie Middle do współpracy przy realizacji projektu z obszaru Data Engineering i migracji danych do Google Cloud Platform .

Szukamy osoby, która dobrze czuje się w pracy z dużymi zbiorami danych, znaBigQuery i SQL , a także ma praktyczne doświadczenie w budowaniu i rozwijaniu procesów ETL/ELT oraz migracji rozwiązań z środowisk on-premise do chmury.

Forma współpracy:

• Model współpracy: B2B
• Stawka: 147,20 zł netto/h
• Lokalizacja: Warszawa, z okresowymi wizytami w siedzibie klienta , średnio raz w tygodniu, zależnie od bieżących potrzeb projektowych.

W ramach współpracy będziesz odpowiadać m.in. za:

• projektowanie, implementację i rozwój rozwiązań Data Engineering na Google Cloud Platform , przede wszystkim z wykorzystaniem BigQuery, Cloud Storage i Pub/Sub ;
• migrację i przebudowę procesów przetwarzania oraz zasilania danych z Oracle / środowisk on-premise do GCP ;
• projektowanie i rozwój procesów batch oraz streaming , wraz z mechanizmami kontroli jakości, obsługi błędów i ponawiania operacji;
• projektowanie struktur i modeli danych w BigQuery , z uwzględnieniem wydajności, skalowalności oraz optymalizacji kosztów;
• analizę danych oraz przygotowywanie logicznych i fizycznych modeli danych dla Oracle, PostgreSQL i GCP ;
• tworzenie, analizę i optymalizację zapytań SQL , w tym analizę planów wykonania i identyfikowanie wąskich gardeł przy dużych wolumenach danych;
• analizę istniejących procesów Informatica PowerCenter oraz ich migrację do rozwiązań docelowych w GCP;
• implementację logiki transformacji, walidacji i integracji danych w SQL i Python ;
• wykonywanie analiz technicznych, analiz wpływu i zależności oraz udział w uzgadnianiu specyfikacji rozwiązania;
• przygotowywanie testów jednostkowych i integracyjnych oraz wsparcie testów systemowych, wydajnościowych, regresji i UAT;
• przygotowywanie zmian do wdrożenia, instrukcji wdrożeniowych oraz wsparcie wdrożeń i weryfikacji powdrożeniowej;
• diagnozowanie i usuwanie incydentów związanych z przetwarzaniem oraz jakością danych;
• tworzenie i aktualizację dokumentacji technicznej;
• pracę z repozytorium kodu oraz procesami CI/CD zgodnie z podejściem DevOps.

Czego oczekujemy?

• minimum 2 lata komercyjnego doświadczenia w projektowaniu i implementacji procesów integracji lub przetwarzania danych;
• doświadczenia odpowiadającego poziomowi Middle Data Engineer ;
• praktycznej znajomości Google Cloud Platform , w szczególności:
  • BigQuery,
  • Cloud Storage,
  • Pub/Sub;
• praktycznego doświadczenia z Oracle , w tym tworzenia i optymalizacji zapytań SQL oraz pracy z dużymi wolumenami danych;
• doświadczenia z Informatica PowerCenter , pozwalającego na samodzielną analizę i modyfikację procesów ETL;
• znajomości SQL na poziomie pozwalającym na analizę, optymalizację i rozwój procesów przetwarzania danych;
• doświadczenia w pracy z procesami ETL/ELT , migracją danych i integracją systemów;
• znajomości Python w zakresie potrzebnym do implementacji logiki przetwarzania i transformacji danych;
• doświadczenia z testowaniem, dokumentowaniem i wdrażaniem rozwiązań danych.