Data Engineer

Nasze wymagania

• Oczekiwane jest minimum 2-letnie komercyjne doświadczenie w projektowaniu i implementacji procesów integracji lub przetwarzania danych, przy czym dominująca część praktycznego doświadczenia powinna dotyczyć Google Cloud Platform oraz pracy z BigQuery, Cloud Storage i Pub/Sub.
• Wykonawca usługi powinien posiadać praktyczne doświadczenie z Oracle, w tym w tworzeniu oraz optymalizacji zapytań SQL i pracy z dużymi wolumenami danych.

Mile widziane

• Mile widziane jest również doświadczenie developerskie z Informatica PowerCenter pozwalające na samodzielną analizę i modyfikację procesów ETL, jednak technologia ta nie stanowi głównego obszaru roli.

Twój zakres obowiązków

• Projektowanie, implementację i rozwój rozwiązań Data Engineering na Google Cloud Platform, przede wszystkim z wykorzystaniem BigQuery, Cloud Storage i Pub/Sub;
• Migrację i przebudowę procesów przetwarzania oraz zasilania danych z Oracle/on-premise do GCP;
• Projektowanie i rozwój procesów wsadowych (batch) oraz strumieniowych (streaming), wraz z mechanizmami kontroli jakości, ponawiania i obsługi błędów;
• Projektowanie struktur i modeli danych w BigQuery z uwzględnieniem wydajności, skalowalności oraz kosztu przetwarzania i składowania danych;
• Analiza danych oraz przygotowywanie logicznych i fizycznych modeli danych dla Oracle, PostgreSQL i warstw danych w GCP;
• Tworzenie, analiza i strojenie zapytań SQL, w tym analizę planów wykonania i identyfikowanie wąskich gardeł dla dużych wolumenów danych;
• Analiza istniejących procesów Informatica PowerCenter i migrację do rozwiązań docelowych w GCP;
• Implementacja logiki transformacji, walidacji i integracji danych w SQL oraz Python, jeżeli wynika to z projektowanego rozwiązania;
• Wykonywanie analizy technicznej, analizy wpływu i zależności oraz udział w uzgadnianiu specyfikacji rozwiązania;
• Przygotowywanie testów jednostkowych i integracyjnych oraz wsparcie testów systemowych, wydajnościowych, regresji i UAT;
• Przygotowanie zmian do wdrożenia, instrukcji wdrożenia oraz wsparcie wdrożenia i weryfikacji powdrożeniowej;
• Diagnozowanie i usuwanie incydentów oraz udział w analizie przyczyn problemów związanych
• z przetwarzaniem i jakością danych;
• Tworzenie i aktualizacja dokumentacji technicznej oraz pracę z repozytorium kodu i procesami CI/CD zgodnie z modelem DevOps.

O projekcie

Tak organizujemy naszą pracę

Takie dajemy możliwości rozwoju

• budżet rozwojowy
• konferencje w Polsce
• wspieramy wydarzenia dla IT
• wymiana wiedzy technicznej w firmie

Benefity

• dofinansowanie zajęć sportowych
• prywatna opieka medyczna
• dofinansowanie nauki języków
• owoce
• spotkania integracyjne
• siłownia w biurze
• kawa / herbata
• napoje
• świętowanie urodzin
• program rekomendacji pracowników

Etapy rekrutacji

• 1.
  Rozmowa telefoniczna – wstępna rozmowa z Rekruterem
• 2.
  Rozmowa kwalifikacyjna – spotkanie z przedstawicielem firmy

Integral Solutions