Banco Mercantil del Norte, S.A.
Softgic
Senior Data Engineer – Data Quality & Observability | 1789
Über die Stelle
Haben Sie eine Leidenschaft für den Aufbau zuverlässiger, skalierbarer Datenplattformen und die Verbesserung der Datenqualität auf Unternehmensebene? Wir suchen einen Senior Data Engineer – Data Quality & Observability, der die Implementierung eines modernen Data-Quality-Frameworks leitet und es den Engineering-Teams ermöglicht, Datenprobleme zu erkennen, zu überwachen und zu verhindern, bevor sie den Geschäftsbetrieb beeinträchtigen.
In dieser Rolle treiben Sie die Implementierung von Data-Quality-Praktiken, die von den Ingenieuren verantwortet werden, voran, operationalisieren GX Core, legen Validierungsstandards fest und bauen Observability-Lösungen, die das Vertrauen in Berichterstattung, Synchronisationsprozesse und operative Arbeitsabläufe verbessern.
Aufgaben
- Entwurf und Implementierung eines skalierbaren Data-Quality-Frameworks auf der gesamten Plattform.
- Leitung der Implementierung und Operationalisierung von GX Core (Great Expectations) als primäres Datenvalidierungsframework.
- Entwicklung und Pflege wiederverwendbarer Data-Quality-Regeln nach dem Rule-as-Code-Ansatz.
- Erstellung automatisierter Validierungsprüfungen für geschäftskritische Datensätze und Arbeitsabläufe.
- Implementierung von Data Observability, Monitoring, Alerting und Reporting-Lösungen.
- Definition und Pflege der Datenherkunft (Data Lineage) über Schlüsselgeschäftsbereiche hinweg.
- Entwurf von Validierungsprozessen für Datenvollständigkeit, Genauigkeit, Integrität, Konsistenz, Abgleich, Aktualität und Anomalieerkennung.
- Integration von Data-Quality-Validierungen in CI/CD-Pipelines und Release-Prozesse.
- Entwicklung von Dashboards und Berichten zur Überwachung von Data-Quality-Trends und der operativen Gesundheit.
- Untersuchung der Grundursachen wiederkehrender Datenprobleme und Implementierung präventiver Lösungen.
- Zusammenarbeit mit Data Engineering, Application Engineering, QA, Produkt- und Support-Teams zur Festlegung von Zuständigkeiten und Governance für Datenqualität.
- Definition von Standards für Governance, Validierungshäufigkeit, Remediation-Workflows und Qualitätsmetriken.
- Kontinuierliche Verbesserung von Data-Quality-Prozessen und Etablierung langfristiger Best Practices für Observability.
Anforderungen
- 5+ Jahre Erfahrung als Data Engineer oder in ähnlichen Data-Engineering-Rollen.
- Umfangreiche Erfahrung im Entwurf und der Implementierung von Data-Quality-Frameworks auf Unternehmensebene.
- Praktische Erfahrung mit GX Core (Great Expectations) oder ähnlichen Tools wie Soda.
- Starke SQL-Kenntnisse und Erfahrung mit Aurora PostgreSQL und Amazon Redshift.
- Erfahrung im Entwurf von Datenvalidierungsregeln, Abgleichprozessen und Observability-Lösungen.
- Erfahrung im Aufbau und der Wartung von ETL-Pipelines und groß angelegten Datenworkflows.
- Gutes Verständnis von Datenmodellierung, referenzieller Integrität, Synchronisation und Batch-Verarbeitung.
- Erfahrung mit der Integration von Datenvalidierungen in CI/CD-Pipelines.
- Erfahrung mit Git und Best Practices im Engineering wie Rule-as-Code.
- Erfahrung im Aufbau von Dashboards, Alerts und Berichten für das operative Monitoring.
- Starke analytische Fähigkeiten und Problemlösungskompetenz mit Erfahrung in der Ursachenanalyse.
- Erfahrung in der Zusammenarbeit mit funktionsübergreifenden Engineering-Teams.
- Ausgezeichnete Kommunikations- und Dokumentationsfähigkeiten.
Was wir bieten
- ? Vollständig remote Position.
- ? Möglichkeit, unternehmensweite Lösungen für Datenqualität und Observability zu entwickeln.
- ? Bedeutende Rolle mit Verantwortung für die Data-Quality-Strategie und Best Practices im Engineering.
- ? Kollaborative Umgebung in Zusammenarbeit mit den Teams Data Engineering, QA, Produkt und Application Engineering.
- ? Möglichkeit, mit modernen Technologien für Datenvalidierung, Observability und Cloud-Daten zu arbeiten und gleichzeitig kontinuierliche Verbesserungen auf der gesamten Plattform voranzutreiben.
