DYMATRIX GmbH
Rhenus Logistics
Engenheiro(a) de Dados (w/m/d)
PythonAWSKubernetes
Tradução automática. Consulte o original.
O que você pode esperar
- Você desenvolve e opera pipelines de dados em nossa Plataforma de Dados Empresarial (EDP) nativa da nuvem e trabalha em estreita colaboração com equipes de Análise e departamentos de negócios para fornecer produtos de dados para relatórios, análises e processos operacionais.
- Além disso, você integra dados de diversas fontes (por exemplo, APIs, bancos de dados, streaming, arquivos) em nossa plataforma e garante seu processamento e disponibilidade confiáveis.
- Você também projeta, implementa e opera pipelines de dados escaláveis (Batch e Streaming) com base em Spark, Delta Lake e Kubernetes – desde a ingestão até a disponibilização na camada Gold.
- Você desenvolve continuamente nossa Plataforma de Dados Empresarial (EDP) e trabalha com uma arquitetura moderna de Lakehouse (Delta Lake, modelo de medalha) em um ambiente multi-tenant em AWS.
O que você traz
- Você concluiu com sucesso seus estudos em Ciência da Computação (ou similar) ou tem uma formação comparável – ou traz experiência prática correspondente em Engenharia de Dados.
- Você tem experiência em modelagem de dados e processamento de grandes volumes de dados, bem como um bom entendimento de qualidade de dados, transformação e fluxos de dados. *
- Além disso, você está familiarizado com tecnologias de nuvem (idealmente AWS) e com componentes modernos de Data Stack como Spark, Kubernetes ou orquestração de fluxo de trabalho (por exemplo, Airflow) e possui muito boas habilidades de programação em Python e PySpark.
- Termos e conceitos como Kubernetes, Clean Code, Medallion Architecture, OOP ou Kafka não são estranhos para você.
- Você trabalha de forma estruturada, assume a responsabilidade por seus temas e se move com habilidade em um ambiente de desenvolvimento colaborativo baseado em Git.
- Com sua fluência em alemão e inglês, você se comunica com segurança em um contexto técnico.
