Keyrus Brazil
AgileEngine
Infrastructure Engineer (Kafka) ID82562
WARUM SIE ZU UNS KOMMEN SOLLTEN
AgileEngine ist ein 5000-Unternehmen, das preisgekrönte Software für Fortune 500-Marken und wegweisende Startups in über 17+ Branchen entwickelt. Wir zählen zu den führenden Anbietern in Bereichen wie Anwendungsentwicklung sowie KI/ML, und unsere mitarbeiterorientierte Unternehmenskultur hat uns bereits mehrfach die Auszeichnung als „Best Place to Work“ eingebracht.
Wenn Sie nach einem Ort suchen, an dem Sie wachsen, etwas bewegen und mit Menschen zusammenarbeiten können, denen das Miteinander am Herzen liegt, würden wir Sie gerne kennenlernen!
ÜBER DIE ROLLE
Wir suchen einen Infrastructure Engineer (Kafka), der die Kafka-Umgebung hinter einer ereignisgesteuerten Integrationsplattform verantwortet und betreibt, einschließlich der zugehörigen Build-, Deployment- und Monitoring-Infrastruktur.
DAS BRINGEN SIE MIT
- Fundierte, praktische Produktionserfahrung mit Kafka von mindestens 4+ Jahren – dies ist die zentrale Anforderung. Erfahrung mit Topic- und Partition-Design, Consumer-Group-Mechaniken, Retention und Compaction, Replikation, Performance-Tuning sowie Fehlerbehebung bei Latenz, Rebalances und Zustellungsfehlern unter Last.
- Praktisches Verständnis von ereignisgesteuerten Zustellungssemantiken: at-least-once versus exactly-once, Idempotenz, Reihenfolgegarantien, Dead-Letter-Handling und Replay.
- Starke Kenntnisse in der Linux-Infrastruktur und Automatisierung – Shell- und Python-Scripting.
- Erfahrung mit CI/CD-Pipelines, idealerweise deklarative Jenkins-Pipelines, sowie praktische Erfahrung mit Artefakt- und Release-Management.
- Container – Docker oder Podman, OCI-Images – und Container-Orchestrierungsplattformen.
- Infrastructure-as-Code und Konfigurationsmanagement.
- Observability-Tools: Log-Aggregation, Metriken, Alerting und SLO-Definition.
- GenAI-gestützte Entwicklung – Sie nutzen aktiv KI-Coding-Agenten in Ihrem täglichen Workflow oder sind nachweislich daran interessiert, diese einzusetzen. Wir automatisieren und entwickeln im gesamten Team mit diesen Tools und erwarten von jedem, dass er sicher damit umgehen kann.
- Netzwerktechnik, TLS, Secrets-Management und Enterprise-Authentifizierung (OAuth2).
- Eine Mentalität für den Produktionsbetrieb: Incident-Response, Kapazitätsplanung und Change-Control.
- Starke schriftliche und mündliche Kommunikationsfähigkeiten für die Zusammenarbeit in einem globalen Team.
- Gute Englischkenntnisse (oberes Mittelstufenniveau).
WAS WIR UNS WÜNSCHEN
- Tiefgreifende Kenntnisse im Kafka-Ökosystem: Kafka Connect, Schema Registry, Kafka Streams, MirrorMaker oder verwaltete Kafka-Dienste.
- Change-Data-Capture-Muster und entsprechende Tools.
- Infrastruktur zur Unterstützung großer kommerzieller SaaS-Plattformen, einschließlich Integrations-Gateways oder Connector-Servern.
- Paket- und Artefaktverteilung auf Unternehmensebene.
- Erfahrung in einem regulierten Umfeld – Audit-Retention, Datenklassifizierung, formale Build- und Betriebs-Governance.
- Kubernetes; Design für Multi-Region- und Hochverfügbarkeitsszenarien.
IHRE AUFGABEN
- Verantwortung für die Kafka-Umgebung – Topic-Design und Namenskonventionen, Partitionierungs- und Keying-Strategie, Replikation, Richtlinien für Retention und Compaction, Consumer-Group- und Offset-Management, Quotas sowie Broker-Konfiguration und -Upgrades.
- Sicherstellung der Plattform-Resilienz und -Zuverlässigkeit – Aufrechterhaltung der Verfügbarkeit der Integrationsplattform bei Beeinträchtigung oder Ausfall der vorgelagerten SaaS-Plattform des Anbieters, Abfangen von Traffic-Spitzen ohne Überlastung und Sicherstellung, dass Ereignisse durch eine korrekt dimensionierte, konfigurierte und betriebene Kafka-Infrastruktur wiederholbar und auditierbar bleiben.
- Praktische Umsetzung der Zustellungsgarantien der Plattform: at-least-once- und exactly-once-Semantiken, idempotente Producer, transaktionale Schreibvorgänge wo erforderlich, Dead-Letter-Topics und Self-Service-Replay-Tools zur Wiederherstellung nach nachgelagerten Fehlern.
- Aufbau von Streaming-Observability: Monitoring von Consumer-Lag, Queue-Tiefe, Durchsatz und Rebalance; End-to-End-Tracing mittels Correlation-ID über Topics hinweg; Dashboards, Service Level Objectives und Alerting.
- Planung von Kapazität, Kosten und Retention für ein dauerhaftes Log mit regulatorischen Audit-Retention-Anforderungen sowie deren Anpassung an die Skalierung im Unternehmen.
- Evaluierung und Integration von anbieterspezifischen Streaming- und Change-Data-Capture-Mechanismen im Zuge der Weiterentwicklung der Ingress- und Egress-Pfade der Plattform.
- Verantwortung für die Weiterentwicklung der Build- und Release-Pipeline – automatisierte Jenkins-Pipelines zur Erstellung paketierter Anwendungsinstallationen für mehrere Linux-Generationen im Unternehmen, signierte Container-Images und generierte Dokumentation, bereitgestellt über interne Artefakt- und Image-Verteilungsdienste.
- Betrieb der Laufzeitumgebung: containerisierte Deployments, Integrations-Gateway-Hosts und die laufende Modernisierung der Betriebssysteme dieser Umgebung.
- Entwicklung der Infrastruktur für die Resilienz und Kontinuität der Plattform – Gesundheitsprüfung, Circuit-Breaking sowie die Abgleichs- und Monitoring-Prozesse, die sicherstellen, dass die Plattform sauber wiederhergestellt wird, wenn die vorgelagerte Anbieterplattform beeinträchtigt oder nicht verfügbar ist.
- Automatisierung der Umgebungsbereitstellung und -konfiguration sowie Pflege der Konfigurations- und Asset-Inventare als verlässliche Single Source of Truth.
- Zusammenarbeit mit den Python-Entwicklern des Teams in Bezug auf Deployability, Performance und Kosten; Teilnahme an Change-Management-Prozessen und Produktionssupport.
UNSERE BENEFITS
- Berufliche Weiterentwicklung: Mentoring, TechTalks und personalisierte Entwicklungspläne.
- Wettbewerbsfähige Vergütung: Gehalt in USD sowie Budgets für Weiterbildung, Fitness und Teamaktivitäten.
- Spannende Projekte: Moderne Lösungen für Fortune 500-Unternehmen und führende Produkthersteller.
- Flexible Arbeitszeiten: Flexibler Zeitplan mit Optionen für Remote-Arbeit und Büropräsenz.
