Deutschland
HENSOLDT
Nejo
Tech Lead AI Engineering (m/w/d)
Deutschland
Cologne, North Rhine-Westphalia, Germany
TypeScriptNode.jsDocker
Automatische Übersetzung. Prüfe das Original.
Über die Stelle
Für ein junges Unternehmen im schnell wachsenden Markt für KI-Implementierungen suchen wir zum nächstmöglichen Zeitpunkt, idealerweise Anfang November, einen Tech Lead. Das Unternehmen betreibt produktive LLM-basierte Systeme: Pipelines zur Content-Generierung, Retrieval-Augmented Generation (RAG) auf internen Dokumenten sowie automatisierte Workflows, die eng mit den Geschäftssystemen verzahnt sind. Der gesamte Stack basiert auf TypeScript und Next.js.
Diese Systeme sind bereits live. Als Tech Lead übernehmen Sie die Verantwortung für diese Systeme, steigern deren Zuverlässigkeit und Qualität und erweitern sie um neue Anwendungsfälle, während Sie gleichzeitig die technische Verantwortung für ein Team tragen. Die Rolle verbindet angewandte LLM-Entwicklung mit fundierter backend-Entwicklung in TypeScript. Das Training oder Fine-Tuning von Foundation Models ist nicht Teil der Aufgabe.
Stack: TypeScript, Next.js, Node.js, Postgres mit pgvector, Docker, Azure, Anthropic und OpenAI APIs, Vercel AI SDK.
Ihre Aufgaben
- Technische Verantwortung für das Team, einschließlich Architektur-Entscheidungen und Code-Reviews
- Technische Anleitung des Teams und Ansprechpartner für nicht-technische Kollegen
- Übernahme und Wartung der bestehenden LLM-Pipelines: Überprüfung der aktuellen Architektur, Identifizierung von Fehlerquellen, Priorisierung von Korrekturen sowie Refactoring und Erweiterung der Systeme ohne Unterbrechung des Produktionsbetriebs
- End-to-End-Verantwortung für die RAG-Systeme: Dokumenten-Ingestion und Parsing, Chunking, Indexierung, hybrides Retrieval (BM25 und Vektor), Query-Rewriting, Reranking und fundierte Generierung mit Quellenangaben
- Implementierung und Pflege von Zugriffskontrollen auf Chunk-Ebene, Index-Aktualität und Mandantentrennung über alle Retrieval-Systeme hinweg
- Entwicklung von Pipelines zur Content-Generierung, die konsistente Qualität in großem Maßstab liefern, einschließlich menschlicher Review-Schritte
- Aufbau und Betrieb automatisierter Workflows für interne und externe Geschäftssysteme (ERP, CRM, E-Mail, interne APIs) mit dauerhafter und idempotenter Ausführung, Retry- und Dead-Letter-Handling sowie Freigabeschritten für irreversible Aktionen
- Einrichtung eines Evaluierungs-Frameworks für Systeme, die derzeit ohne ein solches laufen: Golden Datasets basierend auf realen Produktionsfehlern, Retrieval-Metriken und mehr
- Implementierung von Observability entlang des gesamten Request-Pfads
- Optimierung von Kosten und Latenz durch Prompt-Caching, Batching, Model-Routing und den Einsatz kleinerer Modelle, wo dies sinnvoll ist
- Identifizierung von Bereichen, in denen deterministische Logik die bessere Wahl ist, und entsprechende Implementierung
- Direkte Zusammenarbeit mit nicht-technischen Kollegen zur Definition und Validierung automatisierter Prozesse
Was Sie mitbringen
- Berufserfahrung mit mindestens einem LLM-basierten System in Produktion, einschließlich der Verantwortung für dessen Betrieb und Incident-Handling
- Fortgeschrittene TypeScript- und Node.js-Kenntnisse: Strikte Typisierung von nicht-deterministischem Modellausstoß, Async- und Concurrency-Patterns, Streaming-Responses, strukturiertes Error-Handling
- Produktionserfahrung mit Next.js: App Router, Route Handlers, Server Actions, Streaming zum Client
- Nachweisbare Erfahrung in der Übernahme und Verbesserung bestehender Codebasen unter Produktionslast
- Praktische Retrieval-Expertise: Hybride Suche, Auswahl von Embedding-Modellen, Cross-Encoder-Reranking, Metadaten-Filterung, berechtigungsbasiertes Retrieval und strukturierte Diagnose bei schlechter Retrieval-Qualität
- Erfahrung im Umgang mit realen Dokumenten: PDFs mit Tabellen, gescanntes Material, DOCX, HTML, einschließlich layout-bewusstem Parsing, OCR und evidenzbasiertem Chunking
- Strukturierte Ausgaben und Tool-Calling gehören zu Ihrem Arbeitsalltag: JSON Schema, Zod oder ähnliche Laufzeitvalidierung, Function Calling, Umgang mit fehlerhaften oder teilweisen Ausgaben, Context-Window-Management
- Erfahrung im Entwurf und der Durchführung von LLM-Evaluierungen
- Erfahrung mit LLM-Tracing- und Evaluierungstools in einer TypeScript-Codebase (z. B. Braintrust, Langfuse, Promptfoo, OpenTelemetry oder Arize Phoenix)
- Vertrautheit mit Postgres einschließlich Vektorsuche (pgvector oder ein vergleichbarer Vektorspeicher), Docker, Git, CI/CD und mindestens einer großen Cloud-Plattform
- Praktische Erfahrung mit den Anthropic und/oder OpenAI TypeScript SDKs
- Sichere Kommunikation auf Englisch, Deutsch ist ein Plus
Nice to have
- Durable Workflow Execution für langlaufende, unbeaufsichtigte Prozesse (Temporal, Inngest oder ähnlich)
- Agent-Orchestrierung in Produktion, Tool-Calling, Recovery, mehrstufige Workflows (Vercel AI SDK, LangGraph, Mastra, Claude Agent SDK, MCP TypeScript SDK)
- Erfahrung in der Integration von Unternehmenssystemen wie ERP- oder CRM-Plattformen wie SAP
- Sicherheit und Datenschutz in LLM-Systemen, Abwehr von Prompt-Injection und Datenabfluss, Umgang mit PII, DSGVO-konformes Design, EU-gehostete oder selbst gehostete Inferenz
- Strukturiertes oder graphbasiertes Retrieval für entitätsreiche Daten
- Migration von Live-Pipelines auf ein neues Modell, Embedding-Modell oder einen neuen Index ohne Qualitätsverlust
- Azure DevOps, Pipelines, Repos und Boards
Benefits
- Hybrides Arbeitsmodell mit 2 Bürotagen pro Woche in einem hellen Büro im Kölner Belgischen Viertel (mit zwei Balkonen und dem besten Blick über die Stadt ;))
- KI-Implementierung, der Wachstumsmarkt der kommenden Jahre
- Vertrauensarbeitszeit mit Ausgleich für Überstunden
- Viel kreativer Freiraum und Platz für eigene Ideen
- Kontinuierliche berufliche, strategische und technologische Weiterentwicklung
- Eine offene Feedbackkultur, transparente Kommunikation und kurze Entscheidungswege
- Regelmäßige Teamevents und Workations
- Gehalt ab €60,000 brutto pro Jahr, mit Spielraum nach oben je nach Erfahrung
Das Unternehmen ist ein internationales Team und setzt sich aktiv für einen inklusiven Arbeitsplatz ein. Bewerbungen von Menschen jeden Geschlechts und jeder Identität sind willkommen, unabhängig von Herkunft, Alter, Religion, sexueller Orientierung oder Behinderung. Da Frauen in der Tech-Branche weiterhin unterrepräsentiert sind, werden Frauen besonders ermutigt, sich zu bewerben.
Wir freuen uns auf Ihre Bewerbung!
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen