Capgemini
Bjak
LLM Application Engineer
Über ActAI
Es gibt über 5 Milliarden Nutzer, die heute grundlegende Anwendungen wie E-Mail, Notizen, Aufgaben und Kalender verwenden, und diese sind nicht KI-nativ. Unsere Mission ist es, proaktive Anwendungen für jeden auf der Welt zu entwickeln, der nicht an komplexes Prompting gewöhnt ist. Wir wollen Intelligenz in Gespräche, Erledigungen, Organisation und Arbeitsabläufe bringen, mit minimalem bis gar keinem Prompting.
Unser Produkt konzentriert sich auf die Erzielung hoher Zuverlässigkeit für langlaufende Arbeitsabläufe, persistenten Kontext und die Erledigung von Aufgaben in der realen Welt. Wir glauben, dass Produkte Halluzinationen stark reduzieren werden.
Unser Ziel ist es, das Leben jedes Einzelnen zu organisieren, damit wir alle Zeit für wertvolle und bedeutungsvolle Dinge haben.
Über die Rolle
Als LLM Application Engineer bauen Sie die Intelligenzschicht, die die KI-Erlebnisse von ActAI antreibt.
Sie arbeiten an der Schnittstelle von LLMs, Software Engineering und Produkt – entwerfen Agenten-Workflows, verbessern das Modellverhalten und wandeln KI-Fähigkeiten in zuverlässige Benutzererlebnisse um.
Sie übernehmen Probleme End-to-End, vom Verständnis der Benutzerbedürfnisse über das Design von Agentic-Workflows, die Integration von Modellen und Tools, den Aufbau von Evaluationssystemen bis hin zur kontinuierlichen Verbesserung des KI-Verhaltens in der Produktion.
Fokus
- Entwickeln und ausliefern von LLM-gestützten Anwendungen und KI-Agenten-Workflows
- Entwerfen von Systemen für Reasoning, Planung, Gedächtnis, Tool-Nutzung und mehrstufige Ausführung
- Erstellen zuverlässiger Orchestrierungs-Pipelines, die probabilistische Modellausgaben in vorhersagbare, beobachtbare und sichere Aktionen umwandeln
- Integrieren von LLMs mit APIs, Datenbanken, Suche, internen Diensten und externen Tools.
- Entwickeln von Prompting-, Kontext-Engineering-, strukturierten Ausgabe-, Tool-Calling- und anderen Techniken zur Verbesserung des Modellverhaltens
- Erstellen von Evaluations-Frameworks und Datensätzen zur Messung von KI-Qualität, Zuverlässigkeit und Regressionen
- Debuggen von KI-Systemen über den gesamten Stack – vom Modellverhalten und Prompts bis hin zur Orchestrierung, backend-Diensten und Produkt-UX
- Optimieren von KI-Systemen für Qualität, Latenz und Kosten
- Enge Zusammenarbeit mit Produkt- und Engineering-Teams, um unklare Produktprobleme in funktionierende KI-Lösungen zu verwandeln
- Etablieren von Produktionspraktiken für Observability, Tracing, Experimente, Evaluation und kontinuierliche Verbesserung
Mindestanforderungen
Technologie-Stack
- Python
- LLM APIs und Modell-Provider, einschließlich OpenAI-kompatibler APIs und Open-Weight-Modelle
- Agenten-Frameworks und Orchestrierungssysteme
- Vektordatenbanken und Retrieval-Systeme
- Backend-Dienste, APIs und verteilte Systeme
- PyTorch / JAX
Ideale Erfahrung
- Starke Grundlagen im Software Engineering mit Erfahrung im Aufbau KI-gestützter Anwendungen
- Praktische Erfahrung mit LLMs, generativer KI oder agentenbasierten Systemen
- Erfahrung im Design von Prompts, Workflows, Evaluationen oder KI-Verhalten
- Fähigkeit, sauberen, produktionsreifen Code zu schreiben
- Komfort bei der Arbeit über Abstraktionsebenen hinweg (Modell → System → Produkt)
- Starke Problemlösungsfähigkeiten in unklaren, sich schnell entwickelnden Umgebungen
- Tendenz zum Ausliefern, Iterieren und kontinuierlichen Verbessern
Ergebnisse
- KI-Funktionen erreichen schnell die Produktion und liefern messbare Auswirkungen auf die Benutzer
- LLM-gestützte Workflows sind zuverlässig, skalierbar, beobachtbar und wartbar
- Die KI-Qualität verbessert sich durch systematische Evaluation, Experimente und Iteration
- KI-Workflows werden zunehmend vorhersagbar, effizient und kostengünstig
- Komplexe KI-Fähigkeiten werden in einfache, intuitive Benutzererlebnisse übersetzt
