Deutschland
Benjamin
Tensordyne
Forward Deployed Inference Engineer
Deutschland
Munich, Bavaria, Germany
PythonKubernetesRust
Automatische Übersetzung. Prüfe das Original.
Über Tensordyne
Tensordyne entwickelt eine neue Klasse von KI-Inferenzsystemen, die für die leistungsstarke und energieeffiziente Bereitstellung der anspruchsvollsten generativen KI-Workloads der Welt konzipiert sind.
Unsere Plattform kombiniert speziell entwickelte Siliziumchips, neue KI-Mathematik, optimierte Scale-Up-Netzwerke und Speicherarchitektur zu einem eng integrierten System, das speziell für die KI-Inferenz im großen Maßstab entwickelt wurde. Wir arbeiten mit Hyperscalern, Neoclouds, Entwicklern von Frontier-Modellen, Unternehmen und Infrastrukturpartnern zusammen, die an der Spitze der KI tätig sind.
Während Tensordyne von der Systementwicklung über die Inbetriebnahme von Siliziumchips, die Kundenvalidierung, Beta-Bereitstellungen bis hin zur Produktionsumstellung übergeht, bauen wir die technische Kundenorganisation auf, die direkt zwischen unseren Entwicklungsteams und den Unternehmen angesiedelt sein wird, die die Plattform einsetzen.
Rollenübersicht
Wir suchen einen Forward Deployed Inference Engineer, der tiefgreifende KI-Systemkenntnisse mit ausgeprägten Kundeninstinkten kombiniert. Diese Person wird den Weg von einer Kunden-Workload- oder Modell-Anfrage zu einem technischen Ergebnis und, wo nötig, zu einem optimierten Modell, das erfolgreich auf Tensordyne Hardware und Software läuft, verantworten.
Die Rolle befindet sich an der Schnittstelle von Modellarchitektur, Inferenzleistung, Systemoptimierung, Entwicklerwerkzeugen und Kundenbereitstellung. Sie werden eng mit der Entwicklung zusammenarbeiten und gleichzeitig als technische Brücke zu Produkt, BizDev, Vertrieb und Kunden fungieren.
Werte von Tensordyne
- Groß denken. Ehrgeizige technische und geschäftliche Ziele verfolgen.
- Exzellenz anstreben. Qualität ist bei allem, was wir bauen und liefern, wichtig.
- Verantwortung übernehmen und erledigen. Verantwortung übernehmen und Ergebnisse erzielen.
- Mit Integrität handeln. Direkt, transparent und respektvoll sein.
- Als Team gewinnen. Die Menschen um sich herum effektiver machen.
- Unterschiedliche Perspektiven schätzen. Die stärksten Teams hinterfragen Annahmen und bringen vielfältige Erfahrungen in schwierige Probleme ein.
Tensordyne ist ein Arbeitgeber, der Chancengleichheit fördert. Wir glauben, dass vielfältige Teams besser gerüstet sind, um komplexe Probleme zu lösen und außergewöhnliche Technologie zu entwickeln. Alle qualifizierten Bewerber erhalten eine Berücksichtigung für eine Anstellung, unabhängig von Alter, Hautfarbe, Geschlechtsidentität oder -ausdruck, Familienstand, Herkunft, Behinderung, geschütztem Veteranenstatus, Rasse, Religion, Schwangerschaft, sexueller Orientierung oder anderen Merkmalen, die durch geltende Gesetze, Vorschriften und Verordnungen geschützt sind.
Was Sie tun werden
- Kunden-Workloads durch Profiling und Benchmarking in schnelle, glaubwürdige Leistungsergebnisse umwandeln. Relevante KPIs definieren, mit konkurrierenden Baselines vergleichen und unsere Bewertungsmethodik mit externen Benchmarks aktuell halten.
- Modellaktivierung und -optimierung: Kundenmodelle auf dem Tensordyne Stack konvertieren und aktivieren, numerische Qualität validieren, Leistungsengpässe identifizieren und mit Compiler-, Runtime-, Kernel- und Systemteams zusammenarbeiten, um Ergebnisse zu verbessern.
- Bereitstellung / Forward Engineering: Direkte Zusammenarbeit mit Kunden und Partnern bei technischen Proof-of-Concepts (PoCs), Integration, Bereitstellung und Fehlerbehebung; Anforderungen in messbare Akzeptanzkriterien für Qualität, Latenz, Durchsatz und andere relevante KPIs übersetzen.
- Genauigkeit von Profiling zu Hardware verfolgen, indem Profiling-/Simulationsergebnisse kontinuierlich mit tatsächlichen Hardware-Bereitstellungen verglichen werden, wesentliche Lücken erklärt und fehlende Fähigkeiten im Compiler, SDK, Inferenzserver, KV-Cache-Management oder angrenzenden Systemen den zuständigen Teams gemeldet werden.
- Wiederkehrende kundenspezifische Erkenntnisse in wiederverwendbare Tools, Dokumentation, Benchmarks oder Produktverbesserungen umwandeln.
Kernqualifikationen
- Umfangreiche praktische Erfahrung mit KI-Modellen und Inferenzsystemen, insbesondere dichten und MoE LLMs (Llama, DeepSeek, Qwen, GPT-OSS, Kimi, GLM) sowie VLM-, Sprach- und Diffusionsmodellen.
- Starke Python und PyTorch Kenntnisse und die Fähigkeit, Modellcode zu verstehen und zu modifizieren.
- Erfahrung im Profiling, Benchmarking oder der Optimierung von Modellinferenzen und im Umgang mit Latenz, Durchsatz, Speicher und Auslastung.
- Starke Problemlösungs- und Kommunikationsfähigkeiten mit der Fähigkeit, unklare technische Probleme über Abteilungsgrenzen hinweg zu lösen.
- Kenntnisse im Umgang mit KI-gestützten Entwicklerwerkzeugen (z. B. Claude Code, Cursor).
Starke Pluspunkte
- Erfahrung mit LLM Serving- und Deployment-Stacks wie vLLM, SGLang oder ähnlichen Systemen.
- Erfahrung in der direkten Zusammenarbeit mit Kunden oder externen technischen Partnern.
- Erfahrung in der Aktivierung von Modellen auf neuen Beschleunigern oder nicht standardmäßiger Hardware, einschließlich Leistungs-Debugging über Framework-/Runtime-/Hardware-Grenzen hinweg.
- Praktische Erfahrung mit Produktionsinferenztechniken oder -umgebungen wie Quantisierung, verteilte Inferenz oder Kubernetes.
- Erfahrung in der Navigation und im Beitrag zu Rust Codebasen.
Hinweis für Personalvermittlungsagenturen: Bitte kontaktieren Sie keine Mitarbeiter oder Führungskräfte von Tensordyne bezüglich dieser Stelle. Wir akzeptieren keine unaufgeforderten Lebensläufe von Agenturen und sind nicht verantwortlich für Gebühren, die mit unaufgeforderten Einreichungen verbunden sind.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen