Siemens
CoreWeave
Principal Engineer - Perf and Benchmarking
ÜBER DIESE ROLLE
CoreWeave ist The Essential Cloud for AI™.
Von Pionieren für Pioniere entwickelt, bietet CoreWeave eine Plattform aus Technologie, Tools und Teams, die es Innovatoren ermöglicht, KI mit Zuversicht zu entwickeln und zu skalieren. CoreWeave genießt das Vertrauen führender KI-Labore, Startups und globaler Unternehmen und kombiniert überragende Infrastrukturleistung mit fundiertem technischem Fachwissen, um Durchbrüche zu beschleunigen und Rechenleistung in Kapazitäten zu verwandeln. Gegründet im Jahr 2017, wurde CoreWeave im März 2025 ein börsennotiertes Unternehmen (Nasdaq: CRWV). Erfahren Sie mehr unter coreweave.com coreweave.com/.
Wir suchen einen Principal Engineer als technischen Leiter für das Benchmarking & Performance-Team von CoreWeave. Sie sind verantwortlich für unser Performance-Data-Warehouse im planetaren Maßstab: das Erfassen, Speichern, Transformieren und Analysieren von Performance-Ereignissen in allen Rechenzentren unserer globalen Infrastruktur. Sie werden zudem ein wesentlicher Bestandteil bei der Erstellung branchenführender End-to-End-Performance-Benchmarking-Publikationen sein. Wenn Sie sich für MLPerf (Training & Inference) begeistern und die enge Zusammenarbeit mit NVIDIA (Megatron-LM, TensorRT-LLM & DGX Cloud) sowie der Open-Source-Community (llm-d, vLLM und alle gängigen ML-Frameworks) für Sie von Interesse ist, helfen Sie uns dabei, die führende Rolle von CoreWeave bei der Performance-Zuverlässigkeit in diesem Bereich zu demonstrieren.
Ihre Aufgaben
- Strategie & Führung - Definieren Sie die mehrjährige Benchmarking-Strategie und Roadmap; priorisieren Sie Modelle/Workloads (LLMs, Diffusion, Vision, Sprache) und Hardware-Ebenen. Bauen Sie ein leistungsstarkes Team aus Performance-Ingenieuren und Datenanalysten auf, leiten Sie es und fungieren Sie als Mentor. Etablieren Sie Governance-Richtlinien für Leistungsversprechen: dokumentierte Methoden, Versionierung, Reproduzierbarkeit und Audit-Trails.
- Performance-Verantwortung - Leiten Sie End-to-End MLPerf Inference- und Training-Einreichungen: Workload-Auswahl, Cluster-Planung, Runbooks, Audits und Ergebnisveröffentlichung. Koordinieren Sie Optimierungs-Tracks mit NVIDIA (CUDA, cuDNN, TensorRT/TensorRT-LLM, Triton, NCCL), um wettbewerbsfähige Ergebnisse zu erzielen; treiben Sie bei Bedarf Upstream-Korrekturen voran.
- Interne Latenz- & Durchsatz-Benchmarks - Entwerfen Sie einen Kubernetes-nativen, wiederholbaren Benchmarking-Service, der CoreWeave-Stacks über SUNK (Slurm on Kubernetes), Kueue und Kubeflow-Pipelines hinweg auslastet. Messen und berichten Sie p50/p95/p99 Latenz, Jitter, Tokens/s, Time-to-First-Token, Cold-Start/Warm-Start sowie Kosten-pro-Token/Anfrage über verschiedene Modelle, Präzisionen (BF16/FP8/FP4), Batch-Größen und GPU-Typen hinweg. Pflegen Sie einen Korpus repräsentativer Szenarien (Streaming, Batch, Multi-Tenant) und Datensätze; automatisieren Sie Vergleiche über Software-Releases und Hardware-Generationen hinweg.
- Tooling & Automatisierung - Erstellen Sie CI/CD-Pipelines und K8s-Controller/Operatoren, um Benchmarks in großem Maßstab zu planen; integrieren Sie diese in Observability-Stacks (Prometheus, Grafana, OpenTelemetry) und Ergebnis-Warehouses. Implementieren Sie Supply-Chain-Integrität für Benchmark-Artefakte (SBOMs, Cosign-Signaturen).
- Funktionsübergreifende Zusammenarbeit & Community - Arbeiten Sie mit NVIDIA, wichtigen ISVs und OSS-Projekten (vLLM, Triton, KServe, PyTorch/DeepSpeed, ONNX Runtime) zusammen, um Optimierungen und Upstream-Verbesserungen gemeinsam zu entwickeln. Unterstützen Sie den Vertrieb/SEs mit fundierten Zahlen für RFPs und Wettbewerbsanalysen; informieren Sie Analysten und Presse mit präzisen, belastbaren Daten.
Ihr Profil
- 10+ Jahre Erfahrung im Aufbau verteilter Systeme oder HPC/Cloud-Dienste, mit fundierter Expertise im Bereich großskaliges ML-Training oder vergleichbarer hochperformanter Workloads.
- Nachgewiesene Erfolgsbilanz bei der Architektur oder dem Aufbau von Datensystemen im planetaren Maßstab (z. B. Telemetrie-Plattformen, Observability-Stacks, Cloud-Data-Warehouses, großskalige OLAP-Engines).
- Tiefgreifendes Verständnis von GPU-Performance (CUDA, NCCL, RDMA, NVLink/PCIe, Speicherbandbreite), Model-Server-Stacks (Triton, vLLM, TensorRT-LLM, TorchServe) und verteilten Trainings-Frameworks (PyTorch FSDP/DeepSpeed/Megatron-LM).
- Sicherer Umgang mit Kubernetes und ML-Control-Planes; Vertrautheit mit SUNK, Kueue und Kubeflow in Produktionsumgebungen.
- Ausgezeichnete Kommunikationsfähigkeiten, um mit Führungskräften, Kunden, Auditoren und OSS-Communities zu interagieren.
Wünschenswert
- Erfahrung mit Zeitreihendatenbanken, Log-Structured Merge Trees (LSM) oder der Entwicklung benutzerdefinierter Storage-Engines.
- Erfahrung mit der Durchführung von MLPerf-Einreichungen (Inference und/oder Training) oder vergleichbaren auditierten Benchmarks in großem Maßstab.
- Beiträge zu MLPerf, Triton, vLLM, PyTorch, KServe oder ähnlichen OSS-Projekten.
- Erfahrung im Benchmarking von Multi-Region-Flotten und großen Clustern (Tausende von GPUs).
- Publikationen/Vorträge zu ML-Performance, Latenz-Engineering oder Benchmarking-Methodik im großen Maßstab.
Was wir bieten
Die Spanne für das Grundgehalt für diese Rolle liegt zwischen $206,000 und $333,000. Das Einstiegsgehalt wird auf Basis von berufsbezogenem Wissen, Fähigkeiten, Erfahrung und Marktstandort festgelegt. Wir streben bei der Festlegung der Vergütung sowohl eine Marktausrichtung als auch interne Gerechtigkeit an. Zusätzlich zum Grundgehalt umfasst unser Gesamtvergütungspaket einen diskretionären Bonus, Aktienoptionen und ein umfassendes Leistungsprogramm (jeweils abhängig von der Anspruchsberechtigung).
Die von uns angegebene Spanne stellt den typischen Vergütungsbereich für diese Rolle dar. Um die tatsächliche Vergütung zu bestimmen, überprüfen wir den Marktwert für jeden Kandidaten, was eine Vielzahl von Faktoren beinhalten kann. Dazu gehören Qualifikationen, Erfahrung, Interviewleistung und Standort.
Zusätzlich zu einem wettbewerbsfähigen Gehalt bieten wir eine Vielzahl von Leistungen, um Ihre Bedürfnisse zu unterstützen. Die unten aufgeführten Leistungen spiegeln unsere US-basierten Angebote für Vollzeitmitarbeiter wider; für Rollen an anderen Standorten variieren die Leistungen und werden während des Einstellungsprozesses mitgeteilt. Dazu gehören:
- Kranken-, Zahn- und Augenversicherung - 100% von CoreWeave bezahlt
- Vom Unternehmen bezahlte Lebensversicherung
- Freiwillige ergänzende Lebensversicherung
- Kurz- und langfristige Berufsunfähigkeitsversicherung
- Flexible Spending Account
- Health Savings Account
- Erstattung von Studiengebühren
- Möglichkeit zur Teilnahme am Mitarbeiteraktienkaufprogramm (ESPP)
- Leistungen für psychische Gesundheit durch Spring Health
- Unterstützung bei der Familiengründung durch Carrot
- Bezahlte Elternzeit
- Flexible, umfassende Kinderbetreuungsunterstützung mit Kinside
- 401(k) mit großzügigem Arbeitgeberzuschuss
- Flexibler bezahlter Urlaub (PTO)
- Täglich bereitgestelltes Mittagessen in unseren Büro- und Rechenzentrumsstandorten
- Eine lockere Arbeitsumgebung
- Eine Arbeitskultur, die auf innovative Disruption ausgerichtet ist
Chancengleichheit & Anpassungen
Bewerber aus Kalifornien
California Consumer Privacy Act drive.google.com/file/d/1gPBRBhUNAMBmj7Yn4_M-hCugm7ZJD4hr/view?usp=sharing
CoreWeave ist ein Arbeitgeber, der Chancengleichheit fördert und sich verpflichtet, einen inklusiven und unterstützenden Arbeitsplatz zu schaffen. Alle qualifizierten Bewerber und Kandidaten werden unabhängig von Rasse, Hautfarbe, Religion, Geschlecht, Behinderung, Alter, sexueller Orientierung, Geschlechtsidentität, nationaler Herkunft, Veteranenstatus oder genetischen Informationen für eine Anstellung in Betracht gezogen.
Als Teil dieser Verpflichtung und im Einklang mit dem Americans with Disabilities Act (ADA) eeoc.gov/laws/guidance/fact-sheet-disability-discrimination stellt CoreWeave sicher, dass qualifizierten Bewerbern und Kandidaten mit Behinderungen angemessene Anpassungen für den Einstellungsprozess gewährt werden, sofern diese Anpassung keine unzumutbare Härte darstellt. Wenn eine angemessene Anpassung erforderlich ist, kontaktieren Sie bitte: [email protected] [[email protected]].
Einhaltung von Exportkontrollvorschriften
Diese Position erfordert Zugriff auf exportkontrollierte Informationen. Um den für diese Informationen geltenden Exportvorschriften der US-Regierung zu entsprechen, muss der Bewerber entweder (A) eine US-Person sein, definiert als (i) US-Bürger oder Staatsangehöriger, (ii) rechtmäßiger ständiger Einwohner der USA (Green-Card-Inhaber), (iii) Flüchtling gemäß 8 U.S.C. § 1157 oder (iv) Asylsuchender gemäß 8 U.S.C. § 1158, (B) berechtigt sein, ohne erforderliche Exportgenehmigung auf die exportkontrollierten Informationen zuzugreifen, oder (C) berechtigt und mit hinreichender Wahrscheinlichkeit in der Lage sein, die erforderliche Exportgenehmigung von der zuständigen US-Regierungsbehörde zu erhalten. CoreWeave kann aus legitimen geschäftlichen Gründen ablehnen, einen Exportlizenzierungsprozess zu verfolgen.
