Vereinigte Staaten
HEARTLAND BUSINESS SYSTEMS LLC
True Talent Solutions Partners
Member of Technical Staff, ML Systems
Vereinigte Staaten
Menlo Park, California, United States
Automatische Übersetzung. Prüfe das Original.
Über die Rolle
Werden Sie Teil eines KI/ML-Teams, das leistungsstarke Trainings- und Inferenzsysteme für Bild-, Video- und World-Model-Workloads entwickelt. Sie werden die Geschwindigkeit und Effizienz von GPU-Kernels, verteilter Ausführung und Multi-Node-Serving verbessern.
Ihre Aufgaben
- Optimierung der Trainings- und Inferenzleistung für Bild-, Video- und World-Model-Workloads.
- Einsatz von Nsight und verwandten Tools zur Identifizierung von Engpässen in Kernels, Speicher, Systemen und Clustern.
- Implementierung von Low-Level-GPU-Optimierungen mit CUDA und Triton.
- Konzeption und Verbesserung von verteilten Trainings- und Inferenz-Engines für Diffusionsmodelle.
- Verbesserung der Kommunikationsleistung zwischen GPUs und Knoten unter Verwendung von NCCL, RDMA, InfiniBand oder RoCE.
- Erstellung von Benchmarks und Regressionstests, um sicherzustellen, dass Leistungsverbesserungen in der Produktion Bestand haben.
- Co-Design von Kernels, Runtimes und Modellen unter Berücksichtigung der Hardware-Eigenschaften.
Was wir suchen
- Mindestens 2 Jahre Erfahrung mit deep learning-Trainings- oder Inferenzsystemen, verteilten Systemen oder verwandten ML-Systemen.
- Mindestens 1 Jahr praktische Erfahrung mit ML-Systemen oder GPU-Performance in einer aktuellen oder kürzlich ausgeübten Rolle.
- Erfahrung in der Entwicklung von Kernfunktionen in einem Inferenz- oder Trainings-Framework, wie z. B. vLLM, SGLang, TensorRT-LLM oder Megatron.
- Praktische Erfahrung im Schreiben von CUDA-, CUTLASS-, Triton- oder PTX-Kernels für NVIDIA-GPUs.
- Fundierte Kenntnisse in machine learning und Informatik-Grundlagen sowie ein Abschluss in Informatik oder einem verwandten quantitativen Bereich.
- Erfahrung in der Optimierung von Inferenz- oder Trainingsleistung, einschließlich GPU-Kernels, Runtimes oder verteilter Ausführung.
- Erfahrung mit Diffusions-, Video-, Bild- oder anderen multimodalen Workloads ist von Vorteil.
Vergütung & Leistungen
- Grundgehalt: $180,000 bis $230,000 jährlich.
- Visa-Sponsoring ist verfügbar.
Standort
Vor Ort in Menlo Park, Kalifornien, Vereinigte Staaten.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen