Vereinigte Staaten
SanMar- External
SambaNova
AI Performance Engineer - Berufseinsteiger
Vereinigte Staaten
San Jose, California, United States · Austin, Texas, United States
PythonC++
Automatische Übersetzung. Prüfe das Original.
Über die Stelle
SambaNova ist ein führendes Unternehmen im Bereich der KI-Infrastruktur der nächsten Generation und liefert eine full-stack-Inferenzplattform für Kunden weltweit. Das Herzstück der Technologie von SambaNova ist die RDU (Reconfigurable Dataflow Unit) – ein Chip, der auf einer Datenflussarchitektur basiert und nicht auf dem traditionellen GPU-Modell. Die Dekodierungsleistung ist besonders stark bei agentischen Workloads wie Multi-Turn-Agenten, Code-Generierung und langlebigen Anwendungen. RDUs werden in SambaRack integriert, einer Hardware auf Rack-Ebene, die es Kunden ermöglicht, modernste Modelle mit besserer Leistung, höherer Energieeffizienz und schnellerer Wertschöpfung bereitzustellen.
Über das Team
Das AI Performance-Team implementiert und optimiert Basismodelle wie DeepSeek, Llama, Qwen und GPT OSS auf der Datenflussplattform von SambaNova. Wir profilieren und optimieren Modelle über die Compiler-, Laufzeit- und Hardware-Ebenen hinweg, um den Inferenzdurchsatz und die Latenz zu verbessern.
Über die Rolle
Als AI Performance Engineer für Berufseinsteiger implementieren Sie neue Open-Source-Modelle auf dem SambaNova-Stack und arbeiten daran, deren Ausführungsgeschwindigkeit zu erhöhen. Sie profilieren die Modellausführung, identifizieren Engpässe und wenden Optimierungen wie Quantisierung, Kernel-Fusion und verbessertes Scheduling in Zusammenarbeit mit den Compiler-, Laufzeit- und Hardware-Teams an.
Aufgaben
- Implementierung neuer Basismodelle auf der SambaNova-Plattform unter Verwendung unseres Software-Stacks
- Profilierung der Modellleistung über die Compiler-, Laufzeit- und Hardware-Ebenen hinweg
- Identifizierung von Engpässen und Vorschlag von Datenfluss- oder Scheduling-Optimierungen für Single-Node- und verteilte Systeme
- Anwendung von Techniken aus der aktuellen Forschung in den Bereichen Quantisierung, Scheduling und Speicheroptimierung
- Benchmarking von Durchsatz und Latenz sowie Nachverfolgung von Leistungsänderungen über Releases hinweg
- Zusammenarbeit mit den Teams für machine learning, Compiler, Laufzeit und Hardware, um Leistungsverbesserungen in SambaNova-Produkte zu integrieren
Erforderliche Qualifikationen
- Bachelor-Abschluss in Informatik, Elektrotechnik oder einem verwandten Fachbereich
- Starke Programmierkenntnisse in Python oder C++
- Verständnis von Algorithmen, Datenstrukturen und numerischer Datenverarbeitung
- Erfahrung mit PyTorch, TensorFlow oder JAX
- Erfahrung mit Inferenz-Frameworks wie vLLM, TensorRT oder SGLang
- Erfahrung in der GPU-Programmierung mit CUDA oder Triton
Bevorzugte Qualifikationen
- Master- oder Doktortitel in Informatik, Elektrotechnik oder einem verwandten Fachbereich
- Erfahrung mit dem Training oder der Inferenz von LLM
- Vertrautheit mit Quantisierung, Graph-Optimierung, Kernel-Fusion oder Modellpartitionierung
- Kenntnisse der Speicherhierarchie, des Cachings und des Schedulings für die Ausführung großer Modelle
- Praktikums- oder Forschungserfahrung im Bereich ML-Systeme oder Leistungsoptimierung
- Publikationen oder Open-Source-Beiträge im Bereich ML-Systeme
Grundgehaltsspanne
Grundgehaltsspanne $131,200—$196,800 USD
Richtlinien zur Einreichung
Bitte beachten Sie, dass Sie für jede Position, für die Sie sich qualifiziert fühlen, ein Bewerbungsformular einreichen müssen, um als Bewerber bei SambaNova Systems berücksichtigt zu werden.
EEO-Richtlinie
SambaNova Systems ist ein Arbeitgeber, der Chancengleichheit fördert und Affirmative Action betreibt. Alle qualifizierten Bewerber werden unabhängig von Alter (40 Jahre und älter), Hautfarbe, Behinderung, Geschlechtsidentität, genetischen Informationen, Familienstand, Militär- oder Veteranenstatus, nationaler Herkunft/Abstammung, Rasse, Religion, Weltanschauung, Geschlecht (einschließlich Schwangerschaft, Entbindung, Stillzeit), sexueller Orientierung und jedem anderen nach geltendem Bundes-, Landes- oder Lokalrecht geschützten Status bei der Einstellung berücksichtigt.
Zusammenfassung der Leistungen für Vollzeitstellen in den USA
SambaNova bietet ein wettbewerbsfähiges Gesamtvergütungspaket, bestehend aus Grundgehalt sowie Aktienoptionen und Sozialleistungen. Wir übernehmen 95% der Prämien für die medizinische Krankenversicherung der Mitarbeiter und 77% der Prämien für Angehörige und bieten ein Health Savings Account (HSA) mit Arbeitgeberzuschuss an. Darüber hinaus bieten wir Zahn-, Augen-, Kurz- und Langzeitinvaliditäts-, Basislebens-, freiwillige Lebens- sowie AD&D-Versicherungspläne zusätzlich zu Flexible Spending Account (FSA)-Optionen wie Gesundheitsfürsorge, zweckgebundene Konten und Pflege für Angehörige an. Unser Angebot an Wohlfühlleistungen für Sie und Ihre Angehörigen umfasst ein vollständiges Abonnement für Headspace, eine Gympass+-Mitgliedschaft mit Zugang zu Fitnessstudios, eine One-Medical-Mitgliedschaft, Beratungsdienste über ein Mitarbeiterunterstützungsprogramm (EAP) und vieles mehr.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen