Senior Principal Model Bring-up Engineer

SambaNova ist führend im Bereich der KI-Infrastruktur der nächsten Generation und liefert eine full-stack-Inferenzplattform für Kunden weltweit. Das Herzstück der Technologie von SambaNova ist die RDU (Reconfigurable Dataflow Unit) – ein Chip, der auf einer Datenflussarchitektur basiert und nicht auf dem traditionellen GPU-Modell. Die Dekodierungsleistung ist besonders stark bei agentenbasierten Workloads wie Multi-Turn-Agenten, Code-Generierung und langlebigen Anwendungen. RDUs werden in SambaRack integriert, einer Hardware auf Rack-Ebene, die es Kunden ermöglicht, modernste Modelle mit besserer Leistung, höherer Energieeffizienz und schnellerer Wertschöpfung bereitzustellen.

Über das Team

Wir bringen Open-Weight-Modelle der Spitzenklasse (dicht, Mixture-of-Experts mit hunderten von Experten, hybride Mamba/Attention-Modelle, Sliding-Window-Attention, Multi-Token-Vorhersage) von Hugging Face in die produktive Bereitstellung auf den RDU-Datenflussbeschleunigern von SambaNova. Das bedeutet, sie zu kompilieren, ihre numerische Korrektheit gegenüber der Referenz nachzuweisen, sie mit dem vollen Funktionsumfang bereitzustellen und die Arbeit in einen gemeinsamen Stack zu integrieren, damit das nächste Modell kostengünstiger wird.

Über die Rolle

Sie bringen neue Open-Weight LLMs, einschließlich dichter Architekturen, Mixture-of-Experts und hybrider Mamba/Attention-Architekturen, auf den RDU-Datenflussbeschleunigern von SambaNova in die produktive Bereitstellung. Das bedeutet, das Modell anzupassen, es über Chips und Hosts hinweg abzubilden, es zu kompilieren und numerisch gegen die Referenz zu validieren. Sie entwickeln außerdem Inferenzfunktionen wie Continuous Batching, Speculative Decoding und FP8/FP4 als gemeinsam genutzte Module, sodass jedes neue Modell kostengünstiger in Betrieb genommen werden kann.

Erfolg nach sechs Monaten

Verantwortung für eine Modellfamilie von der ersten Kompilierung bis zur Bereitstellung und Zusammenführung; Umwandlung einer modellspezifischen Korrektur in ein gemeinsam genutztes Modul, das von anderen übernommen wird; messbare Verkürzung eines langwierigen Prozesses für das Team.

Grundgehaltsspanne

Grundgehaltsspanne $208,000—$312,000 USD

Richtlinien für die Bewerbung

Bitte beachten Sie, dass Sie für jede Position bei SambaNova Systems, für die Sie sich qualifiziert fühlen, ein separates Bewerbungsformular einreichen müssen, um als Bewerber berücksichtigt zu werden.

EEO-Richtlinie

SambaNova Systems ist ein Arbeitgeber, der Chancengleichheit fördert und Affirmative Action betreibt. Alle qualifizierten Bewerber werden unabhängig von Alter (40 Jahre und älter), Hautfarbe, Behinderung, Geschlechtsidentität, genetischen Informationen, Familienstand, Militär- oder Veteranenstatus, nationaler Herkunft/Abstammung, Rasse, Religion, Weltanschauung, Geschlecht (einschließlich Schwangerschaft, Entbindung, Stillzeit), sexueller Orientierung und jedem anderen nach geltendem Bundes-, Landes- oder Lokalrecht geschützten Status bei der Einstellung berücksichtigt.

Zusammenfassung der Leistungen für Vollzeitstellen in den USA

SambaNova bietet ein wettbewerbsfähiges Gesamtvergütungspaket, das neben dem Grundgehalt auch Aktienoptionen und Sozialleistungen umfasst. Wir übernehmen 95% der Prämien für die medizinische Krankenversicherung der Mitarbeiter und 77% der Prämien für Angehörige und bieten ein Health Savings Account (HSA) mit Arbeitgeberzuschuss. Darüber hinaus bieten wir Zahn-, Augen-, Kurz- und Langzeit-Berufsunfähigkeits-, Basislebens-, freiwillige Lebens- und AD&D-Versicherungspläne sowie Optionen für Flexible Spending Accounts (FSA) wie Gesundheitsfürsorge, zweckgebundene Konten und Pflege für Angehörige. Unser Angebot an Wohlfühlleistungen für Sie und Ihre Angehörigen umfasst ein vollständiges Abonnement für Headspace, eine Gympass+-Mitgliedschaft mit Zugang zu Fitnessstudios, eine One-Medical-Mitgliedschaft, Beratungsdienste über ein Mitarbeiterunterstützungsprogramm und vieles mehr.