Vereinigte Staaten
Launch Legends
SambaNova
Senior Principal Runtime Engineer
Vereinigte Staaten
San Jose, California, United States
Automatische Übersetzung. Prüfe das Original.
ÜBER DIE ROLLE
SambaNova ist ein führender Anbieter von KI-Infrastruktur der nächsten Generation und liefert eine full-stack Inferenzplattform für Kunden weltweit. Im Kern der Technologie von SambaNova steht die RDU (Reconfigurable Dataflow Unit) – ein Chip, der auf einer Dataflow-Architektur und nicht auf dem traditionellen GPU-Modell basiert. Ihre Dekodierungsleistung ist besonders stark für agentenbasierte Workloads wie Multi-Turn-Agenten, Code-Generierung und langlaufende Anwendungen. RDUs werden in SambaRack, einer Rack-Scale-Hardware, verpackt, die es Kunden ermöglicht, hochmoderne Modelle mit besserer Leistung, größerer Energieeffizienz und schnellerer Wertschöpfung einzusetzen.
Das Runtime Team entwickelt eine hochperformante, verteilte und skalierbare Software-Ausführungsumgebung für die SambaNova SambaStack und Cloud-Plattformen zur Unterstützung von Dataflow-Anwendungen wie ML-Training und -Inferenz sowie HPC-Anwendungen. Wir suchen einen Softwareentwickler, der an allen Teilen der Runtime-Stacks arbeitet und KI-, ML- und wissenschaftliche Anwendungen in hochperformanten verteilten Systemen unterstützt. Sie werden am Aufbau, Testen und Bereitstellen von hochperformanten Compute-Systemen der nächsten Generation für KI-Anwendungen im großen Maßstab beteiligt sein.
VERANTWORTLICHKEITEN
- Neue und erweiterte Funktionen zur Unterstützung von hochperformanten, skalierbaren ML-Inferenz- und Trainingsanwendungen
- Treiber und Kernel für Silizium der nächsten Generation
- Beseitigung von Netzwerkengpässen zur Ermöglichung hochperformanter verteilter Systeme
- User-Space-Bibliotheken für hohe Leistung und hohe Auslastung von HW-Ressourcen
- Benutzerorientierte Tools (Analyse, Job- und HW-Management, Profiling, Debugging usw.) für Datascale-Systeme
- Funktionsübergreifende Zusammenarbeit, einschließlich Hardware, ML-Anwendung, Compiler und DevOps
ERFORDERLICHE QUALIFIKATIONEN
- B.S. in Informatik, Ingenieurwesen oder einem verwandten Fachgebiet
- 5+ Jahre Erfahrung in der Softwareentwicklung, oft mit Schwerpunkt auf verteilten Systemen, Netzwerken oder Cloud-Infrastruktur
- Nachgewiesene Erfahrung im Aufbau, Testen und Optimieren von Software für verteilte, hochperformante Systeme. Tiefgehende Kenntnisse von User-Bibliotheken und Runtime-Stacks
- Solides Verständnis von Switching und Routing sowie die Fähigkeit, Switches und Router für maximale Anwendungsleistung zu konfigurieren und zu debuggen
- Umfangreiche Erfahrung mit RDMA- und RoCE-Netzwerkstacks, wie z. B. RDMA-basierten Verben und Congestion Management
- Praktische Erfahrung mit Kernel-Treibern und Systemsoftware, die direkt mit Hardware interagiert
- Expertise im Design und der Optimierung von Systemen, die massive parallele Workloads verarbeiten, einschließlich machine learning Trainings- und Inferenzaufgaben, die Milliarden von Operationen pro Sekunde umfassen
- Tiefes Verständnis der Hardware-Software-Interaktion, einschließlich Registern, Device Memory Management und der Feinheiten des Accelerator-Designs. Erfahrung mit ASIC-Beschleunigern ist sehr wünschenswert
- Vertrautheit mit der Architektur verteilter Systeme, einschließlich Netzwerken, Kommunikationsprotokollen und den Herausforderungen einer effizienten Skalierung von Rechenressourcen
- Praktische Erfahrung mit Softwareentwicklungswerkzeugen wie Git, Jenkins und Jira, mit der Fähigkeit, Automatisierungs- und Continuous-Integration-Bemühungen voranzutreiben
- Fähigkeit, an der Schnittstelle von Hardware und Software zu arbeiten und Systeme zu entwerfen, die sowohl Leistung als auch Zuverlässigkeit optimieren
BEVORZUGTE QUALIFIKATIONEN
- Erfahrung im Design oder der engen Zusammenarbeit mit kundenspezifischen Hardware-Beschleunigern (ASICs, FPGAs usw.) und Verständnis der Low-Level-Interaktionen
- Kenntnisse von SDN, DPDK, SONiC oder modernen Netzwerk-Frameworks und Hintergrund mit verteilten Kommunikationsbibliotheken (z. B. UCX, MPI, NCCL).
- Vertrautheit mit der Bereitstellung von Hochleistungssystemen in verteilten Umgebungen, Cloud- oder Rechenzentrumsumgebungen
Einreichungsrichtlinien
Bitte beachten Sie, dass Sie, um als Bewerber für eine Position bei SambaNova Systems in Betracht gezogen zu werden, ein Bewerbungsformular für jede Position einreichen müssen, für die Sie sich qualifiziert halten.
EEO-Richtlinie
SambaNova Systems ist ein Equal Opportunity/Affirmative Action Arbeitgeber. Alle qualifizierten Bewerber erhalten eine Beschäftigungsberücksichtigung, unabhängig von Alter (40 und älter), Hautfarbe, Behinderung, Geschlechtsidentität, genetischen Informationen, Familienstand, Militär- oder Veteranenstatus, nationaler Herkunft/Abstammung, Rasse, Religion, Glauben, Geschlecht (einschließlich Schwangerschaft, Geburt, Stillen), sexueller Orientierung und jedem anderen anwendbaren Status, der durch Bundes-, Landes- oder lokale Gesetze geschützt ist.
Zusammenfassung der Leistungen für Vollzeitstellen in den USA
SambaNova bietet ein wettbewerbsfähiges Gesamtvergütungspaket, einschließlich Grundgehalt, zuzüglich Aktienoptionen und Leistungen. Wir übernehmen 95% der Prämien für die medizinische Krankenversicherung der Mitarbeiter und 77% der Prämien für Angehörige und bieten ein Health Savings Account (HSA) mit Arbeitgeberbeitrag. Wir bieten außerdem Zahn-, Augen-, Kurz-/Langzeitinvaliditäts-, Grundlebens-, freiwillige Lebens- und AD&D-Versicherungspläne zusätzlich zu Flexible Spending Account (FSA)-Optionen wie Gesundheitswesen, eingeschränkten Zweck und Kinderbetreuung. Unsere Bibliothek an Wohlfühlleistungen, die Ihnen und Ihren Angehörigen zur Verfügung steht, umfasst ein vollständiges Abonnement für Headspace, eine Gympass+-Mitgliedschaft mit Zugang zu physischen Fitnessstudios, eine One Medical-Mitgliedschaft, Beratungsdienste mit einem Employee Assistance Program und vieles mehr.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen