Vereinigte Staaten
Amplify Energy Services LLC
Thunder Compute
San Francisco, California, United States
Die Welt baut derzeit massive GPU-Kapazitäten auf. Dennoch sind die eingesetzten GPUs nur zu 20% ausgelastet.
Dies liegt daran, dass GPUs nicht virtualisiert sind, während dies bei jeder anderen Art von Hardware der Fall ist. CPUs und Speicher werden beispielsweise über virtuelle Abstraktionen zugewiesen, die die physische Hardware effizient verwalten, während GPUs statisch auf einer Eins-zu-eins-Basis zugewiesen werden.
Thunder Compute entwickelt diese Virtualisierungsschicht für GPUs. Wir haben über $17.5M von Matrix Partners, Y Combinator sowie führenden Angels von Coreweave, Microsoft, Cognition und Anthropic eingesammelt.
Führende Lösungen gegen Unterauslastung setzen auf der Workload-Ebene an und können daher nur spezifische Anwendungsfälle optimieren. Wir sind der Überzeugung, dass die ideale Lösung zur Cluster-Optimierung für Entwickler unsichtbar und mit allen Workloads kompatibel sein muss; daher muss sie auf der Systemebene angesiedelt sein.
Wir sind ein Team von Systemforschern, das modernste Forschung zur GPU-Virtualisierung in die Produktion überführt, um diese universelle Optimierungsschicht zu entwickeln.
Konkret abstrahiert unsere Virtualisierungsbibliothek GPUs über TCP-Netzwerke. Wir verwenden eine Userspace-Shim-Bibliothek, die über LD_PRELOAD geladen wird, um CUDA-Aufrufe abzufangen und sie über gRPC an einen Host-Server zu senden, der an anderer Stelle im Rechenzentrum mit einer physischen GPU verbunden ist.
Dies ermöglicht etwas wie „Ceph für GPUs“: GPUs werden zu Netzwerkressourcen, die abstrahiert, gepoolt und dynamisch über einen Cluster hinweg zugewiesen werden können, um die Auslastung zu verbessern, ohne dass Entwickler ihre Workloads anpassen müssen.
Ihre Arbeit konzentriert sich auf den Aufbau der zentralen C++-Systeme hinter unserer Virtualisierungsschicht. Dies umfasst Performance-Optimierung mit geringer Latenz, das Debugging verteilter Systeme, Produktionszuverlässigkeit sowie die Erforschung neuer Techniken zur Verbesserung der GPU-Auslastung.
Sie übernehmen die Verantwortung für komplexe Systeme von der frühen Experimentierphase bis hin zum produktiven Einsatz. Beispielprojekte könnten sein:
Sie werden Ihre Zeit damit verbringen, zwischen den Details komplexer, performancekritischer Systeme zu wechseln, die live in der Produktion laufen. In einer Woche verfolgen Sie vielleicht einen Synchronisationsfehler in einem verteilten CUDA-Workload; in der nächsten gestalten Sie möglicherweise einen Hot-Data-Pfad um, um Overhead im Mikrosekundenbereich zu eliminieren.
Diese Arbeit ist nicht einfach. Sie verbindet die schwierigsten Aspekte der Systemforschung mit Production Engineering.
Wir suchen außergewöhnliche Talente im Bereich Low-Level-Engineering, eine starke Arbeitsmoral und extreme Liebe zum Detail. Wir müssen uns schnell bewegen und gleichzeitig qualitativ hochwertigen, zuverlässigen Systemcode ausliefern.
Sie steigen früh genug ein, um die Architektur, die Engineering-Standards und die technische Ausrichtung des Unternehmens maßgeblich mitzugestalten.
Sie arbeiten direkt mit den Gründern an einem kategorieprägenden Systemproblem, mit einem kurzen Weg zwischen dem Schreiben von Code und dessen Ausführung in der Produktion. Die Systeme, die Sie bauen, bilden das Fundament einer neuen Infrastrukturschicht für GPU-Computing.
Sie berichten an den Mitgründer und CTO Brian Model, ehemals Quantitative Developer bei Citadel Securities.
Diese Rolle ist in Vollzeit und vor Ort, fünf Tage pro Woche, in unserem Büro in der Innenstadt von San Francisco.
Unterstützung bei der Relocation und Visa-Sponsoring sind verfügbar.
Reverse-Recruiting- Plattform für Entwickler
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen