PROTOMIQ LLC
NeuroSpark
Die Bereitstellung von Inferenz in großem Maßstab ist ein Scheduling-Problem. Anfragen treffen mit sehr unterschiedlichen Anforderungen und Latenzerwartungen ein, GPUs sind heterogen und teuer, und der Unterschied zwischen einer schnellen und einer wirtschaftlichen Plattform liegt meist darin, wie gut die Arbeitslast verteilt wird. Genau dieses System werden Sie verantworten.
Sie entwerfen und entwickeln die Scheduling- und Routing-Ebene unserer Plattform: wie Anfragen zugelassen, priorisiert, gebündelt und über eine heterogene Multi-Cloud-GPU-Flotte verteilt werden, unter realer Multi-Tenant-Last und echten Latenzverpflichtungen. Dies ist eine Kernsystem-Aufgabe auf der grünen Wiese – Sie treffen die grundlegenden Architektur-Entscheidungen, anstatt die eines anderen zu pflegen, und die Qualität dieser Entscheidungen wird sich direkt in unseren Margen und den Latenzwerten unserer Kunden widerspiegeln.
Sie arbeiten nah an der Hardware und nah an der Mathematik. An manchen Tagen bedeutet das, über das Warteschlangenverhalten und Regelkreise am Whiteboard nachzudenken; an anderen Tagen bedeutet es, Go oder Rust zu profilieren, bis die Tail-Latenz sinkt. Wir sind ein kleines Team, daher verantworten Sie Systeme von Anfang bis Ende – Design, Implementierung, Rollout und die Produktionsrealität danach.
Dies ist eine Rolle für einen Individual Contributor. Wir suchen jemanden, der solche Systeme bereits gebaut hat und ab der ersten Woche eigenständig arbeiten kann.
Die Gehaltsspanne für diese Position liegt bei $170,000 – $350,000 pro Jahr. Die Spanne spiegelt die Position über verschiedene Erfahrungsstufen hinweg wider; das tatsächliche Grundgehalt wird durch berufsbezogenes Wissen, Fähigkeiten, Erfahrung und Arbeitsort bestimmt und kann innerhalb der angegebenen Spanne liegen.
Zusätzlich zum Grundgehalt ist diese Position für Equity am Unternehmen sowie für Kranken-, Zahn- und Augenversicherung und weitere Leistungen berechtigt.
Wir können H-1B- und andere Arbeitsvisa für qualifizierte Kandidaten sponsern.
Reverse-Recruiting- Plattform für Entwickler