PROTOMIQ LLC
NeuroSpark
Assurer l'inférence à grande échelle est un problème d'ordonnancement. Les requêtes arrivent avec des formes et des attentes de latence très variées, les GPU sont hétérogènes et coûteux, et la différence entre une plateforme rapide et une plateforme économique dépend généralement de la manière dont les tâches sont réparties. C'est ce système que vous aurez la responsabilité de gérer.
Vous concevrez et construirez la couche d'ordonnancement et de routage de notre plateforme : comment les requêtes sont admises, priorisées, traitées par lots et réparties sur un parc de GPU multi-cloud hétérogène, sous une charge multi-tenant réelle et avec des engagements de latence concrets. Il s'agit d'un travail sur les systèmes fondamentaux à partir d'une page blanche — vous prendrez les décisions architecturales de base, sans avoir à maintenir celles des autres, et la qualité de ces décisions se reflétera directement sur nos marges et sur les chiffres de latence de nos clients.
Vous travaillerez au plus près du matériel et des mathématiques. Certains jours, cela impliquera de réfléchir au comportement des files d'attente et aux boucles de contrôle sur un tableau blanc ; d'autres jours, il s'agira de profiler Go ou Rust jusqu'à ce que la latence de queue diminue. Nous sommes une petite équipe, vous serez donc responsable des systèmes de bout en bout — conception, implémentation, déploiement et réalité de la production par la suite.
Il s'agit d'un rôle de contributeur individuel. Nous recherchons quelqu'un qui a déjà construit de tels systèmes et qui peut travailler de manière autonome dès la première semaine.
La fourchette de salaire de base pour ce poste est de $170,000 – $350,000 par an. Cette fourchette reflète le poste à travers différents niveaux d'expérience ; le salaire de base réel sera déterminé par les connaissances, les compétences, l'expérience liées au poste et le lieu de travail, et peut se situer n'importe où dans la fourchette indiquée.
En plus du salaire de base, ce poste est éligible à une participation au capital de l'entreprise, ainsi qu'à une couverture médicale, dentaire et optique, et d'autres avantages.
Nous sommes en mesure de parrainer des visas H-1B et d'autres visas de travail pour les candidats qualifiés.
Plateforme de recrutement inversé pour développeurs