PROTOMIQ LLC
NeuroSpark
Servir inferência em escala é um problema de agendamento. As solicitações chegam com formatos e expectativas de latência extremamente variados, as GPUs são heterogêneas e caras, e a diferença entre uma plataforma rápida e uma econômica geralmente se resume a quão bem o trabalho é alocado. Esse sistema é o que você irá liderar.
Você projetará e construirá a camada de agendamento e roteamento da nossa plataforma: como as solicitações são admitidas, priorizadas, processadas em lote e alocadas em uma frota de GPU multi-cloud heterogênea, sob carga real multi-tenant e compromissos reais de latência. Este é um trabalho de sistemas centrais com uma folha em branco — você tomará as decisões arquiteturais fundamentais, não mantendo as de outra pessoa, e a qualidade dessas decisões aparecerá diretamente em nossas margens e nos números de latência dos nossos clientes.
Você trabalhará próximo ao hardware e próximo à matemática. Em alguns dias, isso significa raciocinar sobre o comportamento de filas e loops de controle em um quadro branco; em outros, significa analisar o desempenho de Go ou Rust até que a latência de cauda diminua. Somos uma equipe pequena, então você será responsável pelos sistemas de ponta a ponta — design, implementação, lançamento e a realidade da produção posteriormente.
Esta é uma função de contribuidor individual. Estamos procurando alguém que já tenha construído sistemas como este antes e que possa operar de forma independente desde a primeira semana.
A faixa salarial base para esta posição é de $170,000 – $350,000 por ano. A faixa reflete a posição em diferentes níveis de experiência; o salário base real será determinado pelo conhecimento, habilidades, experiência e local de trabalho relacionados ao cargo, podendo situar-se em qualquer ponto dentro da faixa declarada.
Além do salário base, esta posição é elegível para equity na empresa, juntamente com cobertura médica, odontológica e oftalmológica, e outros benefícios.
Podemos patrocinar vistos H-1B e outros vistos de trabalho para candidatos qualificados.
Plataforma de recrutamento reverso para programadores