Engenheiro Sênior Principal de Implementação de Modelos

A SambaNova é líder em infraestrutura de IA de próxima geração, oferecendo uma plataforma de inferência full-stack para clientes em todo o mundo. No centro da tecnologia da SambaNova está a RDU (Reconfigurable Dataflow Unit) — um chip construído com base em uma arquitetura de fluxo de dados em vez do modelo tradicional de GPU. Seu desempenho de decodificação é especialmente forte para cargas de trabalho de agentes, como agentes de múltiplos turnos, geração de código e aplicações de longa duração. As RDUs são integradas ao SambaRack, um hardware em escala de rack que permite aos clientes implantar modelos de última geração com melhor desempenho, maior eficiência energética e tempo de valorização mais rápido.

Sobre a equipe

Levamos modelos de fronteira de pesos abertos (densos, mistura de especialistas com centenas de especialistas, híbridos Mamba/atenção, atenção de janela deslizante, previsão de múltiplos tokens) do Hugging Face para produção nos aceleradores de fluxo de dados RDU da SambaNova. Isso significa compilá-los, provar que estão numericamente corretos em relação à referência, servi-los com o conjunto completo de recursos e mesclar o trabalho em uma pilha compartilhada para que o próximo modelo seja mais barato.

Sobre a função

Você implementará novos LLMs de pesos abertos, incluindo arquiteturas densas, de mistura de especialistas e híbridas Mamba/atenção, nos aceleradores de fluxo de dados RDU da SambaNova e os colocará em produção. Isso significa adaptar o modelo, mapeá-lo entre chips e hosts, compilá-lo e validá-lo numericamente em relação à referência. Você também criará recursos de inferência, como batching contínuo, decodificação especulativa e FP8/FP4 como módulos compartilhados, para que cada novo modelo custe menos para ser implementado.

Sucesso em seis meses

Assumir a responsabilidade por uma família de modelos desde a primeira compilação até o serviço e a mesclagem; transformar uma correção de modelo único em um módulo compartilhado adotado por outros; reduzir mensuravelmente um ciclo longo para a equipe.

Faixa Salarial Base

Faixa de Pagamento Base $208,000—$312,000 USD

Diretrizes de Inscrição

Observe que, para ser considerado um candidato a qualquer posição na SambaNova Systems, você deve enviar um formulário de inscrição para cada posição para a qual acredita estar qualificado.

Política de EEO

A SambaNova Systems é um Empregador de Igualdade de Oportunidades/Ação Afirmativa. Todos os candidatos qualificados receberão consideração para emprego sem levar em conta idade (40 anos ou mais), cor, deficiência, identidade de gênero, informações genéticas, estado civil, status militar ou de veterano, origem nacional/ancestralidade, raça, religião, credo, sexo (incluindo gravidez, parto, amamentação), orientação sexual e qualquer outro status aplicável protegido por leis federais, estaduais ou locais.

Resumo de Benefícios para Posições de Tempo Integral Baseadas nos EUA

A SambaNova oferece um pacote de recompensas totais competitivo, incluindo o salário base, além de ações e benefícios. Cobrimos 95% da cobertura premium para seguro médico do funcionário e 77% da cobertura premium para dependentes, e oferecemos uma Conta Poupança de Saúde (HSA) com contribuição do empregador. Também oferecemos planos de seguro Odontológico, Oftalmológico, de Incapacidade de Curto/Longo Prazo, Vida Básica, Vida Voluntária e AD&D, além de opções de Conta de Gastos Flexíveis (FSA), como Saúde, Propósito Limitado e Cuidado de Dependentes. Nossa biblioteca de benefícios de bem-estar disponível para você e seus dependentes inclui uma assinatura completa do Headspace, associação ao Gympass+ com acesso a academias físicas, associação ao One Medical, serviços de aconselhamento com um Programa de Assistência ao Empregado e muito mais.