Estados Unidos
Siemens
SambaNova
Arquiteto de Desempenho de Sistemas de Inferência
Estados Unidos
San Jose, California, United States
Tradução automática. Consulte o original.
Sobre a oportunidade
A SambaNova é líder em infraestrutura de IA de próxima geração, oferecendo uma plataforma de inferência full-stack para clientes em todo o mundo. No centro da tecnologia da SambaNova está a RDU (Reconfigurable Dataflow Unit) — um chip construído com base em uma arquitetura de fluxo de dados, em vez do modelo tradicional de GPU. Seu desempenho de decodificação é especialmente forte para cargas de trabalho agentic, como agentes de múltiplos turnos, geração de código e aplicações de longa duração. As RDUs são integradas ao SambaRack, um hardware em escala de rack que permite aos clientes implantar modelos de última geração com melhor desempenho, maior eficiência energética e tempo de valorização mais rápido.
Sobre a equipe
A equipe de Desempenho de Sistemas de Inferência responde quão rápido os sistemas da SambaNova conseguem servir modelos de linguagem de grande escala e o que é necessário para chegar lá. Capturamos tráfego de produção real, realizamos benchmarks de forma fiel, modelamos e simulamos configurações que ainda não existem e analisamos o pipeline de serviço distribuído entre host, acelerador e fabric. Nosso trabalho alimenta a otimização de serviço atual, bem como o planejamento de hardware e capacidade para a próxima geração. Trabalhamos próximos às áreas de otimização de modelos, sistemas, hardware e produto, e toda a empresa depende dos nossos números.
Sobre a função
Você será o arquiteto de desempenho de inferência de ponta a ponta: como uma solicitação se move através da tokenização, prefill, decodificação e o fabric entre eles, e como uma implantação é dimensionada em relação aos SLOs do cliente. O trabalho possui dois pilares acoplados. Um deles é a captura e benchmarking de carga de trabalho reproduzível, construindo representações reproduzíveis de tráfego real e cada vez mais agentic, para que as medições reflitam a produção em vez de um script de carga ingênuo. O outro é a modelagem e simulação de desempenho, transformando a medição em uma capacidade de análise hipotética para configurações e hardware que ainda não existem.
A fronteira que você ajudará a definir é a inferência heterogênea e desagregada, com GPU no prefill e a RDU na decodificação. Isso abre problemas complexos em rede, armazenamento, cache de prompt e movimentação de dados limitada pela latência de cauda. O desempenho de sistemas de inferência é um campo jovem e a maioria das respostas ainda está sendo descoberta, portanto, você passará seu tempo em problemas ambíguos sem solução estabelecida, e definirá a direção técnica na qual outros se basearão.
Responsabilidades
- Definir e conduzir a estratégia técnica para o desempenho de sistemas de inferência, incluindo captura de carga de trabalho, benchmarking, modelagem e simulação, enquanto desenvolve uma arquitetura que possibilita muitos futuros potenciais.
- Construir a capacidade de captura de carga de trabalho e benchmarking agentic - capturar tráfego de produção representativo e aplicar a disciplina de interrogar resultados, identificando contenção artificial ou taxas de acerto de cache enganosamente altas que nunca ocorrem no uso real.
- Assumir a prática de modelagem e simulação de desempenho - modelos que preveem como uma mudança de configuração altera a saída, informando o planejamento de capacidade em relação aos SLOs do cliente e o planejamento de sistemas e hardware de próxima geração.
- Atacar a lacuna de perfil de ponta a ponta - impulsionar ferramentas que produzam perfis precisos e acionáveis de um pipeline de inferência distribuído para que os gargalos possam ser localizados entre host, acelerador e fabric.
- Atuar como a voz técnica sênior em otimização de modelos, sistemas, hardware e produto, unindo múltiplas atividades e equipes de engenharia e ponderando as compensações de confiabilidade, escalabilidade, custo operacional e facilidade de adoção.
- Atuar como um recurso para toda a organização, incluindo representar a história de desempenho da SambaNova para clientes e parceiros.
- Orientar e multiplicar, elevando a capacidade de engenheiros principais e seniores, construindo os sistemas, ferramentas e padrões que tornam todos mais produtivos.
- Liderar a resolução dos desafios mais ambíguos e novos que abrangem fronteiras organizacionais ou que ainda não possuem uma resposta estabelecida no campo.
Qualificações exigidas
- Bacharelado em Ciência da Computação, Engenharia da Computação ou área relacionada.
- 12+ anos de experiência em engenharia de desempenho, com um histórico comprovado de liderança técnica em sistemas complexos e de grande escala.
- Profundo conhecimento em análise de desempenho de ponta a ponta de sistemas distribuídos com muitas partes móveis e a capacidade de localizar gargalos que outros não conseguem.
- Domínio comprovado de geração e simulação de carga de trabalho realista e de modelagem de desempenho, incluindo a calibração de modelos em relação a cargas de trabalho reais e variáveis.
- Capacidade demonstrada de entrar em um domínio desconhecido e aplicar métodos fundamentais de desempenho com experiência disciplinar transferível.
- Capacidade de liderar esforços multifuncionais, orientar engenheiros seniores e influenciar a direção organizacional.
- Experiência em representar uma organização de forma credível para clientes e parceiros.
- Histórico de definição e entrega independente de trabalhos de alta complexidade e ambiguidade com impacto significativo em produtos ou roteiros.
Qualificações preferenciais
- Mestrado ou Doutorado em Ciência da Computação, Engenharia da Computação ou área relacionada.
- Experiência direta com serviço de inferência LLM - batching contínuo, cache de prompt/KV, desagregação de prefill/decodificação, SLOs de latência de cauda.
- Familiaridade com frameworks de simulação de inferência ou esforços de benchmarking agentic.
- Uma voz técnica pública - palestras, artigos ou presença na comunidade sobre desempenho de sistemas.
Faixa salarial base
Faixa de remuneração base $245,000—$325,000 USD
Diretrizes de envio
Observe que, para ser considerado um candidato a qualquer posição na SambaNova Systems, você deve enviar um formulário de candidatura para cada posição para a qual acredita estar qualificado.
Política de EEO
A SambaNova Systems é um empregador que oferece igualdade de oportunidades e ação afirmativa. Todos os candidatos qualificados receberão consideração para emprego sem distinção de idade (40 anos ou mais), cor, deficiência, identidade de gênero, informações genéticas, estado civil, status militar ou de veterano, origem nacional/ancestralidade, raça, religião, credo, sexo (incluindo gravidez, parto, amamentação), orientação sexual e qualquer outro status aplicável protegido por leis federais, estaduais ou locais.
Resumo de benefícios para posições de tempo integral baseadas nos EUA
A SambaNova oferece um pacote de recompensas totais competitivo, incluindo o salário base, além de participação acionária e benefícios. Cobrimos 95% da cobertura premium para seguro médico do funcionário e 77% da cobertura premium para dependentes, e oferecemos uma Conta Poupança de Saúde (HSA) com contribuição do empregador. Também oferecemos planos de seguro odontológico, oftalmológico, invalidez de curto/longo prazo, seguro de vida básico, seguro de vida voluntário e AD&D, além de opções de Conta de Gastos Flexíveis (FSA), como cuidados de saúde, finalidade limitada e cuidados com dependentes. Nossa biblioteca de benefícios de bem-estar disponível para você e seus dependentes inclui uma assinatura completa do Headspace, associação ao Gympass+ com acesso a academias físicas, associação ao One Medical, serviços de aconselhamento com um Programa de Assistência ao Empregado e muito mais.
Mais oportunidades com um só perfil
Quer aparecer para várias vagas sem repetir todo o processo? Crie seu perfil e seja encontrado pelas empresas que usam a Nort.
Criar meu perfil