Estados Unidos
Launch Legends
Databricks
Engenheiro(a) de Software Staff - Inferência GenAI
Estados Unidos
San Francisco, California, United States
Tradução automática. Consulte o original.
Sobre a oportunidade
P-1285 SOBRE ESTA VAGA
Como Staff Software Engineer para inferência de GenAI, você liderará a arquitetura, o desenvolvimento e a otimização do motor de inferência que impulsiona o Databricks Foundation Model API.. Você fará a ponte entre os avanços da pesquisa e as demandas de produção, garantindo alto throughput, baixa latência e escalabilidade robusta. Seu trabalho abrangerá toda a pilha de inferência de GenAI: kernels, runtimes, orquestração, memória e integração com frameworks e sistemas de orquestração.
O QUE VOCÊ FARÁ
- Ser o(a) responsável e impulsionar a arquitetura, o design e a implementação do motor de inferência, e colaborar na pilha de serving de modelos otimizada para inferência de LLMs em larga escala
- Trabalhar em estreita colaboração com pesquisadores para trazer novas arquiteturas ou recursos de modelos (esparsidade, compressão de ativação, mistura de especialistas) para o motor
- Liderar a otimização de ponta a ponta para latência, throughput, eficiência de memória e utilização de hardware em GPUs e aceleradores
- Definir e guiar padrões para construir e manter ferramentas de instrumentação, profiling e tracing para descobrir gargalos e orientar otimizações
- Arquitetar mecanismos escaláveis de roteamento, batching, agendamento, gerenciamento de memória e carregamento dinâmico para cargas de trabalho de inferência
- Garantir confiabilidade, reprodutibilidade e tolerância a falhas nos pipelines de inferência, incluindo lançamentos A/B, rollback e versionamento de modelos
- Colaborar multifuncionalmente na integração com infraestrutura de inferência federada e distribuída – orquestrar entre nós, balancear carga, lidar com sobrecarga de comunicação
- Impulsionar a colaboração entre equipes: com engenheiros de plataforma, infraestrutura de nuvem e equipes de segurança/conformidade
- Representar a equipe externamente por meio de benchmarks, whitepapers e contribuições open-source
Requisitos mínimos
O QUE PROCURAMOS
- BS/MS/PhD em Ciência da Computação ou área relacionada
- Forte background em engenharia de software (6+ anos ou equivalente) em sistemas de performance crítica
- Histórico comprovado de responsabilidade por componentes complexos de sistemas e de condução de decisões arquiteturais de ponta a ponta
- Profundo entendimento dos internos de inferência de ML: atenção, MLPs, módulos recorrentes, quantização, operações esparsas, etc.
- Experiência prática com CUDA, programação de GPU e bibliotecas chave (cuBLAS, cuDNN, NCCL, etc.)
- Forte background em design de sistemas distribuídos, incluindo frameworks RPC, filas, batching RPC, sharding, particionamento de memória
- Habilidade demonstrada em descobrir e resolver gargalos de performance em diversas camadas (kernel, memória, rede, scheduler)
- Experiência na construção de ferramentas de instrumentação, tracing e profiling para modelos de ML
- Capacidade de liderar por influência - trabalhar em estreita colaboração com pesquisadores de ML, traduzir ideias de modelos inovadoras em sistemas de produção
- Excelentes habilidades de comunicação e liderança, com mentalidade proativa e orientada à propriedade
- Bônus: pesquisa publicada ou contribuições open-source em sistemas de ML, otimização de inferência ou serving de modelos
Transparência da Faixa Salarial
Databricks está comprometida com práticas de remuneração justas e equitativas. A(s) faixa(s) salarial(is) para esta função está(ão) listada(s) abaixo e representa(m) a faixa salarial esperada para funções não comissionáveis ou o ganho na meta para funções comissionáveis. A remuneração real é baseada em vários fatores que são exclusivos para cada candidato, incluindo, mas não se limitando a, habilidades relacionadas ao trabalho, profundidade de experiência, certificações e treinamento relevantes e localização de trabalho específica. Com base nos fatores acima, Databricks antecipa a utilização de toda a amplitude da faixa. O pacote total de remuneração para esta posição também pode incluir elegibilidade para bônus anual de desempenho, ações e os benefícios listados acima. Para mais informações sobre em qual faixa sua localização se encontra, visite nossa página aqui databricks.com/sites/default/files/2024-08/us-pay-zone-mapping.pdf.
Faixa Salarial Local $190,900—$232,800 USD
Nosso Compromisso com a Diversidade e Inclusão
Na Databricks, estamos comprometidos em promover uma cultura diversa e inclusiva onde todos possam se destacar. Tomamos grande cuidado para garantir que nossas práticas de contratação sejam inclusivas e atendam aos padrões de igualdade de oportunidades de emprego. Indivíduos que buscam emprego na Databricks são considerados sem distinção de idade, cor, deficiência, etnia, estado civil ou familiar, identidade ou expressão de gênero, idioma, origem nacional, capacidade física e mental, afiliação política, raça, religião, orientação sexual, status socioeconômico, status de veterano e outras características protegidas.
Conformidade
Se o acesso a tecnologia ou código-fonte controlado por exportação for necessário para o desempenho das funções do cargo, fica a critério do Empregador solicitar uma licença do governo dos EUA para tais posições, e o Empregador pode se recusar a prosseguir com um candidato com base apenas nisso.
Sobre a Databricks
Databricks é a empresa de Dados e IA. Mais de 20,000 organizações em todo o mundo — incluindo adidas, AT&T, Bayer, Block, Mastercard, Rivian, Unilever e 70% das empresas Fortune 500 — confiam na Plataforma de Dados + IA da Databricks para construir e escalar aplicativos, análises e agentes de dados e IA. Com sede em São Francisco e mais de 30 escritórios globalmente, a Databricks oferece uma plataforma unificada que inclui Genie, Lakebase, Agent Bricks, Lakeflow, Lakehouse e Unity Catalog. Para saber mais, siga a Databricks no LinkedIn linkedin.com/company/databricks, X x.com/databricks, YouTube youtube.com/@Databricks e Instagram instagram.com/databricksinc/?hl=en.
Benefícios
Na Databricks, nos esforçamos para oferecer benefícios e vantagens abrangentes que atendam às necessidades de todos os nossos funcionários. Para detalhes específicos sobre os benefícios oferecidos em sua região, clique aqui docs.google.com/document/d/154un3e8Xav4BceOSlcYFZRGEuQI54xMxVydRwQn54eQ/edit?usp=sharing.
Mais oportunidades com um só perfil
Quer aparecer para várias vagas sem repetir todo o processo? Crie seu perfil e seja encontrado pelas empresas que usam a Nort.
Criar meu perfil