Estados Unidos
Redwood Materials
True Talent Solutions Partners
Membro da Equipe Técnica
Estados Unidos
San Francisco, California, United States
Python
Tradução automática. Consulte o original.
Sobre a Vaga
Junte-se a uma pequena equipe construindo infraestrutura de IA que melhora o desempenho e a eficiência da inferência de modelos de código aberto. Você trabalhará com modelos, sistemas de serviço, kernels e infraestrutura de produção para ajudar a entregar inferência confiável e econômica em diversos hardwares.
O que você fará
- Fornecer suporte no dia zero para novos modelos de código aberto, ajustando-os para latência e throughput.
- Otimizar sistemas de serviço através de técnicas como batching, KV caching, decodificação especulativa e quantização.
- Escrever e ajustar kernels usando CUDA, HIP e Triton em uma variedade de plataformas aceleradoras.
- Projetar, implantar e operar clusters heterogêneos em provedores de infraestrutura.
- Executar inferência de produção em frotas de hardware mistas, melhorando a confiabilidade, observabilidade e custo por token.
- Trabalhar com clientes e a equipe de engenharia para identificar problemas e guiar soluções.
O que buscamos
- Um a seis anos de experiência, com forte experiência em sistemas, backend, infraestrutura ou engenharia de baixo nível.
- Forte compreensão de arquitetura de computadores, hierarquias de memória e internos de sistemas operacionais.
- Experiência em gerenciar sistemas complexos de ponta a ponta, conquistas técnicas notáveis ou um histórico de progressão rápida.
- Fortes fundamentos de ciência da computação de graduação e experiência em uma organização de tecnologia de alto calibre ou startup em estágio inicial.
- Disponibilidade para iniciar imediatamente e trabalhar presencialmente em San Francisco.
- Familiaridade com CUDA, HIP, Triton, Python, ou programação de GPU; experiência com otimização de inferência e infraestrutura em larga escala é valiosa.
- Experiência usando agentes de IA e ferramentas de codificação para melhorar fluxos de trabalho de engenharia, e conforto em se comunicar com clientes.
Remuneração e Benefícios
O salário base é de US$ 200,000 a US$ 300,000 USD anualmente. Patrocínio de visto está disponível.
Localização
Presencial em San Francisco, Califórnia, Estados Unidos.
Mais oportunidades com um só perfil
Quer aparecer para várias vagas sem repetir todo o processo? Crie seu perfil e seja encontrado pelas empresas que usam a Nort.
Criar meu perfil