Estados Unidos
SanMar- External
SambaNova
Ingeniero de rendimiento de IA - Recién graduado
Estados Unidos
San Jose, California, United States · Austin, Texas, United States
PythonC++
Traducción automática. Consulta el original.
Sobre la oportunidad
SambaNova es líder en infraestructura de IA de próxima generación y ofrece una plataforma de inferencia full-stack para clientes de todo el mundo. El núcleo de la tecnología de SambaNova es la RDU (Reconfigurable Dataflow Unit), un chip basado en una arquitectura de flujo de datos en lugar del modelo tradicional de GPU. Su rendimiento de decodificación es especialmente sólido para cargas de trabajo de agentes, como agentes de múltiples turnos, generación de código y aplicaciones de larga duración. Las RDU se integran en SambaRack, un hardware a escala de rack que permite a los clientes implementar modelos de última generación con un mejor rendimiento, mayor eficiencia energética y un tiempo de obtención de valor más rápido.
Sobre el equipo
El equipo de rendimiento de IA implementa y optimiza modelos fundamentales como DeepSeek, Llama, Qwen y GPT OSS en la plataforma de flujo de datos de SambaNova. Analizamos y ajustamos los modelos en las capas de compilador, tiempo de ejecución y hardware para mejorar el rendimiento y la latencia de la inferencia.
Sobre el puesto
Como ingeniero de rendimiento de IA recién graduado, implementarás nuevos modelos de código abierto en la pila de SambaNova y trabajarás para acelerar su ejecución. Analizarás la ejecución de los modelos, identificarás cuellos de botella y aplicarás optimizaciones como cuantización, fusión de kernels y una mejor programación junto con los equipos de compilador, tiempo de ejecución y hardware.
Responsabilidades
- Implementar nuevos modelos fundamentales en la plataforma de SambaNova utilizando nuestra pila de software
- Analizar el rendimiento de los modelos en las capas de compilador, tiempo de ejecución y hardware
- Identificar cuellos de botella y proponer optimizaciones de flujo de datos o programación para sistemas de nodo único y distribuidos
- Aplicar técnicas de investigaciones recientes en cuantización, programación y optimización de memoria
- Realizar pruebas comparativas de rendimiento y latencia, y realizar un seguimiento de los cambios de rendimiento entre versiones
- Trabajar con los equipos de machine learning, compilador, tiempo de ejecución y hardware para incorporar mejoras de rendimiento en los productos de SambaNova
Cualificaciones requeridas
- Grado en Informática, Ingeniería Eléctrica o campo relacionado
- Sólidas habilidades de programación en Python o C++
- Comprensión de algoritmos, estructuras de datos y computación numérica
- Experiencia con PyTorch, TensorFlow o JAX
- Experiencia con marcos de inferencia como vLLM, TensorRT o SGLang
- Experiencia en programación de GPU con CUDA o Triton
Cualificaciones preferentes
- Máster o doctorado en Informática, Ingeniería Eléctrica o campo relacionado
- Experiencia con entrenamiento o inferencia de LLM
- Familiaridad con cuantización, optimización de grafos, fusión de kernels o particionamiento de modelos
- Conocimiento de jerarquía de memoria, almacenamiento en caché y programación para la ejecución de modelos grandes
- Experiencia en prácticas o investigación en sistemas de ML u optimización de rendimiento
- Publicaciones o contribuciones de código abierto en sistemas de ML
Rango de salario base
Rango de salario base $131,200—$196,800 USD
Directrices de envío
Tenga en cuenta que, para ser considerado candidato a cualquier puesto en SambaNova Systems, debe enviar un formulario de solicitud para cada puesto para el que crea que está cualificado.
Política de igualdad de oportunidades (EEO)
SambaNova Systems es un empleador que ofrece igualdad de oportunidades y aplica acciones afirmativas. Todos los candidatos cualificados serán considerados para el empleo sin distinción de edad (40 años o más), color, discapacidad, identidad de género, información genética, estado civil, estatus militar o de veterano, origen nacional/ascendencia, raza, religión, credo, sexo (incluyendo embarazo, parto, lactancia), orientación sexual y cualquier otro estatus aplicable protegido por las leyes federales, estatales o locales.
Resumen de beneficios para puestos a tiempo completo con sede en EE. UU.
SambaNova ofrece un paquete de compensación total competitivo, que incluye el salario base, además de capital y beneficios. Cubrimos el 95% de la prima del seguro médico para empleados y el 77% de la prima para dependientes, y ofrecemos una Cuenta de Ahorros para la Salud (HSA) con contribución del empleador. También ofrecemos planes de seguro dental, de visión, de discapacidad a corto/largo plazo, de vida básico, de vida voluntario y de muerte accidental y desmembramiento (AD&D), además de opciones de Cuenta de Gastos Flexibles (FSA) como atención médica, propósito limitado y cuidado de dependientes. Nuestra biblioteca de beneficios de bienestar disponible para usted y sus dependientes incluye una suscripción completa a Headspace, membresía de Gympass+ con acceso a gimnasios físicos, membresía de One Medical, servicios de asesoramiento con un Programa de Asistencia al Empleado y mucho más.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil