Ingeniero/a Principal Senior de Implementación de Modelos

SambaNova es líder en infraestructura de IA de próxima generación y ofrece una plataforma de inferencia full-stack para clientes de todo el mundo. El núcleo de la tecnología de SambaNova es la RDU (Reconfigurable Dataflow Unit), un chip basado en una arquitectura de flujo de datos en lugar del modelo de GPU tradicional. Su rendimiento de decodificación es especialmente sólido para cargas de trabajo de agentes, como agentes de múltiples turnos, generación de código y aplicaciones de larga duración. Las RDU se integran en SambaRack, un hardware a escala de rack que permite a los clientes implementar modelos de última generación con un mejor rendimiento, mayor eficiencia energética y un tiempo de obtención de valor más rápido.

Sobre el equipo

Llevamos modelos de pesos abiertos de vanguardia (densos, mezcla de expertos con cientos de expertos, híbridos Mamba/atención, atención de ventana deslizante, predicción de múltiples tokens) desde Hugging Face hasta la producción en los aceleradores de flujo de datos RDU de SambaNova. Esto significa compilarlos, demostrar que son numéricamente correctos frente a la referencia, servirlos con el conjunto completo de funciones y fusionar el trabajo en una pila compartida para que el siguiente modelo sea más económico.

Sobre el puesto

Implementará nuevos LLMs de pesos abiertos, incluidas arquitecturas densas, de mezcla de expertos e híbridas Mamba/atención, en los aceleradores de flujo de datos RDU de SambaNova y los llevará a la producción. Esto significa adaptar el modelo, mapearlo a través de chips y hosts, compilarlo y validarlo numéricamente frente a la referencia. También creará funciones de inferencia como procesamiento por lotes continuo, decodificación especulativa y FP8/FP4 como módulos compartidos, de modo que cada nuevo modelo cueste menos de implementar.

Éxito en seis meses

Hacerse cargo de una familia de modelos desde la primera compilación hasta su servicio y fusión; convertir una corrección de un solo modelo en un módulo compartido que otros adopten; acortar de forma medible un ciclo largo para el equipo.

Rango salarial base

Rango de salario base $208,000—$312,000 USD

Directrices de envío

Tenga en cuenta que, para ser considerado candidato a cualquier puesto en SambaNova Systems, debe enviar un formulario de solicitud para cada puesto para el que crea que está cualificado.

Política de EEO

SambaNova Systems es un empleador que ofrece igualdad de oportunidades y acción afirmativa. Todos los candidatos cualificados recibirán consideración para el empleo sin distinción de edad (40 años o más), color, discapacidad, identidad de género, información genética, estado civil, estatus militar o de veterano, origen nacional/ascendencia, raza, religión, credo, sexo (incluyendo embarazo, parto, lactancia), orientación sexual y cualquier otro estatus aplicable protegido por leyes federales, estatales o locales.

Resumen de beneficios para puestos de empleo a tiempo completo con sede en EE. UU.

SambaNova ofrece un paquete de compensación total competitivo, que incluye el salario base, además de capital y beneficios. Cubrimos el 95% de la cobertura de la prima del seguro médico para empleados y el 77% de la cobertura de la prima para dependientes, y ofrecemos una Cuenta de Ahorros para la Salud (HSA) con contribución del empleador. También ofrecemos planes de seguro dental, de visión, de discapacidad a corto/largo plazo, de vida básico, de vida voluntario y AD&D, además de opciones de Cuenta de Gastos Flexibles (FSA) como atención médica, propósito limitado y cuidado de dependientes. Nuestra biblioteca de beneficios de bienestar disponibles para usted y sus dependientes incluye una suscripción completa a Headspace, membresía de Gympass+ con acceso a gimnasios físicos, membresía de One Medical, servicios de asesoramiento con un Programa de Asistencia al Empleado y mucho más.