Estados Unidos
Launch Legends
Databricks
Staff Software Engineer - Inferencia GenAI
Estados Unidos
San Francisco, California, United States
Traducción automática. Consulta el original.
Sobre la oportunidad
P-1285 SOBRE ESTE PUESTO
Como Staff Software Engineer para inferencia de GenAI, liderarás la arquitectura, el desarrollo y la optimización del motor de inferencia que impulsa Databricks Foundation Model API.. Servirás de puente entre los avances de la investigación y las demandas de producción, garantizando un alto rendimiento, baja latencia y una escalabilidad robusta. Tu trabajo abarcará toda la pila de inferencia de GenAI: kernels, tiempos de ejecución, orquestación, memoria e integración con frameworks y sistemas de orquestación.
QUÉ HARÁS
- Ser propietario/a y dirigir la arquitectura, el diseño y la implementación del motor de inferencia, y colaborar en la pila de servicio de modelos optimizada para inferencia de LLMs a gran escala
- Colaborar estrechamente con los investigadores para incorporar nuevas arquitecturas o características de modelos (esparsidad, compresión de activación, mezcla de expertos) en el motor
- Liderar la optimización de extremo a extremo para latencia, rendimiento, eficiencia de memoria y utilización de hardware en GPUs y aceleradores
- Definir y guiar estándares para construir y mantener herramientas de instrumentación, perfilado y trazado para descubrir cuellos de botella y guiar optimizaciones
- Diseñar mecanismos escalables de enrutamiento, lotes, programación, gestión de memoria y carga dinámica para cargas de trabajo de inferencia
- Garantizar la fiabilidad, reproducibilidad y tolerancia a fallos en los pipelines de inferencia, incluyendo lanzamientos A/B, reversiones y versionado de modelos
- Colaborar interfuncionalmente en la integración con infraestructura de inferencia federada y distribuida – orquestar entre nodos, balancear carga, gestionar la sobrecarga de comunicación
- Impulsar la colaboración inter-equipo: con ingenieros de plataforma, infraestructura en la nube y equipos de seguridad/cumplimiento
- Representar al equipo externamente a través de benchmarks, whitepapers y contribuciones de código abierto
Requisitos mínimos
QUÉ BUSCAMOS
- BS/MS/PhD en Ciencias de la Computación o un campo relacionado
- Sólida experiencia en ingeniería de software (6+ años o equivalente) en sistemas críticos para el rendimiento
- Trayectoria demostrada en la propiedad de componentes de sistemas complejos y la dirección de decisiones arquitectónicas de extremo a extremo
- Profundo conocimiento de los detalles internos de la inferencia de ML: atención, MLPs, módulos recurrentes, cuantización, operaciones dispersas, etc.
- Experiencia práctica con CUDA, programación de GPUs y bibliotecas clave (cuBLAS, cuDNN, NCCL, etc.)
- Sólida experiencia en diseño de sistemas distribuidos, incluyendo frameworks RPC, colas, lotes RPC, sharding, partición de memoria
- Capacidad demostrada para descubrir y resolver cuellos de botella de rendimiento en todas las capas (kernel, memoria, red, planificador)
- Experiencia en la creación de herramientas de instrumentación, trazado y perfilado para modelos de ML
- Capacidad para liderar a través de la influencia - trabajar estrechamente con investigadores de ML, traducir ideas de modelos novedosas en sistemas de producción
- Excelentes habilidades de comunicación y liderazgo, con una mentalidad proactiva y orientada a la propiedad
- Bonus: investigación publicada o contribuciones de código abierto en sistemas de ML, optimización de inferencia o servicio de modelos
Transparencia del Rango Salarial
Databricks está comprometida con prácticas de compensación justas y equitativas. Los rangos salariales para este puesto se enumeran a continuación y representan el rango salarial esperado para puestos no comisionables o los ingresos objetivo para puestos comisionables. La compensación real se basa en varios factores que son únicos para cada candidato, incluyendo, entre otros, las habilidades relacionadas con el puesto, la profundidad de la experiencia, las certificaciones y la formación relevantes, y la ubicación de trabajo específica. Basándose en los factores anteriores, Databricks anticipa utilizar el ancho completo del rango. El paquete de compensación total para este puesto también puede incluir la elegibilidad para bonificaciones anuales por rendimiento, acciones y los beneficios enumerados anteriormente. Para más información sobre en qué rango se encuentra su ubicación, visite nuestra página aquí databricks.com/sites/default/files/2024-08/us-pay-zone-mapping.pdf.
Rango Salarial Local $190,900—$232,800 USD
Nuestro Compromiso con la Diversidad y la Inclusión
En Databricks, estamos comprometidos a fomentar una cultura diversa e inclusiva donde todos puedan sobresalir. Ponemos gran cuidado en asegurar que nuestras prácticas de contratación sean inclusivas y cumplan con los estándares de igualdad de oportunidades de empleo. Las personas que buscan empleo en Databricks son consideradas sin distinción de edad, color, discapacidad, etnia, estado civil o familiar, identidad o expresión de género, idioma, origen nacional, capacidad física y mental, afiliación política, raza, religión, orientación sexual, estatus socioeconómico, condición de veterano y otras características protegidas.
Cumplimiento
Si se requiere acceso a tecnología o código fuente controlado por exportación para el desempeño de las funciones del puesto, queda a discreción del Empleador solicitar una licencia del gobierno de EE. UU. para dichos puestos, y el Empleador puede negarse a proceder con un solicitante basándose únicamente en esto.
Sobre Databricks
Databricks es la empresa de Datos e IA. Más de 20,000 organizaciones en todo el mundo —incluyendo adidas, AT&T, Bayer, Block, Mastercard, Rivian, Unilever, y el 70% de las Fortune 500— confían en la Plataforma de Datos e IA de Databricks para construir y escalar aplicaciones, análisis y agentes de datos e IA. Con sede en San Francisco y más de 30 oficinas en todo el mundo, Databricks ofrece una plataforma unificada que incluye Genie, Lakebase, Agent Bricks, Lakeflow, Lakehouse y Unity Catalog. Para saber más, sigue a Databricks en LinkedIn linkedin.com/company/databricks, X x.com/databricks, YouTube youtube.com/@Databricks e Instagram instagram.com/databricksinc/?hl=en.
Beneficios
En Databricks, nos esforzamos por ofrecer beneficios y ventajas integrales que satisfagan las necesidades de todos nuestros empleados. Para obtener detalles específicos sobre los beneficios ofrecidos en su región, haga clic aquí docs.google.com/document/d/154un3e8Xav4BceOSlcYFZRGEuQI54xMxVydRwQn54eQ/edit?usp=sharing.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil