Estados Unidos
Temple Health
Jobgether
Ingeniero de plataformas ML, Entrenamiento distribuido
Estados Unidos
United States
PythonKubernetes
Traducción automática. Consulta el original.
Sobre la oportunidad
Este puesto se publica en nombre de una empresa asociada, que gestiona todas las solicitudes y los pasos siguientes. Nuestro socio busca un Ingeniero de plataformas ML, Entrenamiento distribuido con base en Estados Unidos.
- Tipo de empleo: El puesto puede ofrecerse como empleo a tiempo completo o trabajo por contrato, según se indique en el listado original.
Cómo funciona Jobgether
Utilizamos un proceso de emparejamiento impulsado por IA para garantizar que su solicitud sea revisada de forma rápida, objetiva y justa frente a los requisitos principales del puesto. Nuestro sistema identifica a los candidatos que mejor se ajustan, y esta lista corta se comparte directamente con la empresa contratante. La decisión final y los pasos siguientes (entrevistas, evaluaciones) son gestionados por su equipo interno.
¡Agradecemos su interés y le deseamos lo mejor!
¿Por qué solicitar a través de Jobgether?
Aviso de privacidad de datos: Al enviar su solicitud, usted reconoce que Jobgether procesará sus datos personales para evaluar su candidatura y compartir información relevante con el empleador contratante. Este procesamiento se basa en el interés legítimo y las medidas precontractuales bajo las leyes de protección de datos aplicables (incluyendo el RGPD). Puede ejercer sus derechos (acceso, rectificación, supresión, oposición) en cualquier momento.
#LI-CL1
Únase a un equipo de ingeniería de IA de alto impacto que da soporte a aplicaciones de atención sanitaria y ciencias de la vida mediante el entrenamiento de modelos fundacionales a gran escala. Como Ingeniero de plataformas ML especializado en entrenamiento distribuido, trabajará con infraestructura de GPU y cargas de trabajo de entrenamiento de modelos en una plataforma de Google Kubernetes Engine (GKE) impulsada por GPU H200 y GB200. Colaborará con ingenieros de infraestructura y científicos investigadores para optimizar el rendimiento del entrenamiento, diagnosticar fallos complejos y mejorar la ejecución en múltiples nodos a escala. En lugar de centrarse únicamente en las operaciones de clúster, asumirá la responsabilidad integral de la pila de entrenamiento, desde la programación de cargas de trabajo y la red de GPU hasta la evaluación comparativa y las evaluaciones de modelos. Su trabajo ayudará a los científicos a entrenar modelos de forma más eficiente, mejorando al mismo tiempo la fiabilidad, la escalabilidad y la rentabilidad del sistema. Este puesto ofrece un entorno de ingeniería práctico donde la profundidad técnica, la resolución proactiva de problemas y una comunicación clara son esenciales.
Responsabilidades
- Optimizar la plataforma de entrenamiento: Colaborar con los equipos de infraestructura para mejorar los entornos de entrenamiento basados en GKE, incluyendo grupos de nodos de GPU, programación de trabajos, colas, cuotas de recursos y gestión de capacidad.
- Diagnosticar fallos de la plataforma: Investigar las causas subyacentes de los problemas de infraestructura y entrenamiento, resolver problemas sistémicos e implementar soluciones duraderas en lugar de depender de soluciones temporales.
- Ajustar la red de GPU: Optimizar la comunicación de GPU entre múltiples nodos y el rendimiento del entrenamiento utilizando tecnologías y técnicas como RDMA, GPUDirect, NCCL y topología de interconexión de GPU.
- Ejecutar cargas de trabajo de entrenamiento distribuido: Ejecutar, escalar, perfilar y depurar trabajos de entrenamiento en múltiples nodos utilizando marcos basados en PyTorch como FSDP, DeepSpeed, Megatron o NeMo, junto con Ray Train.
- Identificar cuellos de botella en el rendimiento: Analizar la utilización de cómputo, el consumo de memoria, las canalizaciones de entrada y la comunicación de red para mejorar la eficiencia y la escalabilidad del entrenamiento.
- Diseñar puntos de referencia de rendimiento: Desarrollar y ejecutar puntos de referencia que midan el rendimiento, la eficiencia de escalado y el coste por ejecución de entrenamiento, utilizando los resultados para guiar las decisiones de ingeniería.
- Construir sistemas de evaluación de modelos: Crear y mantener arneses de evaluación que midan objetivamente el impacto de los cambios en las recetas de entrenamiento, los modelos y las configuraciones de la plataforma.
- Mejorar la observabilidad y las pruebas: Instrumentar las cargas de trabajo de entrenamiento y los componentes de la plataforma con telemetría y monitorización, y mantener pruebas de canalización de extremo a extremo que reflejen los flujos de trabajo reales de los usuarios.
- Asumir la responsabilidad de los resultados técnicos: Identificar proactivamente las brechas, comunicar el estado y los riesgos del proyecto, proponer soluciones y apoyar a los científicos que dependen de la plataforma.
- Colaborar y comunicarse: Explicar y defender las decisiones arquitectónicas ante ingenieros e investigadores, trabajar eficazmente entre equipos y adaptarse a las prioridades y estructuras organizativas en evolución.
Requisitos mínimos
Requisitos
- Experiencia profesional: Al menos 5 años de experiencia en ingeniería, incluyendo trabajo práctico reciente con infraestructura de entrenamiento de GPU y entrenamiento de modelos a gran escala.
- Ingeniería con Python: Sólidas habilidades de Python a nivel de producción, incluyendo la escritura de código limpio y mantenible, pruebas automatizadas, participación en revisiones de código y seguimiento de prácticas sólidas de desarrollo de software.
- Kubernetes y GKE: Experiencia práctica con Kubernetes en Google Cloud, incluyendo grupos de nodos de GPU, sistemas de programación y colas de trabajos como Kueue, y gestión de cuotas de recursos y capacidad.
- Experiencia en entrenamiento distribuido: Experiencia directa en la ejecución y depuración de trabajos de entrenamiento de PyTorch en múltiples nodos y trabajo con Ray Train.
- Redes e interconexiones de GPU: Sólida comprensión de RDMA, GPUDirect, ajuste de NCCL y arquitecturas de GPU de múltiples nodos que involucran hardware H200 o GB200.
- Análisis de rendimiento: Capacidad demostrada para diseñar y ejecutar puntos de referencia de entrenamiento, evaluar el rendimiento del modelo, identificar cuellos de botella y utilizar evidencia empírica para guiar la optimización.
- Profundidad técnica: Capacidad para explicar la arquitectura del sistema, las opciones de implementación y el comportamiento del rendimiento en detalle, demostrando un juicio de ingeniería independiente en lugar de depender de herramientas de codificación de IA para proporcionar el razonamiento subyacente.
- Responsabilidad y comunicación: Un historial de rendición de cuentas, resolución proactiva de problemas, comunicación transparente y colaboración eficaz en entornos de ingeniería exigentes.
- Experiencia en el dominio preferida: Familiaridad con datos de atención sanitaria o ciencias de la vida, incluyendo información genómica, clínica o biomédica, y experiencia trabajando bajo los requisitos de HIPAA.
- Habilidades adicionales preferidas: Experiencia en la construcción de observabilidad y telemetría para plataformas de entrenamiento, incluyendo métricas, rastreo, alertas y pruebas de canalización de extremo a extremo.
Beneficios
- Salario anual: $159,300–$219,245, con el rango salarial final determinado por el nivel asignado y factores aplicables como la experiencia, la pericia, el desempeño en la entrevista y la ubicación geográfica.
- Seguro médico integral: Cobertura sanitaria para apoyar el bienestar de los empleados.
- Tiempo libre remunerado: Vacaciones y permiso general remunerado.
- Festivos remunerados: Tiempo libre remunerado para los días festivos designados.
- Baja por enfermedad: Permiso para apoyar la salud y la recuperación.
- Permiso parental: Permiso para apoyar a los empleados y sus familias.
- Permiso por duelo: Apoyo durante momentos de pérdida.
- Beneficios de jubilación: Plan 401(k) con una contribución equivalente del empleador.
- Bonos por recomendación de empleados: Oportunidades para recibir bonos por recomendaciones elegibles.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil