États-Unis
Temple Health
Jobgether
Ingénieur Plateforme ML, Entraînement Distribué
États-Unis
United States
PythonKubernetes
Traduction automatique. Consultez l’original.
À propos du poste
Ce poste est publié pour le compte d'une entreprise partenaire, qui gère toutes les candidatures et les étapes suivantes. Notre partenaire recherche un Ingénieur Plateforme ML, Entraînement Distribué basé aux États-Unis.
- Type d'emploi : Le poste peut être proposé en tant qu'emploi à temps plein ou en contrat, comme indiqué dans l'annonce originale.
Comment fonctionne Jobgether
Nous utilisons un processus de mise en relation basé sur l'IA pour garantir que votre candidature est examinée rapidement, objectivement et équitablement par rapport aux exigences fondamentales du poste. Notre système identifie les candidats les mieux adaptés, et cette liste restreinte est ensuite partagée directement avec l'entreprise qui recrute. La décision finale et les étapes suivantes (entretiens, évaluations) sont gérées par leur équipe interne.
Nous vous remercions de votre intérêt et vous souhaitons bonne chance !
Pourquoi postuler via Jobgether ?
Avis sur la protection des données : En soumettant votre candidature, vous reconnaissez que Jobgether traitera vos données personnelles pour évaluer votre candidature et partager les informations pertinentes avec l'employeur qui recrute. Ce traitement est basé sur l'intérêt légitime et les mesures précontractuelles en vertu des lois applicables sur la protection des données (y compris le RGPD). Vous pouvez exercer vos droits (accès, rectification, effacement, opposition) à tout moment.
#LI-CL1
Rejoignez une équipe d'ingénierie IA à fort impact, dédiée au soutien d'applications dans les domaines de la santé et des sciences de la vie grâce à l'entraînement de modèles de fondation à grande échelle. En tant qu'Ingénieur Plateforme ML spécialisé dans l'entraînement distribué, vous travaillerez sur l'infrastructure GPU et les charges de travail d'entraînement de modèles sur une plateforme Google Kubernetes Engine (GKE) propulsée par des GPU H200 et GB200. Vous collaborerez avec des ingénieurs infrastructure et des chercheurs scientifiques pour optimiser les performances d'entraînement, diagnostiquer des défaillances complexes et améliorer l'exécution multi-nœuds à grande échelle. Plutôt que de vous concentrer uniquement sur les opérations de cluster, vous prendrez en charge l'intégralité de la pile d'entraînement, de la planification des charges de travail et de la mise en réseau GPU au benchmarking et à l'évaluation des modèles. Votre travail aidera les scientifiques à entraîner des modèles plus efficacement tout en améliorant la fiabilité, l'évolutivité et la rentabilité du système. Ce rôle offre un environnement d'ingénierie pratique où la profondeur technique, la résolution proactive de problèmes et une communication claire sont essentielles.
Responsabilités
- Optimiser la plateforme d'entraînement : Collaborer avec les équipes d'infrastructure pour améliorer les environnements d'entraînement basés sur GKE, y compris les pools de nœuds GPU, la planification des tâches, la mise en file d'attente, les quotas de ressources et la gestion de la capacité.
- Diagnostiquer les défaillances de la plateforme : Enquêter sur les causes profondes des problèmes d'infrastructure et d'entraînement, résoudre les problèmes systémiques et mettre en œuvre des correctifs durables plutôt que de s'appuyer sur des solutions temporaires.
- Ajuster la mise en réseau GPU : Optimiser la communication GPU multi-nœuds et le débit d'entraînement en utilisant des technologies et techniques telles que RDMA, GPUDirect, NCCL et la topologie d'interconnexion GPU.
- Exécuter des charges de travail d'entraînement distribué : Exécuter, mettre à l'échelle, profiler et déboguer des tâches d'entraînement multi-nœuds en utilisant des frameworks basés sur PyTorch tels que FSDP, DeepSpeed, Megatron ou NeMo, ainsi que Ray Train.
- Identifier les goulots d'étranglement de performance : Analyser l'utilisation du calcul, la consommation de mémoire, les pipelines d'entrée et la communication réseau pour améliorer l'efficacité et l'évolutivité de l'entraînement.
- Concevoir des benchmarks de performance : Développer et exécuter des benchmarks qui mesurent le débit, l'efficacité de la mise à l'échelle et le coût par cycle d'entraînement, en utilisant les résultats pour guider les décisions d'ingénierie.
- Construire des systèmes d'évaluation de modèles : Créer et maintenir des outils d'évaluation qui mesurent objectivement l'impact des modifications apportées aux recettes d'entraînement, aux modèles et aux configurations de plateforme.
- Améliorer l'observabilité et les tests : Instrumenter les charges de travail d'entraînement et les composants de la plateforme avec de la télémétrie et de la surveillance, et maintenir des tests de pipeline de bout en bout qui reflètent les flux de travail réels des utilisateurs.
- Assumer la responsabilité des résultats techniques : Identifier de manière proactive les lacunes, communiquer l'état et les risques des projets, proposer des solutions et soutenir les scientifiques qui dépendent de la plateforme.
- Collaborer et communiquer : Expliquer et défendre les décisions architecturales auprès des ingénieurs et des chercheurs, travailler efficacement au sein des équipes et s'adapter aux priorités et aux structures organisationnelles en évolution.
Prérequis
Exigences
- Expérience professionnelle : Au moins 5 ans d'expérience en ingénierie, incluant une expérience pratique récente avec l'infrastructure d'entraînement GPU et l'entraînement de modèles à grande échelle.
- Ingénierie Python : Solides compétences en Python au niveau production, incluant l'écriture de code propre et maintenable, les tests automatisés, la participation aux revues de code et le respect des bonnes pratiques de développement logiciel.
- Kubernetes et GKE : Expérience pratique de Kubernetes sur Google Cloud, incluant les pools de nœuds GPU, les systèmes de planification et de file d'attente des tâches tels que Kueue, ainsi que la gestion des quotas de ressources et de la capacité.
- Expertise en entraînement distribué : Expérience directe dans l'exécution et le débogage de tâches d'entraînement PyTorch multi-nœuds et dans le travail avec Ray Train.
- Mise en réseau et interconnexions GPU : Solide compréhension de RDMA, GPUDirect, du réglage NCCL et des architectures GPU multi-nœuds impliquant du matériel H200 ou GB200.
- Analyse de performance : Capacité démontrée à concevoir et exécuter des benchmarks d'entraînement, à évaluer les performances des modèles, à identifier les goulots d'étranglement et à utiliser des preuves empiriques pour guider l'optimisation.
- Profondeur technique : Capacité à expliquer en détail l'architecture système, les choix d'implémentation et le comportement des performances, en faisant preuve d'un jugement d'ingénierie indépendant plutôt que de s'appuyer sur des outils de codage IA pour fournir le raisonnement sous-jacent.
- Responsabilité et communication : Un historique de responsabilité, de résolution proactive de problèmes, de communication transparente et de collaboration efficace dans des environnements d'ingénierie exigeants.
- Expérience sectorielle souhaitée : Familiarité avec les données de santé ou des sciences de la vie, y compris les informations génomiques, cliniques ou biomédicales, et expérience de travail sous les exigences HIPAA.
- Compétences supplémentaires souhaitées : Expérience dans la création d'observabilité et de télémétrie pour les plateformes d'entraînement, incluant les métriques, le traçage, les alertes et les tests de pipeline de bout en bout.
Avantages
- Salaire annuel : $159,300–$219,245, la fourchette salariale finale étant déterminée par le niveau attribué et les facteurs applicables tels que l'expérience, l'expertise, la performance lors des entretiens et la situation géographique.
- Assurance santé complète : Couverture santé pour soutenir le bien-être des employés.
- Congés payés : Vacances et congés payés généraux.
- Jours fériés payés : Congés payés pour les jours fériés désignés.
- Congé maladie : Congé pour soutenir la santé et le rétablissement.
- Congé parental : Congé pour soutenir les employés et leurs familles.
- Congé de deuil : Soutien pendant les périodes de perte.
- Avantages retraite : Plan 401(k) avec une contribution de l'employeur.
- Primes de parrainage : Opportunités de recevoir des primes pour les recommandations éligibles.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil