HEARTLAND BUSINESS SYSTEMS LLC
Fetch
Ingénieur Senior ML Operations II - Monétisation
PythonSQLKubernetesGoTerraform
Traduction automatique. Consultez l’original.
RESPONSABILITÉS DU POSTE
- Gérer l'intégralité du cycle de vie des modèles, de l'expérimentation à la validation, au déploiement, au versioning, au réentraînement, au retour en arrière et au retrait.
- Établir des critères de promotion de modèles, des processus de mise en production et des procédures de retour en arrière clairs, permettant aux équipes de déployer des améliorations en toute confiance.
- Mettre en place une surveillance de la qualité des données, de la dérive (drift), de la qualité des prédictions, de la fiabilité du service, de la latence et des coûts d'infrastructure.
- Collaborer avec les data scientists pour définir des signaux d'évaluation pertinents, tant hors ligne qu'en production, y compris pour les cas d'usage avec des étiquettes de résultats différées.
- Utiliser les données de production pour améliorer les performances des modèles, la fiabilité de la plateforme, la vitesse de déploiement et l'efficacité de l'infrastructure.
- Développer des pipelines réutilisables d'entraînement, d'évaluation et de déploiement prenant en charge plusieurs modèles et approches de modélisation.
- Développer des flux d'orchestration fiables couvrant les dépendances, la planification, les tentatives automatiques, les backfills et la reprise après incident.
- Traduire les exigences scientifiques en systèmes de production maintenables avec des interfaces, des responsabilités et des attentes opérationnelles claires.
- Construire et maintenir un hub de modèles accessible centralisant la documentation, les résultats d'évaluation, l'historique des versions, le versioning et la surveillance.
- Créer des flux de travail CI/CD testés, des environnements reproductibles, des alertes exploitables, des procédures de réponse aux incidents et des runbooks opérationnels.
- Définir les priorités MLOps en partenariat avec les équipes Data Science et Ingénierie, en identifiant les risques avant qu'ils ne deviennent des problèmes en production.
- Établir des normes d'ingénierie réutilisables, encadrer les membres de l'équipe et réduire la charge opérationnelle pesant sur les data scientists.
EXIGENCES MINIMALES
- 5+ années d'expérience dans la gestion de systèmes ML en production au-delà du déploiement initial, incluant la surveillance, le réentraînement, la réponse aux incidents et l'amélioration continue.
- Solides compétences en développement logiciel en production avec Python et maîtrise de SQL.
- Expérience pratique de l'utilisation de Spark pour le traitement de données distribuées.
- Expérience avec un moteur d'orchestration de flux de travail pour la planification, la gestion des dépendances, les tentatives automatiques, les backfills et la reprise.
- Expérience pratique de la construction d'infrastructures avec Terraform.
- Expérience du déploiement et de l'exploitation de charges de travail conteneurisées en production sur Kubernetes.
- Expérience dans la création d'infrastructures réutilisables d'entraînement, d'évaluation ou de déploiement utilisées par plusieurs modèles, scientifiques ou équipes.
- Expérience dans la mise en œuvre du versioning de modèles et de jeux de données, du suivi d'expériences, de la traçabilité (lineage) et des versions reproductibles.
- Capacité à distinguer les défaillances de service ou d'infrastructure des changements dans l'efficacité des modèles.
- Expérience dans la création de pipelines CI/CD, de surveillance, d'alertes, de mécanismes de retour en arrière et de procédures de reprise pour des systèmes ML en production.
- Capacité démontrée à équilibrer la qualité des modèles, la vitesse de livraison, la fiabilité et les coûts d'infrastructure.
- Solides compétences en communication interfonctionnelle et expérience de collaboration avec des data scientists pour préserver la validité scientifique lors du passage des modèles en production.
- Capacité à expliquer un incident de production ou un problème de dégradation de modèle, la manière dont il a été détecté et les améliorations qui ont suivi.
EXIGENCES SOUHAITÉES
- Expérience dans le développement de services de plateforme, d'infrastructure ou d'outils internes en Go.
- Expérience dans la création ou la gestion d'un registre de modèles, d'un hub de modèles ou d'un système similaire utilisé par des parties prenantes techniques et non techniques.
- Expérience dans le support de systèmes ML où les étiquettes de résultats sont différées ou où la qualité du modèle ne peut pas être mesurée immédiatement.
- Expérience avérée dans l'amélioration de la vitesse de déploiement, de la qualité des modèles, de la fiabilité des systèmes, des coûts d'infrastructure ou de la réduction des efforts opérationnels manuels.
- Expérience dans la conception d'infrastructures ML configurables prenant en charge plusieurs frameworks ou approches de modélisation.
- Preuve de l'adoption d'infrastructures, de normes ou de documentations réutilisables au sein de plusieurs équipes.
- Expérience dans l'encadrement d'ingénieurs ou de data scientists et dans l'influence sur les priorités techniques au sein d'un portefeuille ML.
- Expérience de travail dans des environnements manipulant des informations sensibles et conception de documentation ou de surveillance autour de périmètres d'accès appropriés.
