Temple Health
Abbott Laboratories
Principal AI Platform Engineer
À propos du poste
Abbott est un leader mondial de la santé qui aide les personnes à vivre pleinement à chaque étape de leur vie. Notre portefeuille de technologies révolutionnaires couvre tout le spectre de la santé, avec des entreprises et des produits de premier plan dans les domaines du diagnostic, des dispositifs médicaux, de la nutrition et des médicaments génériques de marque. Nos 122,000 collaborateurs sont au service des personnes dans plus de 160 pays.
L'opportunité
Un rôle de leadership technique opérationnel responsable de l'architecture, de l'ingénierie et de la fiabilité de la plateforme d'IA d'entreprise d'Abbott : le plan de contrôle et la voie balisée qui permettent aux équipes de créer, déployer et exploiter des systèmes d'IA générative et des systèmes d'agents d'entreprise de manière sûre et rapide. Ce rôle est le pendant technique du Product Manager, AI Platform et travaille en partenariat avec les Product Managers IA, l'ingénierie IA/agents, la science des données appliquée, la sécurité et les équipes d'ingénierie des divisions. Le rôle est équivalent à un poste de directeur et commence par une fonction de « player-coach », avec la responsabilité de développer et de diriger une équipe d'ingénierie de plateforme.
Vos missions
- Définir et faire évoluer l'architecture de référence pour le plan de contrôle de l'IA, les services de voie balisée, les SDKs, les modèles et l'expérience développeur.
- Concevoir et construire une passerelle de modèles prenant en charge le routage multi-fournisseurs, le basculement, la limitation de quota et de débit, l'isolation des locataires, la gestion des clés, la comptabilisation des jetons et l'allocation des coûts (par exemple, une passerelle de type LiteLLM sur Azure OpenAI, Amazon Bedrock ou Vertex AI).
- Fournir un environnement d'exécution GenAI pour le service de modèles, la génération augmentée par récupération (RAG), les magasins de contexte et de mémoire, la recherche vectorielle et hybride, l'exécution de code ou d'outils en bac à sable, le courtage de secrets et l'interopérabilité des outils de type MCP.
- Assumer la responsabilité de la conception technique des registres de modèles, d'agents, de prompts et d'outils, y compris le versionnage, la traçabilité, les portes d'approbation et de promotion, la dépréciation et l'auditabilité.
- Construire l'observabilité et la traçabilité de la plateforme pour les prompts, les appels de modèles, les appels d'outils et les étapes des agents en utilisant le traçage distribué (par exemple, les conventions sémantiques GenAI d'OpenTelemetry et les outils de classe Langfuse ou Arize), avec des signaux sur l'évaluation, la qualité, la dérive, la latence et les coûts.
- Mettre en œuvre la sécurité, les garde-fous et les contrôles d'IA responsable dans la plateforme, y compris le traitement des PII/PHI, les défenses contre l'injection de prompts, l'identité pour le compte de, l'accès aux outils selon le principe du moindre privilège et l'application des politiques.
- Établir des pratiques d'ingénierie de plateforme en utilisant Kubernetes, l'infrastructure en tant que code, CI/CD, le développement logiciel sécurisé, la gestion de la capacité et l'ingénierie de la fiabilité. Définir les SLO, participer à l'astreinte et diriger la réponse aux incidents.
- Écrire et réviser le code de production, mener des revues d'architecture, définir les normes d'ingénierie et faire des recommandations pragmatiques de type « build-versus-buy » et fournisseur avec une contribution budgétaire.
- Recruter, coacher et développer une équipe d'ingénierie de plateforme d'environ 3 à 8 ingénieurs ; allouer le travail, fixer des objectifs et gérer le développement de carrière tout en restant techniquement opérationnel.
- Collaborer avec le Product Manager, AI Platform pour séquencer la feuille de route de la plateforme, communiquer les compromis et mesurer l'adoption, la fiabilité, le temps d'intégration et les résultats pour les équipes consommatrices.
Qualifications requises
- 10 à 15 ans et plus d'expérience en ingénierie logicielle, ingénierie de plateforme, systèmes distribués ou infrastructure, incluant un leadership technique significatif.
- Expérience pratique de la conception et de l'exploitation de plateformes d'IA/GenAI d'entreprise ou de plateformes comparables de développeur, de données ou de ML en production.
- Solide capacité en ingénierie logicielle en Python et au moins un langage parmi TypeScript, Go ou Java, avec une expérience des APIs, des systèmes distribués, des tests, de la revue de code et du SDLC sécurisé.
- Compréhension technique approfondie des passerelles de modèles, des environnements d'exécution GenAI, du RAG, des registres d'agents, de l'évaluation, de l'observabilité, de la traçabilité, des garde-fous, de l'identité et de la gouvernance de plateforme.
- Expérience avec les conteneurs et l'orchestration (par exemple, Kubernetes), l'infrastructure en tant que code, CI/CD, les services cloud, la gestion des secrets, ainsi que les SLO de production et les pratiques d'astreinte.
- Licence dans un domaine connexe ou expérience professionnelle équivalente.
- Capacité démontrée à diriger des décisions techniques, à influencer les équipes, à communiquer clairement avec les parties prenantes de haut niveau et à gérer une équipe d'ingénierie en pleine croissance.
Qualifications souhaitées
- Expérience dans la construction de plateformes GenAI ou d'agents d'entreprise utilisant des capacités telles que le routage multi-modèles, les registres d'agents, la gestion des prompts, les bancs d'évaluation et le traçage GenAI.
- Expérience dans un environnement hautement réglementé tel que la technologie de santé, la med-tech ou les sciences de la vie, avec des contraintes de GxP, HIPAA, validation, auditabilité et contrôle des changements.
- Expérience dans la mise en œuvre de la sécurité, de l'IA responsable, de la confidentialité, des politiques et des contrôles de coûts ou FinOps pour une infrastructure IA partagée.
- Expérience avec les normes ouvertes et les outils tels que MCP, OpenTelemetry, Kubernetes et les pratiques d'ingénierie de plateforme cloud-native.
Le salaire de base pour ce poste est de $149,300.00 – $298,700.00. Dans certains lieux spécifiques, la fourchette salariale peut varier par rapport à la fourchette affichée.
