États-Unis
Range Generation Next LLC
Steampunk
Ingénieur LLMOps Senior
États-Unis
McLean, Virginia, United States
PythonAWSGCPDockerKubernetesTerraform
Traduction automatique. Consultez l’original.
Aperçu
Nous recherchons un Ingénieur LLMOps Senior expérimenté pour concevoir, implémenter et maintenir des pipelines de grands modèles de langage (LLM), des architectures de déploiement et des systèmes de surveillance de niveau production dans des environnements d'entreprise. L'Ingénieur LLMOps Senior jouera un rôle essentiel dans l'opérationnalisation des capacités d'IA générative, en garantissant que les applications basées sur LLM soient évolutives, sécurisées, fiables et conformes aux cadres émergents de gestion des risques et de gouvernance de l'IA. Ce rôle couvre le déploiement de modèles, l'orchestration, l'évaluation, l'optimisation et les pipelines de génération augmentée par récupération (RAG).
Contributions
- Concevoir, construire et maintenir des pipelines évolutifs de LLM et de génération augmentée par récupération (RAG), y compris l'hébergement de modèles, l'optimisation de l'inférence, les couches de récupération et les cadres de gestion du contexte.
- Diriger la conception et la mise en œuvre d'une infrastructure GenAI sécurisée sur les environnements cloud, en garantissant la fiabilité, les performances, l'évolutivité et l'efficacité des coûts.
- Construire et gérer des systèmes d'évaluation automatisés qui évaluent la qualité de la sortie LLM, la sécurité, la latence et le respect des exigences de gouvernance de l'IA.
- Développer des flux de travail CI/CD adaptés aux applications basées sur LLM et GenAI, y compris le versionnement des ensembles de données, la lignée des modèles et les tests automatisés des comportements des invites et des modèles.
- Collaborer avec les ingénieurs produit IA et les scientifiques des données pour industrialiser les prototypes basés sur LLM en systèmes d'entreprise maintenables.
- Intégrer des bases de données vectorielles, des passerelles de modèles, des filtres de contenu et des cadres de garde-fous dans des solutions LLM et RAG de bout en bout.
- Implémenter des solutions d'observabilité et de surveillance qui suivent les métriques de performance, les taux d'hallucination, les profils de coûts et les modèles d'interaction utilisateur.
- Diriger le dépannage et l'analyse des causes profondes pour les problèmes liés au déploiement LLM, aux performances d'inférence, aux pipelines de récupération ou à la fiabilité globale du pipeline.
- Développer et maintenir des services, des intégrations et des automatisations basés sur Python prenant en charge les pipelines LLM et RAG.
- Se tenir au courant des architectures LLM émergentes, des optimisations d'inférence, des techniques de réglage fin et des modèles MLSecOps pertinents.
- Assurer la conformité avec les cadres de confidentialité des données, d'IA éthique, de sécurité et de gouvernance de l'IA tout au long de la conception et des opérations des pipelines.
- Encadrer les ingénieurs juniors et contribuer aux meilleures pratiques, aux outils et aux modèles d'infrastructure réutilisables en ingénierie de l'IA.
Vous contribuerez à la croissance de notre pratique d'exploitation des données et de l'IA !
Qualifications
- Capacité à obtenir et maintenir une habilitation de sécurité du gouvernement américain.
- Diplôme de licence et plus de 10 années d'expérience totale.
- Plus de 5 années d'expérience en ingénierie logicielle, ingénierie des données, MLOps ou ingénierie cloud, dont plus de 2 années spécifiquement axées sur les opérations LLM ou GenAI.
- Expérience pratique dans la conception, la construction et la maintenance de pipelines de génération augmentée par récupération (RAG).
- Maîtrise de Python.
- Solide expérience dans le déploiement de modèles à l'aide de frameworks tels que Hugging Face Transformers, vLLM, TensorRT-LLM, ou similaires.
- Expérience avec les outils et frameworks opérationnels tels que FastAPI, PyTorch, LangChain, LlamaIndex, et les bases de données vectorielles telles que FAISS, Milvus, Pinecone, ou similaires.
- Connaissances avancées des plateformes cloud telles que AWS, Azure, ou GCP, y compris l'hébergement de modèles, le calcul distribué et les modèles de réseau sécurisé.
- Expérience pratique dans la construction de pipelines CI/CD, de frameworks de test automatisés et de provisionnement d'environnements pour les charges de travail IA/ML.
- Expérience avec Docker, Kubernetes, et les outils d'infrastructure en tant que code tels que Terraform ou CloudFormation.
- Connaissance de MLSecOps, de la gouvernance de l'IA, du durcissement des modèles, des défenses contre l'injection de prompts et de la surveillance de la sécurité du contenu.
- Compréhension approfondie de la journalisation, de l'observabilité et du profilage des performances pour les systèmes d'inférence LLM à haut débit.
- Excellentes compétences en communication écrite et verbale, avec la capacité d'expliquer les compromis et les décisions architecturales aux parties prenantes techniques et non techniques.
- Capacité démontrée à équilibrer la pensée de plateforme à long terme avec les opérations pratiques et la résolution rapide de problèmes.
- Expérience de travail dans des environnements de développement Agile et utilisation d'outils de gestion de projet modernes.
À propos de steampunk
Steampunk se base sur plusieurs facteurs pour déterminer le salaire, y compris, mais sans s'y limiter, la localisation géographique, les exigences contractuelles, l'éducation, les connaissances, les compétences, les aptitudes et l'expérience. La fourchette de rémunération projetée pour ce poste est de
$145,000 à $185,000. L'estimation affichée représente une fourchette de salaire annuelle typique pour ce poste. Le salaire annuel n'est qu'un aspect du package de rémunération totale de Steampunk pour les employés. Apprenez-en davantage sur les avantages supplémentaires de Steampunk ici.
Déclaration d'identité
Dans le cadre du processus de candidature, vous êtes censé être visible à la caméra pendant les entretiens et les évaluations. Nous nous réservons le droit de prendre votre photo pour vérifier votre identité et prévenir la fraude.
Nous sommes un employeur garantissant l'égalité des chances et tous les candidats qualifiés recevront une considération pour l'emploi sans distinction de race, de couleur, de religion, de sexe, d'origine nationale, de handicap, de statut de vétéran protégé ou de toute autre caractéristique protégée par la loi. Steampunk participe au programme E-Verify.
Steampunk est un agent de changement dans l'industrie des sous-traitants fédéraux, apportant une nouvelle réflexion aux clients des secteurs de la sécurité intérieure, du civil fédéral, de la santé et du DoD. Grâce à notre méthodologie de prestation centrée sur l'humain, nous changeons fondamentalement les attentes de nos clients fédéraux en matière de responsabilité partagée réelle pour résoudre leurs défis de mission les plus difficiles. Si vous souhaitez en savoir plus sur notre histoire, visitez steampunk.com.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil