États-Unis
SanMar- External
SambaNova
Ingénieur Performance IA - Jeune diplômé
États-Unis
San Jose, California, United States · Austin, Texas, United States
PythonC++
Traduction automatique. Consultez l’original.
À propos du poste
SambaNova est un leader de l'infrastructure IA de nouvelle génération, fournissant une plateforme d'inférence full-stack aux clients du monde entier. Au cœur de la technologie de SambaNova se trouve le RDU (Reconfigurable Dataflow Unit) — une puce basée sur une architecture de flux de données plutôt que sur le modèle GPU traditionnel. Ses performances de décodage sont particulièrement robustes pour les charges de travail d'agents, telles que les agents multi-tours, la génération de code et les applications à exécution longue. Les RDU sont intégrés dans SambaRack, un matériel à l'échelle du rack qui permet aux clients de déployer des modèles de pointe avec de meilleures performances, une plus grande efficacité énergétique et un délai de mise sur le marché plus rapide.
À propos de l'équipe
L'équipe Performance IA déploie et optimise des modèles de fondation tels que DeepSeek, Llama, Qwen et GPT OSS sur la plateforme de flux de données de SambaNova. Nous profilons et ajustons les modèles à travers les couches de compilation, d'exécution et matérielles afin d'améliorer le débit et la latence d'inférence.
À propos du poste
En tant qu'ingénieur Performance IA jeune diplômé, vous déploierez de nouveaux modèles open source sur la pile SambaNova et travaillerez à accélérer leur exécution. Vous profilerez l'exécution des modèles, identifierez les goulots d'étranglement et appliquerez des optimisations telles que la quantification, la fusion de noyaux et une meilleure planification en collaboration avec les équipes de compilation, d'exécution et matérielles.
Responsabilités
- Déployer de nouveaux modèles de fondation sur la plateforme SambaNova en utilisant notre pile logicielle
- Profiler les performances des modèles à travers les couches de compilation, d'exécution et matérielles
- Identifier les goulots d'étranglement et proposer des optimisations de flux de données ou de planification pour les systèmes à nœud unique et distribués
- Appliquer des techniques issues de recherches récentes en matière de quantification, de planification et d'optimisation de la mémoire
- Évaluer le débit et la latence et suivre les évolutions des performances au fil des versions
- Collaborer avec les équipes machine learning, de compilation, d'exécution et matérielles pour intégrer les améliorations de performance dans les produits SambaNova
Qualifications requises
- Licence (B.S.) en informatique, génie électrique ou domaine connexe
- Solides compétences en programmation en Python ou C++
- Compréhension des algorithmes, des structures de données et du calcul numérique
- Expérience avec PyTorch, TensorFlow ou JAX
- Expérience avec des frameworks d'inférence tels que vLLM, TensorRT ou SGLang
- Expérience en programmation GPU avec CUDA ou Triton
Qualifications souhaitées
- Master (M.S.) ou Doctorat (Ph.D.) en informatique, génie électrique ou domaine connexe
- Expérience avec l'entraînement ou l'inférence de LLM
- Connaissance de la quantification, de l'optimisation de graphes, de la fusion de noyaux ou du partitionnement de modèles
- Connaissance de la hiérarchie mémoire, de la mise en cache et de la planification pour l'exécution de grands modèles
- Expérience de stage ou de recherche dans les systèmes ML ou l'optimisation des performances
- Publications ou contributions open source dans les systèmes ML
Fourchette de salaire de base
Fourchette de salaire de base 131,200—196,800 USD
Directives de candidature
Veuillez noter que pour être considéré comme candidat à tout poste chez SambaNova Systems, vous devez soumettre un formulaire de candidature pour chaque poste pour lequel vous estimez être qualifié.
Politique d'égalité des chances (EEO)
SambaNova Systems est un employeur pratiquant l'égalité des chances et l'action positive. Tous les candidats qualifiés seront pris en considération pour un emploi sans égard à l'âge (40 ans et plus), la couleur, le handicap, l'identité de genre, les informations génétiques, l'état civil, le statut militaire ou d'ancien combattant, l'origine nationale/l'ascendance, la race, la religion, les convictions, le sexe (y compris la grossesse, l'accouchement, l'allaitement), l'orientation sexuelle et tout autre statut protégé par les lois fédérales, étatiques ou locales applicables.
Résumé des avantages sociaux pour les postes à temps plein basés aux États-Unis
SambaNova propose un package de rémunération globale compétitif, incluant le salaire de base, ainsi que des actions et des avantages sociaux. Nous couvrons 95% de la prime d'assurance médicale des employés et 77% de la prime pour les personnes à charge, et proposons un compte d'épargne santé (HSA) avec une contribution de l'employeur. Nous offrons également des plans d'assurance dentaire, vision, invalidité de courte/longue durée, assurance vie de base, assurance vie volontaire et AD&D, en plus d'options de compte de dépenses flexibles (FSA) telles que les soins de santé, les objectifs limités et les soins aux personnes à charge. Notre bibliothèque d'avantages liés au bien-être, accessible à vous et à vos personnes à charge, comprend un abonnement complet à Headspace, un abonnement Gympass+ avec accès à des salles de sport physiques, un abonnement One Medical, des services de conseil via un programme d'aide aux employés, et bien plus encore.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil