Amazon

Ingénieur Compilateur ML, Interface Noyau Neuron

JavaAWSC++C#
Traduction automatique. Consultez l’original.

Une journée dans la vie

Les accélérateurs AWS Machine Learning sont à la pointe de l'innovation AWS. Le Trainium offre des performances d'entraînement ML de premier ordre avec le plus grand nombre de teraflops (TFLOPS) de puissance de calcul pour le ML dans le cloud. Tout cela est rendu possible par le kit de développement logiciel (SDK) AWS Neuron, qui comprend un compilateur ML, le compilateur Neuron Kernel Interface (NKI) et un runtime qui s'intègre nativement aux frameworks ML populaires tels que PyTorch et JAX.

Neuron Kernel Interface (NKI) est un langage bare-metal et un compilateur pour programmer directement les instances AWS Trainium. Vous pouvez utiliser NKI pour développer, optimiser et exécuter de nouveaux opérateurs directement sur le matériel tout en utilisant pleinement les ressources de calcul et de mémoire disponibles.

Explorez NKI : - awsdocs-neuron.readthedocs-hosted.com/en/latest/nki/index.html

AWS Neuron est utilisé à grande échelle par des clients tels qu'Epic Games, Snap, Airbnb, Autodesk, Amazon Alexa et Amazon Rekognition, ainsi que par de nombreux autres dans divers segments.

En savoir plus sur notre histoire : - amazon.science/how-silicon-innovation-became-the-secret-sauce-behind-awss-success

Explorez le produit : - aws.amazon.com/machine-learning/neuron/

En tant qu'Ingénieur Compilateur ML au sein de l'équipe Annapurna Neuron, vous développez et adaptez des compilateurs pour gérer les plus grandes charges de travail ML du monde sur AWS Trainium. Vous concevez et livrez des fonctionnalités sur l'ensemble de la pile du compilateur, travaillez directement avec les équipes partenaires ML de Amazon pour débloquer leurs charges de travail et développez vos compétences aux côtés d'ingénieurs seniors. Vous souhaitez travailler au plus près du matériel, contribuer à la mise sur le marché de nouveaux produits et fonctionnalités, et livrer du code de haute qualité.

Vous commencez la journée en examinant le code d'un collègue pour une nouvelle fonctionnalité de compilateur, en laissant des commentaires avant sa fusion. En milieu de matinée, vous travaillez avec une équipe de modèles dont le noyau n'atteint pas les performances maximales sur Trainium, et vous tracez le goulot d'étranglement à travers les passes du compilateur. Après le déjeuner, vous écrivez et testez la fonctionnalité que vous avez conçue la semaine dernière, puis vous l'exécutez sur le matériel pour confirmer son exactitude. L'équipe évolue rapidement et vous êtes toujours dans les détails.

À propos de l'équipe

Nous sommes les équipes de compilateurs derrière AWS Neuron, le logiciel qui exécute les modèles machine learning sur Amazon Trainium. Notre compilateur ML prend un modèle complet de PyTorch ou JAX et compile le graphe pour qu'il s'exécute sur la puce. Le Neuron Kernel Interface (NKI) est un langage bare-metal et un compilateur qui permet aux clients de programmer directement Trainium, jusqu'au niveau du calcul et de la mémoire, pour un nouvel opérateur ou un noyau plus rapide. Ensemble, nous gérons le cheminement du modèle de framework au silicium. Notre mission est de rendre Trainium rapide et entièrement programmable.

Nos équipes sont petites et agiles, et il y a une opportunité d'apprendre en permanence. Nous travaillons en étroite collaboration avec les équipes matérielles, d'exécution et de frameworks, ainsi qu'avec les équipes ML de Amazon qui utilisent nos compilateurs.

Annapurna Labs de Amazon est responsable de la création de silicium et de logiciels innovants pour les clients AWS. Nous sommes à la pointe de l'innovation, combinant l'échelle du cloud avec les ingénieurs les plus talentueux du monde. Notre équipe couvre plusieurs disciplines, notamment l'ingénierie du silicium, la conception et la vérification du matériel, les logiciels et les opérations. Avec une telle étendue de talents, il y a une opportunité d'apprendre en permanence. Nous opérons dans des espaces très vastes, mais nos équipes restent petites et agiles. Il n'y a pas de plan préétabli. Nous inventons. Nous expérimentons. Lorsque vous combinez cela avec la capacité de travailler sur autant de produits et services différents, cela crée une culture d'apprentissage unique.

Prérequis

Une expérience en Machine Learning, en accélérateurs IA ou en performance de noyau est utile, mais pas obligatoire.

Pour être pris en considération pour ce poste, les candidats doivent être basés à proximité ou être disposés à déménager à Seattle ou à Cupertino.

Qualifications de base :

  1. 3+ années d'expérience professionnelle en développement logiciel (hors stages)
  1. 2+ années d'expérience en conception ou architecture (modèles de conception, fiabilité et mise à l'échelle) de systèmes nouveaux et existants (hors stages)
  1. 1+ années d'expérience en tant qu'ingénieur en développement logiciel ou dans un poste connexe
  1. 1+ années d'expérience dans la conception et le développement d'applications, d'outils, de systèmes et de services logiciels à grande échelle, multi-niveaux, multi-threadés, embarqués ou distribués en utilisant : C#, C++, Java, ou Perl
  1. 1+ années d'expérience en conception orientée objet
  1. Licence ou équivalent étranger en informatique, ingénierie, mathématiques ou dans un domaine connexe
  1. Expérience en programmation avec au moins un langage de programmation logicielle

Responsabilités clés du poste

  1. Concevoir et construire des fonctionnalités de compilateur pour les compilateurs Neuron. Votre travail peut couvrir le frontend, les représentations intermédiaires, les passes d'optimisation et la génération de code pour le matériel.
  1. Assumer la responsabilité des fonctionnalités de la conception à la production : concevoir, implémenter, tester sur le matériel et la simulation, et supporter les clients.
  1. Travailler avec les équipes ML de Amazon (PyTorch, JAX et les équipes de modèles internes) pour comprendre leurs charges de travail et les débloquer.
  1. Fournir aux équipes matérielles des retours sur le compilateur et la programmabilité pour les futures puces.
  1. Examiner le code et les conceptions, et encadrer les nouveaux ingénieurs.

Qualifications souhaitées :

  1. 3+ années d'expérience dans le cycle de vie complet du développement logiciel, y compris les normes de codage, les revues de code, la gestion du contrôle source, les processus de construction, les tests et les opérations
  1. Licence en informatique ou équivalent

Amazon est un employeur qui respecte l'égalité des chances et ne fait aucune discrimination fondée sur le statut de vétéran protégé, le handicap ou tout autre statut légalement protégé.

Candidats du comté de Los Angeles : Les fonctions professionnelles pour ce poste comprennent : travailler en toute sécurité et en coopération avec les autres employés, superviseurs et le personnel ; adhérer aux normes d'excellence malgré des conditions stressantes ; communiquer efficacement et respectueusement avec les employés, les superviseurs et le personnel pour assurer un service client exceptionnel ; et respecter toutes les lois fédérales, étatiques et locales ainsi que les politiques de l'entreprise. Les antécédents criminels peuvent avoir une relation directe, négative et préjudiciable avec certaines des fonctions professionnelles essentielles de ce poste. Cela inclut les fonctions et responsabilités énumérées ci-dessus, ainsi que la capacité d'adhérer aux politiques de l'entreprise, d'exercer un jugement sain, de gérer efficacement le stress et de travailler en toute sécurité et respectueusement avec les autres, de faire preuve de fiabilité et de professionnalisme, et de protéger les opérations commerciales et la réputation de l'entreprise. Conformément à l'ordonnance du comté de Los Angeles sur la "Fair Chance", nous examinerons pour l'emploi les candidats qualifiés ayant des antécédents d'arrestation et de condamnation.

Notre culture inclusive permet aux Amazoniens de fournir les meilleurs résultats pour nos clients. Si vous avez un handicap et avez besoin d'un aménagement ou d'une adaptation sur le lieu de travail pendant le processus de candidature et d'embauche, y compris un soutien pour le processus d'entretien ou d'intégration, veuillez visiter amazon.jobs/content/en/how-we-hire/accommodations pour plus d'informations. Si le pays/la région dans lequel vous postulez n'est pas répertorié, veuillez contacter votre partenaire de recrutement.

USA, CA, Cupertino - 165,200.00 - 223,600.00 USD annuellement

USA, WA, Seattle - 143,700.00 - 194,400.00 USD annuellement

La fourchette de salaire de base pour ce poste est indiquée ci-dessous. Votre package Amazon comprendra des primes de signature et des unités d'actions restreintes (RSU). La rémunération finale sera déterminée en fonction de facteurs tels que l'expérience, les qualifications et la localisation. Amazon propose également des avantages complets, notamment une assurance maladie (médicale, dentaire, vision, médicaments sur ordonnance, assurance vie de base et assurance décès/invalidité et option pour des plans de vie supplémentaires, EAP, soutien en santé mentale, ligne de conseil médical, comptes de dépenses flexibles, couverture de remboursement des frais d'adoption et de maternité de substitution), une mise en correspondance 401(k), des congés payés et des congés parentaux. En savoir plus sur nos avantages sur amazon.jobs/en/benefits.

Plus d’opportunités avec un seul profil

Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.

Créer mon profil

Ton prochain jobest déjà à ta recherche.

Nort

Plateforme de recrutement inversé pour développeurs

Réseaux sociauxInstagramLinkedInTwitter