ML Compiler Engineer, Neuron Kernel Interface

AWS Machine Learning Beschleuniger stehen an der Spitze der AWS Innovation. Trainium liefert branchenführende ML-Trainingsleistung mit der höchsten Teraflops (TFLOPS) Rechenleistung für ML in der Cloud. Dies alles wird durch das AWS Neuron Software Development Kit (SDK) ermöglicht, das einen ML-Compiler, den Neuron Kernel Interface (NKI) Compiler und eine Laufzeitumgebung umfasst, die sich nativ in beliebte ML-Frameworks wie PyTorch und JAX integriert.

Neuron Kernel Interface (NKI) ist eine Bare-Metal-Sprache und ein Compiler zur direkten Programmierung von AWS Trainium Instanzen. Sie können NKI verwenden, um neue Operatoren direkt auf der Hardware zu entwickeln, zu optimieren und auszuführen, während Sie die verfügbaren Rechen- und Speicherressourcen voll ausschöpfen.

NKI entdecken: - awsdocs-neuron.readthedocs-hosted.com/en/latest/nki/index.html

AWS Neuron wird in großem Umfang von Kunden wie Epic Games, Snap, Airbnb, Autodesk, Amazon Alexa und Amazon Rekognition sowie vielen anderen in verschiedenen Segmenten eingesetzt.

Erfahren Sie mehr über unsere Geschichte: - amazon.science/how-silicon-innovation-became-the-secret-sauce-behind-awss-success

Das Produkt entdecken: - aws.amazon.com/machine-learning/neuron/

Als ML Compiler Engineer im Annapurna Neuron Team entwickeln und skalieren Sie Compiler, um die weltweit größten ML-Workloads auf AWS Trainium zu verarbeiten. Sie entwerfen und liefern Features über den gesamten Compiler-Stack hinweg, arbeiten direkt mit Amazon ML-Partnerteams zusammen, um deren Workloads zu ermöglichen, und erweitern Ihre Fähigkeiten im Austausch mit erfahrenen Ingenieuren. Sie möchten nah an der Hardware arbeiten, neue Produkte und Features zur Marktreife bringen und qualitativ hochwertigen Code liefern.

Sie beginnen den Tag mit der Überprüfung des Codes eines Teamkollegen für ein neues Compiler-Feature und geben Feedback, bevor es gemergt wird. Am Vormittag arbeiten Sie mit einem Modellteam zusammen, dessen Kernel auf Trainium nicht die Spitzenleistung erreicht, und verfolgen den Engpass durch die Compiler-Durchläufe. Nach dem Mittagessen schreiben und testen Sie das Feature, das Sie letzte Woche entworfen haben, und führen es dann auf der Hardware aus, um die Korrektheit zu bestätigen. Das Team bewegt sich schnell und Sie sind immer im Detail.

Über das Team

Wir sind die Compiler-Teams hinter AWS Neuron, der Software, die machine learning Modelle auf Amazon Trainium ausführt. Unser ML-Compiler nimmt ein vollständiges Modell von PyTorch oder JAX und kompiliert den Graphen für die Ausführung auf dem Chip. Das Neuron Kernel Interface (NKI) ist eine Bare-Metal-Sprache und ein Compiler, mit dem Kunden Trainium direkt programmieren können, bis hinunter zur Rechenleistung und zum Speicher, für einen neuen Operator oder einen schnelleren Kernel. Gemeinsam verantworten wir den Weg vom Framework-Modell zum Siliziumchip. Unsere Mission ist es, Trainium schnell und vollständig programmierbar zu machen.

Unsere Teams sind klein und agil, und es gibt ständig Möglichkeiten zu lernen. Wir arbeiten eng mit den Hardware-, Laufzeit- und Framework-Teams sowie mit den Amazon ML-Teams zusammen, die unsere Compiler nutzen.

Ein Hintergrund in Machine Learning, KI-Beschleunigern oder Kernel-Performance ist hilfreich, aber nicht zwingend erforderlich.

Um für diese Stelle in Betracht gezogen zu werden, müssen sich die Kandidaten in der Nähe von Seattle oder Cupertino befinden oder bereit sein, dorthin umzuziehen.

Grundlegende Qualifikationen:

Bevorzugte Qualifikationen:

Amazon ist ein Arbeitgeber, der Chancengleichheit fördert und keine Diskriminierung aufgrund des Status als geschützter Veteran, Behinderung oder anderer gesetzlich geschützter Merkmale vornimmt.

Bewerber aus Los Angeles County: Die Aufgaben für diese Position umfassen: sicheres und kooperatives Arbeiten mit anderen Mitarbeitern, Vorgesetzten und dem Personal; Einhaltung von Exzellenzstandards trotz stressiger Bedingungen; effektive und respektvolle Kommunikation mit Mitarbeitern, Vorgesetzten und dem Personal zur Gewährleistung eines außergewöhnlichen Kundenservice; und Einhaltung aller bundesstaatlichen, bundesland- und lokalen Gesetze sowie der Unternehmensrichtlinien. Vorstrafen können eine direkte, nachteilige und negative Auswirkung auf einige der wesentlichen Aufgaben dieser Position haben. Dazu gehören die oben aufgeführten Aufgaben und Verantwortlichkeiten sowie die Fähigkeit, die Unternehmensrichtlinien einzuhalten, gesunden Menschenverstand anzuwenden, Stress effektiv zu bewältigen und sicher und respektvoll mit anderen zusammenzuarbeiten, Vertrauenswürdigkeit und Professionalität zu zeigen und den Geschäftsbetrieb sowie den Ruf des Unternehmens zu schützen. Gemäß der Los Angeles County Fair Chance Ordinance werden wir Bewerber mit Festnahme- und Verurteilungsvorgeschichte, die die Voraussetzungen erfüllen, berücksichtigen.

Unsere integrative Kultur befähigt Amazonians, die besten Ergebnisse für unsere Kunden zu erzielen. Wenn Sie eine Behinderung haben und eine Arbeitsplatzunterkunft oder -anpassung während des Bewerbungs- und Einstellungsprozesses benötigen, einschließlich Unterstützung für das Vorstellungs- oder Onboarding-Verfahren, besuchen Sie bitte amazon.jobs/content/en/how-we-hire/accommodations für weitere Informationen. Wenn das Land/die Region, in dem Sie sich bewerben, nicht aufgeführt ist, wenden Sie sich bitte an Ihren Recruiting Partner.

USA, CA, Cupertino - 165,200.00 - 223,600.00 USD jährlich

USA, WA, Seattle - 143,700.00 - 194,400.00 USD jährlich

Die Gehaltsspanne für diese Position ist unten aufgeführt. Ihr Amazon Paket beinhaltet Anmeldezahlungen und Restricted Stock Units (RSUs). Die endgültige Vergütung wird auf der Grundlage von Faktoren wie Erfahrung, Qualifikationen und Standort festgelegt. Amazon bietet außerdem umfassende Leistungen, einschließlich Krankenversicherung (medizinisch, zahnärztlich, Sehkraft, verschreibungspflichtig, grundlegende Lebens- und AD&D-Versicherung und Option auf zusätzliche Lebensversicherungen, EAP, Unterstützung für psychische Gesundheit, medizinische Beratungsleitung, flexible Ausgabenkonten, Übernahme von Kosten für Adoption und Leihmutterschaft), 401(k) Matching, bezahlte Freizeit und Elternurlaub. Erfahren Sie mehr über unsere Leistungen unter amazon.jobs/en/benefits.