Vereinigte Staaten
Roku
DoorDash USA
Senior Software Engineer, Machine Learning Infrastructure - Generative AI
Vereinigte Staaten
San Francisco, California, United States · Sunnyvale, California, United States · Seattle, Washington, United States
PythonAWSGCPKubernetesGo
Automatische Übersetzung. Prüfe das Original.
UNSER ENGAGEMENT FÜR VIELFALT UND INKLUSION
click.appcast.io/greenhouse-te8/a31.png?ent=34&e=22630&t=1701374353806 track.jobadx.com/v1/i.gif?utm_pixel=224e990b-8ff4-4287-8d5d-2ff09647f181&utm_ptz=EST&utm_rqt=track
Hinweis zur Nutzung von KI und automatisierten Tools: Um unseren Einstellungsprozess zu optimieren, nutzt DoorDash ein automatisiertes Recruiting-Tool namens Gem.
So funktioniert es: Gem unterstützt unser Recruiting-Team bei der Bewertung berufsbezogener Qualifikationen und Merkmale im Zusammenhang mit der Einstellung. Das Tool ist so konzipiert und wird so eingesetzt, dass es die menschliche Entscheidungsfindung unterstützt – nicht ersetzt; geschultes Personal trifft die endgültigen Entscheidungen mit sinnvoller menschlicher Überprüfung und Aufsicht, und DoorDash nutzt Gem oder andere KI-gestützte Tools nicht in einer Weise, die dazu führt, dass Bewerber oder Mitarbeiter aufgrund eines geschützten Merkmals oder Proxys diskriminiert werden oder für die Teilnahme an geschützten Aktivitäten gemäß geltendem Recht.
Datenspeicherung, Datenschutz und Bias-Audit: Die während dieses Prozesses gesammelten Daten werden gemäß unserer Kandidaten-Datenschutzrichtlinie help.doordash.com/en-us/legal/article/ax-privacy-notice und den geltenden Gesetzen der Bundesstaaten gespeichert. In Übereinstimmung mit dem New Yorker Stadtgesetz 144 ist die unabhängige Zusammenfassung des Bias-Audits für Gem auf unserer Karriereseite careersatdoordash.com/wp-content/uploads/2026/06/Gem-BABL-Bias-Audit-Results-2-1.pdf öffentlich zugänglich.
Wir sind bestrebt, eine inklusivere Gemeinschaft in unserem Unternehmen, unserer Branche und unseren Städten aufzubauen und zu fördern. Deshalb stellen wir vielfältige Teams von Menschen mit unterschiedlichen Hintergründen, Erfahrungen und Perspektiven ein und fördern diese. Wir glauben, dass echte Innovation entsteht, wenn jeder einen Platz am Tisch hat und die Werkzeuge, Ressourcen und Möglichkeiten hat, erfolgreich zu sein.
Erklärung zur Nichtdiskriminierung: Im Einklang mit unseren Überzeugungen und Zielen wird kein Mitarbeiter oder Bewerber Diskriminierung oder Belästigung erfahren aufgrund von: Rasse, Hautfarbe, Abstammung, nationaler Herkunft, Religion, Alter, Geschlecht, Familienstand/Partnerstatus, sexueller Orientierung, Geschlechtsidentität oder -ausdruck, Behinderungsstatus oder Veteraneneigenschaft. Über Diskriminierung und Belästigung aufgrund von „geschützten Kategorien“ hinaus streben wir auch danach, subtilere Formen unangemessenen Verhaltens (d. h. Stereotypisierung) zu verhindern, die sich nicht in unserem Büro etablieren. Ob offensichtlich oder versteckt, Barrieren für den Erfolg haben bei DoorDash keinen Platz. Wir schätzen eine vielfältige Belegschaft – Menschen, die sich als Frauen, nicht-binär oder gender-nonkonform, LGBTQIA+, amerikanische Ureinwohner oder indigene Alaskaner, Schwarz oder Afroamerikaner, Hispanic oder Latinx, Hawaiianische Ureinwohner oder andere pazifische Insulaner, anders behinderte, Betreuer und Eltern sowie Veteranen identifizieren, werden dringend ermutigt, sich zu bewerben. Vielen Dank an das Level Playing Field Institute für diese Erklärung zur Nichtdiskriminierung.
Gemäß der San Francisco Fair Chance Ordinance, der Los Angeles Fair Chance Initiative for Hiring Ordinance und allen anderen bundesstaatlichen oder lokalen Einstellungsbestimmungen werden wir jeden qualifizierten Bewerber, einschließlich derjenigen mit Festnahme- und Verurteilungsaufzeichnungen, im Einklang mit der geltenden Verordnung berücksichtigen.
Wenn Sie eine Unterkunft benötigen, informieren Sie bitte Ihren Recruiting-Kontakt bei der ersten Kontaktaufnahme.
Hinweis für Bewerber auf Stellen, die sich ausschließlich in NYC befinden oder remote mit einem Büro in NYC verbunden sind.
Wir haben Covey als Teil unseres Einstellungs- und/oder Beförderungsprozesses für Stellen in NYC genutzt, und bestimmte Funktionen könnten es in NYC als AEDT qualifizieren. Im Rahmen des Einstellungs- und/oder Beförderungsprozesses haben wir Covey Stellenanforderungen sowie von Kandidaten eingereichte Bewerbungen zur Verfügung gestellt. Wir haben Covey Scout für Inbound vom 21. August 2023 bis zum 21. Dezember 2023 eingesetzt. Wir haben die Nutzung von Covey Scout für Inbound am 29. Juni 2024 wieder aufgenommen und die Nutzung von Covey Scout für Inbound am 30. April 2026 eingestellt.
Das Covey-Tool wurde von einem unabhängigen Prüfer überprüft. Die Ergebnisse der Prüfung können hier eingesehen werden: getcovey.com/nyc-local-law-144.
Vorsicht vor Betrugsversuchen beim Recruiting: DoorDash, Deliveroo und Wolt werden Sie niemals auffordern, Geld zu bezahlen oder sensible Finanzinformationen während des Einstellungsverfahrens preiszugeben – erfahren Sie mehr über unseren legitimen Recruiting-Prozess unter Recruitment Scam Awareness - DoorDash careersatdoordash.com/recruitment-scam-awareness.
ÜBER DAS TEAM
DoorDashs GenAI Platform Team ist Teil der Machine Learning Platform und baut die gemeinsame Infrastruktur, die es den Teams von DoorDash, Wolt und Deliveroo ermöglicht, GenAI-gestützte Produkte, Agenten, Automatisierung und Personalisierung sicher in die Produktion zu bringen. Unsere Mission ist es, die Geschwindigkeit des Geschäftseinflusses von GenAI zu erhöhen. Ein zentraler Pfeiler dieser Arbeit ist der Betrieb von Open-Weight LLMs und VLMs (wie GLM, Qwen, Kimi und DeepSeek) im eigenen Haus – Echtzeit-GPU-Serving, High-Throughput- Batch-Inferenz und Fine-Tuning auf autoskalierenden GPUs –, was zu erheblichen Kosten- und Latenzgewinnen führt (z. B. eine Milliarde Embeddings, die etwa 20-mal günstiger produziert werden, und visuelle Modelle, die etwa 72% günstiger bedient werden). Wir verantworten auch Kernplattformen, darunter das LLM Gateway, das Agent Gateway, die Evals-Infrastruktur, Guardrails und die Kostenattribution.
ÜBER DIE ROLLE
Sie werden einem kleinen, hochwirksamen Team beitreten, das die Produktionsinfrastruktur für Generative AI bei DoorDash aufbaut und die Design- und Architekturentscheidungen für unsere Open-Weight-Modellplattform für Inferenz und Fine-Tuning leitet: Echtzeit-GPU-Serving, High-Throughput-Batch-Inferenz und Modell-Fine-Tuning. Sie werden die technische Ausrichtung für Model Serving und Inference Engines, Fine-Tuning- und Trainings-Pipelines, GPU-Autoskalierung und -Auslastung, Batch-Pipelines, backend-Dienste und Observability festlegen und dabei Ingenieure betreuen. Diese Rolle ist ideal für einen erfahrenen Ingenieur, der es genießt, mehrdeutige, wirkungsvolle Systeme zu verantworten und die Kosten/ Leistungs-Grenze der GPU-Inferenz und des Fine-Tunings in einem sich schnell entwickelnden technischen Bereich zu verschieben, in dem sich Produktanforderungen, Modellfähigkeiten, Ökosysteme von Anbietern und Kosten-/Leistungs-Kompromisse schnell ändern.
DIESE GELEGENHEIT BEGEISTERT SIE, WEIL SIE… *
- Das Design von Infrastruktur leiten, die DoorDash-Teams hilft, GenAI-Ideen vom Prototyp zur Produktion zu bringen und so die Geschwindigkeit des Geschäftseinflusses von KI im gesamten Unternehmen zu erhöhen. *
- Unseren Open-Weight-Serving-Stack – Echtzeit-GPU-Endpunkte, High-Throughput- Batch-Inferenz und Fine-Tuning (SFT/DPO/LoRA) – zusammen mit dem LLM Gateway, dem Agent Gateway, der Evals-Infrastruktur, Guardrails und der Kostenattribution verantworten und weiterentwickeln. *
- Skalierbare, hochperformante Systeme für Model Serving, Batch-Inferenz, GPU-Autoskalierung und Fine-Tuning entwerfen, die reale Kunden- und interne Automatisierungsanwendungsfälle ermöglichen. *
- Die Kosten- und Latenzgrenze der GPU-Inferenz verschieben – Batch-Jobs, die Tage dauerten, in Stunden verwandeln und die Inferenzkosten um ein Vielfaches senken –, während Produktteams eine klare Wahl zwischen Open-Weight- und Closed-Source-Modellen mit integrierter Zuverlässigkeit, Fallback-, Observability- und Kostenkontrolle geboten wird. *
- Plattformen aufbauen, die schnelle Experimente unterstützen und gleichzeitig Produktionsstandards für Latenz, Skalierung, Monitoring, SLOs, Playbooks und operative Exzellenz erfüllen. *
- Eng mit ML-Ingenieuren, Produktentwicklern, Datenwissenschaftlern und Plattformteams von DoorDash, Wolt und Deliveroo zusammenarbeiten und deren technischen Standard erhöhen, um aufkommende GenAI-Fähigkeiten in dauerhafte Plattformprimitive umzuwandeln. *
- Die technische Ausrichtung für die Zukunft der zentralisierten GenAI-Plattform von DoorDash festlegen – einschließlich aufkommender Richtungen wie Reinforcement Learning (RLHF/RLVR), Agentenoptimierung und anderer Post-Training- und Agententechniken –, um die nächste Generation von KI-gestützten Produkten, Agenten, Automatisierung und Personalisierung zu ermöglichen.
WIR SIND BEGEISTERT VON IHNEN, WEIL… *
- B.S., M.S. oder PhD. in Informatik oder einem gleichwertigen Abschluss. *
- 6+ Jahre Berufserfahrung in der Softwareentwicklung. *
- Tiefgreifende backend-Engineering-Grundlagen, insbesondere in Python und distribuierten Systemen. *
- Nachweisbare Erfolgsbilanz im Design und Betrieb von Produktionsdiensten, APIs, Datenpipelines oder ML-Infrastruktur im großen Maßstab. *
- Erfahrung im Betrieb von Systemen in der Produktion, einschließlich Observability, Debugging, Zuverlässigkeit, Incident Response und Leistungs/ Kostenoptimierung. *
- Umfassende praktische Erfahrung mit LLM-Inferenz und/oder Fine-Tuning von Open-Weight-Modellen in der Produktion – Serving (Latenz, Durchsatz, Batching, Autoskalierung, GPU-Auslastung) und/oder Fine-Tuning (SFT/DPO/LoRA). *
- Nachgewiesene technische Führung: Leitung des Designs in mehrdeutigen, sich schnell entwickelnden technischen Bereichen, Betreuung von Ingenieuren und Umwandlung von Kundenanwendungsfällen in wiederverwendbare Plattformfähigkeiten. *
- Kenntnisse im Umgang mit KI-Codierungswerkzeugen (z. B. Claude Code, Codex, Cursor) im gesamten Softwareentwicklungslebenszyklus, einschließlich Design, Code-Generierung, Testen, Überwachen und Freigeben von Software.
WÜNSCHENSWERT *
- Erfahrung mit LLM-Inferenz-Engines und Serving-Frameworks (z. B. vLLM, SGLang, TensorRT-LLM) in der Produktion. *
- Erfahrung mit verteilten/Multi-Node-Fine-Tuning- und Trainings-Pipelines (SFT, DPO/RLHF, LoRA), einschließlich Datenaufbereitung und -bewertung. *
- GPU-Leistungsoptimierung – Multi-Node/verteilte Inferenz, KV-Cache/Speicher- Optimierung, Quantisierung (FP8/INT8/AWQ/GPTQ) oder Cold-Start/ Durchsatz-Tuning. *
- Erfahrung mit Kubernetes, Cloud-Infrastruktur (AWS/GCP), GPUs, Serverless/Elastic-GPU-Plattformen (z. B. Modal) oder High-Throughput-Batch- Systemen. *
- Erfahrung mit LLM-Gateways, Modell-Routing, Anbieterabstraktion oder Kostenattribution. *
- Erfahrung im Aufbau von Entwicklerplattformen, internen Plattformen oder Self-Service-Infrastrukturen. *
- Erfahrung im Aufbau und der Bereitstellung von KI-Agenten oder MCP-Servern in der Produktion. *
- Erfahrung mit Eval-Systemen, LLM-Observability, Tracing, RAG, Suche oder Vector Databases.
Vergütung
Das Einstiegsgehalt des erfolgreichen Kandidaten wird innerhalb des unten aufgeführten Gehaltsrahmens liegen und basiert auf berufsbezogenen Faktoren, einschließlich, aber nicht beschränkt auf Fähigkeiten, Erfahrung, Qualifikationen, Arbeitsort und Marktbedingungen.
Das Grundgehalt wird entsprechend dem Arbeitsort des Mitarbeiters lokalisiert. Die Spannen sind marktabhängig und können in Zukunft geändert werden.
Zusätzlich zum Grundgehalt beinhaltet die Vergütung für diese Rolle die Möglichkeit von Aktienoptionen. Sprechen Sie für weitere Informationen mit Ihrem Recruiter.
DoorDash kümmert sich um Sie und Ihr allgemeines Wohlbefinden. Deshalb bieten wir allen regulären Mitarbeitern ein umfassendes Leistungspaket, das einen 401(k)-Plan mit Arbeitgeberzuschuss, 16 Wochen bezahlten Elternurlaub, Wellness-Leistungen, Zuschuss zu Pendlerkosten, bezahlten Urlaub und bezahlte Krankheitstage gemäß den geltenden Gesetzen (z. B. Colorado Healthy Families and Workplaces Act) umfasst. DoorDash bietet außerdem Kranken-, Zahn- und Augenversicherungen, 11 bezahlte Feiertage, Invaliditäts- und Grundlebensversicherungen, Unterstützung bei der Familiengründung und ein Programm für psychische Gesundheit, unter anderem.
Um mehr über unsere Leistungen zu erfahren, besuchen Sie unsere Karriereseite hier careers.doordash.com/.
Siehe unten für Details zu bezahlten freien Tagen: *
- Für Angestellte: flexible bezahlte freie Tage/Urlaub, plus 80 Stunden bezahlte Krankheitstage pro Jahr. *
- Für Stundenlöhner: Urlaub wird etwa 1 Stunde für je 25.97 gesammelte Arbeitsstunden erworben (z. B. etwa 6.7 Stunden/Monat bei 40 Stunden/Woche; etwa 3.4 Stunden/Monat bei 20 Stunden/Woche), und bezahlte Krankheitstage werden 1 Stunde für je 30 gesammelte Arbeitsstunden erworben (z. B. etwa 5.8 Stunden/Monat bei 40 Stunden/Woche; etwa 2.9 Stunden/Monat bei 20 Stunden/Woche).
Die nationalen Gehaltsspannen für diese Position innerhalb der Vereinigten Staaten, einschließlich Illinois und Colorado.
I4 $137,100—$201,600 USD
I5 $167,800—$246,800 USD
I6 $203,500—$299,300 USD
ÜBER DOORDASH
Bei DoorDash prägt unsere Mission, lokale Wirtschaften zu stärken, wie sich unsere Teammitglieder schnell bewegen, lernen und wiederholen, um wirkungsvolle Entscheidungen zu treffen, die Empathie für unsere Nutzer – von Dashern über Händlerpartner bis hin zu Verbrauchern – zeigen. Wir sind ein Technologie- und Logistikunternehmen, das ursprünglich die Lieferung von Tür zu Tür ermöglichte, und wir suchen Teammitglieder, die uns helfen können, von einem Unternehmen, das als der Ort bekannt ist, an dem man Essen bestellt, zu einem Unternehmen zu werden, an das sich Menschen für alle Waren wenden.
DoorDash wächst rasant und verändert sich ständig, was unseren Teammitgliedern die Möglichkeit gibt, ihre einzigartigen Perspektiven einzubringen, neue Herausforderungen zu lösen und ihre Karrieren selbst zu gestalten. Wir sind bemüht, das Glück, die Gesundheit und das allgemeine Wohlbefinden der Mitarbeiter zu unterstützen, indem wir umfassende Leistungen und Vergünstigungen anbieten, darunter erstklassige Gesundheitsversorgung, Erstattung von Wellness-Ausgaben, bezahlter Elternurlaub und mehr.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen