Vereinigte Staaten
Roku
JPMorgan Chase & Co.
SR Principal Software Engineer – LLM Engineering
Vereinigte Staaten
Palo Alto, California, United States
PythonJavaAWSGCPDockerKubernetesTerraform
Automatische Übersetzung. Prüfe das Original.
Über die Stelle
Wir suchen eine technische Führungskraft, die bereit ist, ihre Karriere auf ein neues Niveau zu heben. Schließen Sie sich den Top-Talenten eines der einflussreichsten Unternehmen der Welt an.
Als Senior Principal Software Engineer bei JPMorganChase im Team Commercial & Investment Bank Trust & Safety Fraud Prevention bringen Sie tiefgreifende technische Expertise ein und arbeiten in agilen Teams, um vertrauenswürdige, marktführende Technologieprodukte sicher, stabil und skalierbar zu verbessern, zu entwickeln und bereitzustellen. Nutzen Sie Ihre tiefgreifende Expertise, um den Status quo kontinuierlich herauszufordern, für geschäftlichen Mehrwert zu innovieren, die strategische Entwicklung hinter neuen und bestehenden Produkt- und Technologieportfolios zu leiten und an der Spitze von Branchentrends, Best Practices und technologischen Fortschritten zu bleiben.
Aufgaben
- Beratung und Führung bei der Strategie, Architektur und Entwicklung von Model-Serving-Lösungen für verschiedene Modellarchitekturen (einschließlich LLMs und GNNs) in Cloud- und On-Premises-Umgebungen, wobei Initiativen auf Geschäftsergebnisse abgestimmt werden.
- Definition und Implementierung von MLOps- und LLMOps-Strategien für das End-to-End-Modelllebenszyklusmanagement, einschließlich Training, Versionierung, Bereitstellung, Überwachung und Governance.
- Optimierung der Modellinferenz für hohen Durchsatz und geringe Latenz durch Quantisierung, Modellparallelität, intelligentes Batching und Hardwarebeschleunigung für alle Modellarchitekturen.
- Festlegung von Strategien und Betriebsstandards für agentenbasierte KI-gestützte Entwicklung über ein Portfolio hinweg (unter Verwendung von unternehmensautorisierten Tools innerhalb der Arbeitsumgebung), um messbare Verbesserungen bei Liefergeschwindigkeit, Zuverlässigkeit und Codequalität zu erzielen (z. B. KI-orchestrierte SDLC/TLM-Automatisierung, Freigabebereitschafts-Gating, Beschleunigung der Incident-Triage/Ursachenanalyse und groß angelegte Refactoring-/Testmodernisierung), während gleichzeitig Leitplanken für Validierung, Sicherheit, Ausfallsicherheit und Wiederverwendung über Teams und Funktionen hinweg definiert werden.
- Anwendung von Kenntnissen über Tools in der Toolchain des Softwareentwicklungslebenszyklus, einschließlich unternehmensautorisierter KI-gestützter Entwicklungs- und Automatisierungsfunktionen, zur Verbesserung des durch Automatisierung im großen Maßstab erzielten Werts.
- Erstellung dauerhafter, wiederverwendbarer Software- und Plattform-Frameworks zur Standardisierung von ML-Engineering-Diensten, um Skalierbarkeit über Teams und Funktionen hinweg zu ermöglichen.
- Festlegung von Best Practices für Automatisierung, CI/CD und Infrastructure-as-Code unter Verwendung von Containerisierungs- und Orchestrierungstechnologien.
- Enge Zusammenarbeit mit Data Science-, Plattform-Engineering- und SRE-Teams zur Produktion von Modellen auf AWS, um Beobachtbarkeit, Zuverlässigkeit und Kosteneffizienz zu gewährleisten.
- Leitung der Bereitstellung und Optimierung mit Modellinferenzservern wie Triton Inference Server und vLLM für hochdurchsatzfähiges, latenzarmes Serving im großen Maßstab.
- Überwachung der Produktionsoperationen für KI-Workloads, einschließlich Überwachung, Incident Response, Sicherheit und Compliance, mit kontinuierlicher Verbesserung.
- Übersetzung komplexer technischer Konzepte und aufkommender Trends in umsetzbare Strategien, Beeinflussung von Senior Stakeholdern und funktionsübergreifenden Partnern zur Priorisierung und Bereitstellung von KI/ML-Funktionen, die messbare Geschäftsergebnisse erzielen, und Förderung einer Kultur der Vielfalt, Chancengleichheit, Inklusion und des Respekts.
Erforderliche Qualifikationen, Fähigkeiten und
- FähigkeitenFormale Ausbildung oder Zertifizierung in Software-Engineering-Konzepten und 10+ Jahre praktische Erfahrung.
- 8+ Jahre Erfahrung im KI/ML-Engineering mit erheblicher Expertise in LLMs, GNNs und anderen Modellarchitekturen (z. B. GPT, Llama, Falcon, Mistral).
- Nachgewiesener Erfolg bei der Architektur und Bereitstellung von LLM- und GNN-Lösungen auf AWS (z. B. SageMaker, Bedrock, EKS) im Unternehmensmaßstab; Erfahrung mit Azure ML oder GCP Vertex AI.
- Erfahrung im Aufbau von LLM- und GNN-Serving-Plattformen in großen Umgebungen, wie sie für große Technologieunternehmen typisch sind.
- Praktische Erfahrung im Aufbau von LLM-Inferenzen-Engines mit Triton Inference Server und vLLM, einschließlich Autoskalierung, Caching und Durchsatzoptimierung.
- Fortgeschrittene Kenntnisse in Python und Optimierungstechniken, angewendet auf deep learning-Frameworks (PyTorch, TensorFlow, Hugging Face Transformers).
- Tiefes Verständnis von LLMOps/MLOps (z. B. MLflow, SageMaker Pipelines, Kubeflow) mit einer Erfolgsbilanz bei der Implementierung von Best Practices im großen Maßstab.
- Nachgewiesene Erfahrung in der Konzeption und Skalierung von agentenbasierten KI-gestützten Entwicklungsmustern (unter Verwendung von unternehmensautorisierten Tools innerhalb der Arbeitsumgebung) über Teams/Funktionen hinweg, einschließlich der Etablierung von Governance für Human-in-the-Loop-Validierung, Nachverfolgbarkeit/Auditierbarkeit und sichere Handhabung sensibler Ein- und Ausgaben.
- Starkes Verständnis des verantwortungsvollen KI-Einsatzes und der Kontrollerwartungen im großen Maßstab, einschließlich Sicherheits-/Auswirkungsüberlegungen, Datensensibilität und risikobasierter Governance; Fähigkeit, Führungskräfte über sichere Einführung, Wiederverwendung und messbare Ergebnisse zu beraten.
- Expertise in Inferenzoptimierung und verteilten Systemen für große Modelle, konzentriert auf Anwendungen mit hohem Durchsatz und geringer Latenz, einschließlich Systemdesign, Tests und betrieblicher Stabilität für unternehmensweite KI-Plattformen.
- Ausgezeichnete Kommunikationsfähigkeiten mit nachgewiesener Zusammenarbeit mit SRE zur Implementierung von Beobachtbarkeit, Incident Response und SLIs/SLOs für LLM-Dienste und der Fähigkeit, sowohl technische als auch nicht-technische Stakeholder zu beeinflussen, um funktionsübergreifend im großen Maßstab Werte zu liefern.
Bevorzugte Qualifikationen, Fähigkeiten und
- FähigkeitenMaster oder Promotion in Informatik, Ingenieurwesen oder einem verwandten Fachgebiet (oder gleichwertige Erfahrung).
- Praktische Cloud-native Erfahrung, einschließlich Containerisierung (Docker), Orchestrierung (Kubernetes) und Infrastructure-as-Code (Terraform, CloudFormation).
- Expertise in Sicherheit, Compliance und Governance für KI/ML-Bereitstellungen in regulierten Umgebungen.
- Erfahrung in den Bereichen Vertrauen und Sicherheit oder Betrugsprävention; Vertrautheit mit Zahlungsplattformen ist von Vorteil.
- Erfolgsbilanz bei Beiträgen zu Open-Source-LLM-Projekten oder Peer-Review-Forschung und/oder Erfahrung bei Präsentationen auf Branchenkonferenzen oder der Leitung technischer Communities.
- Vertrautheit mit Hardwarebeschleunigungsstrategien für GPUs, TPUs und spezialisierte Inferenz-Runtimes.
- Erfahrung im Aufbau von java-basierten Anwendungen
Diese Position unterliegt Abschnitt 19 des Federal Deposit Insurance Act. Daher steht ein Stellenangebot für diese Position unter dem Vorbehalt der Überprüfung der Vorstrafenregister durch JPMorgan Chase, einschließlich strafrechtlicher Verurteilungen, vorläufiger Einstellungen oder Programmeintritte.
Wir erkennen an, dass unsere Mitarbeiter unsere Stärke sind und die vielfältigen Talente, die sie in unsere globale Belegschaft einbringen, direkt mit unserem Erfolg verbunden sind. Wir sind ein Arbeitgeber, der Chancengleichheit fördert und Wert auf Vielfalt und Inklusion in unserem Unternehmen legt. Wir diskriminieren nicht aufgrund von geschützten Merkmalen, einschließlich Rasse, Religion, Hautfarbe, nationaler Herkunft, Geschlecht, sexueller Orientierung, Geschlechtsidentität, Geschlechtsausdruck, Alter, Familienstand oder Veteranenstatus, Schwangerschaft oder Behinderung oder aus anderen Gründen, die nach geltendem Recht geschützt sind. Wir bieten auch angemessene Vorkehrungen für die religiösen Praktiken und Überzeugungen von Bewerbern und Mitarbeitern sowie für Bedürfnisse im Bereich der psychischen oder physischen Gesundheit. Besuchen Sie unsere FAQs für weitere Informationen zur Beantragung einer Unterkunft.
JPMorgan Chase & Co. ist ein Arbeitgeber, der Chancengleichheit fördert, einschließlich Behinderten/Veteranen
JPMorganChase, eines der ältesten Finanzinstitute, bietet innovative Finanzlösungen für Millionen von Verbrauchern, Kleinunternehmen und viele der weltweit führenden Unternehmens-, institutionellen und staatlichen Kunden unter den Marken J.P. Morgan und Chase. Unsere Geschichte erstreckt sich über 200 Jahre und heute sind wir führend in den Bereichen Investmentbanking, Verbraucher- und Kleinunternehmerbanking, Commercial Banking, Finanztransaktionsverarbeitung und Vermögensverwaltung.
J.P. Morgans Commercial & Investment Bank ist ein weltweit führendes Unternehmen in den Bereichen Bankwesen, Märkte, Wertpapierdienstleistungen und Zahlungsverkehr. Unternehmen, Regierungen und Institutionen auf der ganzen Welt vertrauen uns ihr Geschäft in mehr als 100 Ländern an. Die Commercial & Investment Bank bietet strategische Beratung, beschafft Kapital, verwaltet Risiken und stellt Liquidität in Märkten auf der ganzen Welt bereit.
Wir bieten ein wettbewerbsfähiges Gesamtvergütungspaket, einschließlich eines Grundgehalts, das sich nach Rolle, Erfahrung, Qualifikation und Standort richtet. Personen in berechtigten Rollen können provisionsbasierte Zahlungen und/oder diskretionäre Anreizvergütungen erhalten, die in Form von Bargeld und/oder verfallbaren Eigenkapitalanteilen ausgezahlt werden und zur Anerkennung individueller Leistungen und Beiträge gewährt werden. Wir bieten außerdem eine Reihe von Leistungen und Programmen zur Deckung der Mitarbeiterbedürfnisse, je nach Berechtigung. Zu diesen Leistungen gehören umfassende Krankenversicherung, betriebliche Gesundheits- und Wellnesszentren, ein Altersvorsorgeplan, Kinderbetreuung, Studiengebührenerstattung, psychologische Unterstützung, Finanzberatung und mehr. Weitere Details zur Gesamtvergütung und zu den Leistungen werden während des Einstellungsprozesses mitgeteilt.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen