Vereinigte Staaten
Roku
Databricks
Senior Staff Applied AI Engineer – Context Retrieval
Vereinigte Staaten
Mountain View, California, United States · San Francisco, California, United States
SQL
Automatische Übersetzung. Prüfe das Original.
Die Mission
P-1549 Bei Databricks setzen wir uns leidenschaftlich dafür ein, Datenteams bei der Lösung der weltweit schwierigsten Probleme zu unterstützen – von der Realisierung neuer Transportmittel bis hin zur Beschleunigung medizinischer Durchbrüche. Dies erreichen wir durch den Aufbau und Betrieb der weltweit besten Daten- und KI-Infrastrukturplattform, damit unsere Kunden fundierte Dateneinblicke zur Verbesserung ihres Geschäfts nutzen können.
Agenten von Databricks sind nur so gut wie der Kontext, den sie abrufen können. Ob ein Agent eine Frage zum Umsatz des letzten Quartals beantwortet, einen fehlerhaften Job debuggt, SQL-Abfragen für ein Lakehouse mit 10,000 Tabellen generiert oder eine Wiki-Seite zusammenfasst – die Qualität hängt davon ab, was er finden kann und wie gut er das Gefundene versteht.
Wir suchen einen Senior Staff Applied AI Engineer, der den Kontextabruf für Databricks-Agenten über SaaS-Anbieter hinweg verantwortet. Dies ist eine „Zero-to-One“-Rolle mit zwei eng miteinander verknüpften Schwerpunkten:
Wenn Sie über fundiertes Wissen im Bereich Information Retrieval verfügen, bereits Retrieval-Systeme für RAG- und agentische Workloads bereitgestellt haben und die Infrastruktur – sowie die darauf aufbauenden Agenten – entwickeln möchten, die jeden Databricks-Agenten messbar intelligenter machen, dann ist diese Rolle genau das Richtige für Sie.
Warum diese Rolle
- Grundlegender Einfluss. Retrieval ist der wichtigste Hebel für die Qualität von Agenten. Der Stack, den Sie aufbauen, wird unter jedem Databricks-Agenten und jedem von Kunden erstellten Agenten auf unserer Plattform liegen.
- Greenfield-Projekt mit Skalierung. Sie erhalten die seltene Kombination, auf einem leeren Blatt Papier zu beginnen und gleichzeitig sofortigen Zugriff auf massive Unternehmensskalierung, echte Kundendaten und eine erstklassige Forschungsorganisation zu haben.
- Das richtige Team. Sie arbeiten mit Ingenieuren und Forschern zusammen, die hinter Lakehouse, Apache Spark™, Delta Lake, MLflow, MosaicML und DBRX stehen.
Ihre Aufgaben
- Aufbau des Retrieval-Stacks – Abfrageverständnis, Inhaltsverständnis, Ranking, Abruf und Evaluierung – für Unternehmensdaten aus SaaS, die über mehrere Systeme verteilt sind.
- Entwicklung der Such-Subagenten, die auf diesem Stack aufbauen und analysieren, welcher Kontext benötigt wird, wie dieser abgerufen werden kann und ob tatsächlich das richtige Ergebnis geliefert wurde – um den Kreislauf zwischen der Absicht eines Agenten und der zugrunde liegenden Infrastruktur zu schließen.
- Aufbau des vollständigen Retrieval-Stacks von Grund auf. Sie verantworten das End-to-End-System: Abfrageverständnis, Inhaltsverständnis und Indizierung, hybrides Retrieval, Ranking und Evaluierung. Sie treffen die architektonischen Entscheidungen, die bestimmen, wie Databricks-Agenten in den kommenden Jahren auf Kontext zugreifen werden.
- Abruf über heterogene Daten hinweg – strukturiert und unstrukturiert. Indizierung und Ranking über strukturierte Assets (Tabellen, Spalten, SQL-Abfragen, Dashboards, Code, Notebooks, Jobs) und unstrukturierte Inhalte (Dokumente, Wikis, Tickets, Chats, Bilder, Video, Audio). Jede Modalität hat ihre eigenen Signale – entwerfen Sie ein Retrieval-System, das diese nutzt, anstatt sie zu vereinheitlichen.
- Anbindung an die SaaS-Oberfläche, die Kunden tatsächlich nutzen. Entwicklung von Konnektoren und Retrieval-Adaptern für die Systeme, in denen Unternehmenswissen gespeichert ist. Behandeln Sie jede Retrieval-Quelle mit ihren eigenen Anforderungen an Aktualität, Berechtigungen und Ranking-Signalen.
- Optimierung für zwei Konsumenten gleichzeitig. Das Retrieval muss sowohl LLMs (fundierter, token-effizienter, halluzinationsresistenter Kontext) als auch Menschen (intuitive, nachvollziehbare Entdeckung) bedienen. Dies sind unterschiedliche Ziele, die unterschiedliche Signale erfordern – Sie verantworten beides.
- Lösung des Abfrageverständnisses für Agenten. Agenten-Abfragen unterscheiden sich von Web-Suchanfragen. Entwicklung von Abfrage-Umschreibungen, Dekomposition, Absichtsklassifizierung und Entitätsauflösung, die auf agentische Workflows mit mehreren Schritten abgestimmt sind.
- Lösung des Inhaltsverständnisses in großem Maßstab. Aufbau der Pipelines, die Struktur, Entitäten, Embeddings, Zusammenfassungen und Metadaten aus jedem unterstützten Asset-Typ extrahieren – und diese aktuell halten, während sich die Kundendaten weiterentwickeln.
- Entwicklung von Such-Subagenten, die über das Retrieval nachdenken. Design der agentischen Ebene, die entscheidet, welcher Kontext benötigt wird, welche Quellen abgefragt werden sollen, wie die Suche zerlegt und geroutet wird und – entscheidend – ob der abgerufene Inhalt tatsächlich ausreicht, um die Frage zu beantworten. Diese Subagenten planen mehrstufige Suchen, stellen Folgefragen bei schwachen Ergebnissen, validieren Behauptungen anhand der abgerufenen Beweise und liefern hochkonfidenten Kontext (oder signalisieren Fehler) an vorgelagerte Agenten zurück. Hier trifft IR auf agentisches Denken.
- Aufbau des Evaluierungs-Flywheels für Retrieval und Subagenten. Einrichtung von Offline-Evaluierungen (nDCG, MRR, Recall@K, Precision@K), LLM-as-Judge-Frameworks, Human-in-the-Loop-Labeling und Online-Experimenten. Erweiterung der Evaluierung über Ranking-Metriken hinaus, um die Entscheidungsqualität der Subagenten zu messen – hat er die richtige Folgefrage gestellt?, hat er korrekt erkannt, wenn das Retrieval fehlgeschlagen ist?, hat er seine Antwort auf die richtigen Beweise gestützt?. Qualität, die man nicht messen kann, kann man nicht bereitstellen.
- Festlegung der technischen Richtung und Ausbau des Teams. Erstellung der mehrjährigen Roadmap, Mentoring von Senior Engineers, Zusammenarbeit mit Forschungs-, Produkt- und Plattform-Führungskräften sowie Anhebung des technischen Niveaus in der gesamten Organisation.
Was wir suchen
- 10+ Jahre Erfahrung in der Softwareentwicklung, mit erheblicher Zeit im Aufbau von produktiven Retrieval-, Such- oder RAG-Systemen in großem Maßstab.
- Fundierte Expertise im Information Retrieval (IR): lexikalisches Retrieval (BM25, Lucene/Elasticsearch/OpenSearch), dichtes Retrieval (Embeddings, ANN-Indizes – FAISS, ScaNN, HNSW), hybrides Retrieval und Learning-to-Rank.
- Praktische Erfahrung mit modernem LLM-Retrieval: RAG-Architekturen, Abfrage-Umschreibung, Re-Ranking mit Cross-Encodern, Long-Context-Strategien und Grounding-Techniken zur Reduzierung von Halluzinationen.
- Erfahrung im Design von agentischen Systemen auf Basis von Retrieval – Suchplaner, mehrstufiges / iteratives Retrieval, Selbstreflexion und Suffizienzprüfungen, Tool-nutzende Agenten, die entscheiden, was abgerufen werden soll und verifizieren, was zurückkam.
- Starkes Verständnis der Relevanz-Evaluierung: nDCG, MRR, Precision@K, Recall@K; Offline-/Online-Experimente; LLM-as-Judge-Frameworks; Aufbau von Pipelines für menschliches Labeling.
- Erfahrung in der Arbeit mit strukturierten und unstrukturierten Daten – Sie haben Tabellen, Code und Dokumente im selben System indiziert und gerankt und haben fundierte Ansichten darüber, wie man dies effizient umsetzt.
- Nachweisliche Erfolge beim Aufbau von 0→1: Sie haben ein Retrieval-System aus einem leeren Repository aufgebaut, die grundlegenden architektonischen Entscheidungen getroffen und es zu einem System ausgebaut, auf das sich Kunden verlassen.
- Nachgewiesene Fähigkeit, als technische Führungskraft zu agieren: Festlegung der Richtung über Teams hinweg, Mentoring von Senior Engineers und Beeinflussung der Roadmap in Zusammenarbeit mit Forschungs-, Produkt- und Plattform-Partnern.
Wünschenswert
- Erfahrung im Aufbau von Retrieval über Unternehmens-Datenquellen aus SaaS (Berechtigungen, Aktualität, Multi-Tenancy, ACL-bewusste Indizierung).
- Hintergrund in agentischen Systemen, Tool-Nutzung oder mehrstufigem Retrieval für LLM-Agenten.
- Beiträge zu Open-Source-IR/Suchprojekten oder Publikationen bei SIGIR, KDD, WWW, EMNLP oder ähnlichen Konferenzen.
- Erfahrung im Training oder Fine-Tuning von Embedding-Modellen, Rerankern oder Modellen zum Abfrageverständnis.
Standort
Diese Rolle ist in unserem Büro in Mountain View, CA oder San Francisco, CA angesiedelt. Eine hybride Zusammenarbeit vor Ort wird erwartet.
Transparenz der Gehaltsspanne
Databricks verpflichtet sich zu fairen und gerechten Vergütungspraktiken. Die Gehaltsspanne(n) für diese Rolle sind unten aufgeführt und stellen das erwartete Gehalt für nicht provisionsbasierte Rollen oder das Zielgehalt für provisionsbasierte Rollen dar. Die tatsächlichen Vergütungspakete basieren auf mehreren Faktoren, die für jeden Kandidaten einzigartig sind, einschließlich, aber nicht beschränkt auf berufsbezogene Fähigkeiten, Erfahrungstiefe, relevante Zertifizierungen und Schulungen sowie den spezifischen Arbeitsort. Basierend auf den oben genannten Faktoren geht Databricks davon aus, die volle Breite der Spanne zu nutzen. Das Gesamtvergütungspaket für diese Position kann auch die Berechtigung für einen jährlichen Leistungsbonus, Aktienoptionen und die oben genannten Leistungen umfassen. Weitere Informationen darüber, in welcher Spanne sich Ihr Standort befindet, finden Sie auf unserer Seite hier databricks.com/sites/default/files/2024-08/us-pay-zone-mapping.pdf.
Lokale Gehaltsspanne
$228,600—$342,800 USD
Unser Engagement für Vielfalt und Inklusion
Bei Databricks setzen wir uns für die Förderung einer vielfältigen und inklusiven Kultur ein, in der jeder glänzen kann. Wir achten sehr darauf, dass unsere Einstellungspraktiken inklusiv sind und den Standards für Chancengleichheit entsprechen. Personen, die sich bei Databricks um eine Anstellung bewerben, werden ohne Rücksicht auf Alter, Hautfarbe, Behinderung, ethnische Zugehörigkeit, Familien- oder Familienstand, Geschlechtsidentität oder -ausdruck, Sprache, nationale Herkunft, körperliche und geistige Fähigkeiten, politische Zugehörigkeit, Rasse, Religion, sexuelle Orientierung, sozioökonomischen Status, Veteranenstatus und andere geschützte Merkmale berücksichtigt.
Compliance
Falls für die Erfüllung der Arbeitsaufgaben der Zugang zu exportkontrollierter Technologie oder Quellcode erforderlich ist, liegt es im Ermessen des Arbeitgebers, ob er für solche Positionen eine Lizenz der US-Regierung beantragt, und der Arbeitgeber kann die Fortsetzung des Bewerbungsprozesses mit einem Bewerber allein auf dieser Grundlage ablehnen.
Über Databricks
Databricks ist das Daten- und KI-Unternehmen. Mehr als 20,000 Organisationen weltweit – darunter adidas, AT&T, Bayer, Block, Mastercard, Rivian, Unilever und 70% der Fortune 500 – verlassen sich auf die Databricks Data + AI Platform, um Daten- und KI-Apps, Analysen und Agenten zu erstellen und zu skalieren. Mit Hauptsitz in San Francisco und 30+ Büros weltweit bietet Databricks eine einheitliche Plattform, die Genie, Lakebase, Agent Bricks, Lakeflow, Lakehouse und Unity Catalog umfasst. Um mehr zu erfahren, folgen Sie Databricks auf LinkedIn linkedin.com/company/databricks, X x.com/databricks, YouTube youtube.com/@Databricks und Instagram instagram.com/databricksinc/?hl=en.
Leistungen
Bei Databricks bemühen wir uns, umfassende Leistungen und Vergünstigungen anzubieten, die den Bedürfnissen aller unserer Mitarbeiter entsprechen. Für spezifische Details zu den in Ihrer Region angebotenen Leistungen klicken Sie hier docs.google.com/document/d/154un3e8Xav4BceOSlcYFZRGEuQI54xMxVydRwQn54eQ/edit?usp=sharing.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen