Roku
Tubi
Staff Software Engineer, ML Infra & Distributed Systems
À propos du poste
En tant qu'ingénieur logiciel Staff au sein de l'équipe d'infrastructure ML, vous collaborerez étroitement avec les équipes Machine Learning et Produit pour concevoir des plateformes d'inférence machine learning de classe mondiale. Ces plateformes alimentent des services essentiels tels que les recommandations personnalisées, la recherche et la compréhension de contenu sur Tubi. Une responsabilité fondamentale de cette équipe consiste à développer et à maintenir des systèmes de serving de modèles ML à faible latence qui prennent en charge les modèles de Deep Learning, LLM et de recherche. Cela implique la création d'une infrastructure en libre-service et de composants critiques tels que le moteur d'inférence, le feature store, le vector store et le moteur d'expérimentation. Vous améliorerez la manière dont nous déployons et exploitons nos services et contribuerez même à des projets open-source. Ce rôle offre la liberté architecturale d'explorer de nouveaux frameworks, de diriger des projets interfonctionnels critiques et de transformer les capacités de nos équipes ML et Produit.
Responsabilités
- Concevoir et construire des systèmes distribués évolutifs, à haut débit et à faible latence en utilisant Scala
- Construire des composants et services réutilisables qui servent diverses applications ML telles que la personnalisation, la recherche, la publicité et l'exploration
- Collaborer étroitement avec les ingénieurs ML pour comprendre leurs défis et limitations et développer des solutions évolutives pour y répondre. Recommander proactivement des solutions pour maintenir notre pile d'inférence ML à la pointe de la technologie.
- Adopter une approche axée sur les données pour identifier et optimiser la latence, le coût et l'efficacité de notre infrastructure. Diriger des refactorisations interfonctionnelles à grande échelle si nécessaire
- Mentorer d'autres ingénieurs de l'équipe sur la conception de systèmes, la gestion efficace des incidents, les entretiens, l'utilisation des LLMs pour le travail, etc.
- Collaborer avec les équipes ML, Produit et d'ingénierie interfonctionnelles pour définir la vision à long terme et l'architecture de l'Infrastructure ML chez Tubi.
Votre profil
- Expérience dans la conception et la construction de systèmes distribués évolutifs dans tout langage de programmation backend moderne (par exemple, Scala, Java, Python, Go, C++); une expérience avec Scala ou un langage basé sur JVM est un plus.
- Solide expérience avec AWS ou une plateforme cloud équivalente
- Expérience dans la construction de microservices en ligne à grande échelle avec un serving à faible latence
- Expérience avec les bases de données SQL (par exemple, Postgres) et NoSQL (par exemple, Cassandra), les brokers de messages (par exemple, Kafka) et les caches (par exemple, Redis)
- Expérience avec les technologies de conteneurisation, telles que Docker ou Kubernetes
- A dirigé les efforts de réponse et de résolution pour plusieurs incidents majeurs à grande échelle
Atouts supplémentaires
- Familiarité avec l'infrastructure de machine learning telle que les moteurs d'inférence (par exemple, torschserve, triton, vLLM), les magasins vectoriels (par exemple, LanceDB, FAISS), les magasins de caractéristiques (par exemple, Feast), ElastiCache, l'orchestration de l'entraînement de modèles, etc.
- Compréhension des pipelines d'entraînement de modèles ML et des internes des modèles. Une expérience avec les systèmes de recommandation, la recherche, l'autocomplétion et le ML publicitaire est un plus.
- Expérience antérieure avec Akka, Erlang, Elixir ou Go
- Maîtrise de l'analyse axée sur les données des résultats complexes de tests A/B
À PROPOS DE TUBI
Tubi est un service de streaming gratuit qui divertit plus de 100 millions d'utilisateurs actifs mensuels. Tubi propose la plus grande collection de films et d'émissions de télévision hollywoodiens au monde, des milliers d'histoires créées par des créateurs et des centaines d'originaux Tubi créés pour les fans les plus passionnés. Basé à San Francisco et fondé en 2014, Tubi fait partie de Tubi Media Group, une division de Fox Corporation.
Construit avec audace pour tous les fandoms, Tubi est un service de streaming gratuit qui divertit plus de 100 millions d'utilisateurs actifs mensuels. Tubi propose la plus grande collection de films et d'émissions de télévision hollywoodiens au monde, des milliers d'histoires créées par des créateurs et des centaines d'originaux Tubi créés pour les fans les plus passionnés. Basé à San Francisco et fondé en 2014, Tubi fait partie de Tubi Media Group, une division de Fox Corporation.
Nous sommes un employeur garantissant l'égalité des chances et tous les candidats qualifiés recevront une considération pour l'emploi sans distinction de race, de couleur, de religion, de sexe, d'origine nationale, d'identité de genre, de handicap, de statut d'ancien combattant protégé ou de toute autre caractéristique protégée par la loi. Nous considérerons pour l'emploi les candidats qualifiés ayant des antécédents judiciaires conformes à la loi applicable.
#LI-Hybrid
--------------------------------------------------------------------------------
Conformément aux exigences de divulgation des salaires des États et des localités, la fourchette de rémunération pour ce poste, le montant final de l'offre dépendant de l'éducation, des compétences, de l'expérience et de la localisation, est indiquée annuellement ci-dessous. Ce poste est également éligible à une prime discrétionnaire annuelle, à un plan d'incitation à long terme et à divers avantages, notamment une couverture médicale/dentaire/visuelle, une assurance, un plan 401(k), des congés payés et d'autres avantages conformément aux documents de plan applicables.
Marchés du travail à coût élevé tels que, mais sans s'y limiter, Los Angeles, New York City et San Francisco
$227,200—$324,500 USD
Tubi est une division de Fox Corporation, et les avantages sociaux des employés de FOX résumés ici drive.google.com/file/d/1I_N5Kz_AWxSaiTvS-jr1gqzKLXM3krY3/view?usp=sharing couvrent la majorité de tous les avantages sociaux des employés américains. Les distinctions suivantes ci-dessous décrivent les différences entre les avantages sociaux de Tubi et de FOX :
- Pour les employés américains non-cadres de Tubi, le résumé des avantages sociaux des employés de FOX reflète fidèlement les congés payés (vacances et maladie).
- Pour tous les employés salariés/cadres, au lieu de la politique de congés payés de FOX, Tubi offre une politique de congés flexibles pour gérer toutes les affaires personnelles.
- Pour tous les employés réguliers à temps plein, au lieu du congé parental payé de FOX, Tubi offre un programme généreux de congé parental, qui accorde aux parents douze (12) semaines de congé de liaison payé au cours de la première année de naissance, d'adoption, de gestation pour autrui ou de placement en famille d'accueil d'un enfant, en plus des programmes de congé gouvernementaux applicables et de la politique d'invalidité de courte durée de FOX. Ce temps est payé à 100% par une combinaison de tous les congés et programmes de remplacement de salaire applicables des États, des villes et du gouvernement fédéral, en plus des contributions faites par Tubi.
- Pour tous les employés réguliers à temps plein, Tubi offre un remboursement mensuel pour le bien-être.
