États-Unis
Roku
Together AI
Ingénieur Machine Learning - Inférence
États-Unis
San Francisco, California, United States
PythonRust
Traduction automatique. Consultez l’original.
À PROPOS DU POSTE
Together AI recherche un ingénieur Machine Learning pour rejoindre notre équipe Moteur d'Inférence, en se concentrant sur l'optimisation et l'amélioration des performances de nos systèmes d'inférence IA. Ce rôle implique de travailler avec des modèles de langage de pointe et de garantir leur exécution efficace et performante à grande échelle. Si vous êtes passionné par l'inférence IA, PyTorch et le développement de systèmes haute performance, nous souhaitons vous rencontrer. Ce poste offre l'opportunité de collaborer étroitement avec des chercheurs et des ingénieurs en IA pour créer des solutions d'IA innovantes. Rejoignez-nous pour façonner l'avenir chez Together AI !
RESPONSABILITÉS
- Concevoir et construire les systèmes de production qui alimentent le moteur d'inférence Together AI, garantissant fiabilité et performance à grande échelle.
- Développer et optimiser les services d'inférence en temps réel pour des applications d'IA à grande échelle.
- Collaborer avec les chercheurs, les ingénieurs, les chefs de produit et les designers pour proposer de nouvelles fonctionnalités et capacités de recherche au monde entier.
- Mener des revues de conception et de code pour garantir des normes de qualité élevées.
- Créer des services, des outils et une documentation technique pour soutenir le moteur d'inférence.
- Mettre en œuvre des systèmes robustes et tolérants aux pannes pour l'ingestion et le traitement des données.
EXIGENCES
- 3+ années d'expérience dans l'écriture de code de qualité production, haute performance et bien testé.
- Maîtrise de Python et PyTorch.
- Expérience démontrée dans la construction de bibliothèques et d'outils haute performance.
- Excellente compréhension des concepts de systèmes d'exploitation bas niveau, notamment le multi-threading, la gestion de la mémoire, la mise en réseau, le stockage, la performance et la mise à l'échelle.
- Souhaitable : Connaissance des systèmes d'inférence IA existants tels que TGI, vLLM, TensorRT-LLM, Optimum
- Souhaitable : Connaissance des techniques d'inférence IA telles que le décodage spéculatif.
- Souhaitable : Connaissance de la programmation CUDA/Triton.
- Un plus : Connaissance de Rust, Cython et des compilateurs.
À PROPOS DE TOGETHER AI
Together AI, le Cloud IA Natif, est conçu spécifiquement pour les ingénieurs en IA. Les développeurs d'applications IA bénéficient d'une inférence haute performance qui évolue de manière fiable, d'un réglage fin (fine-tuning) et d'un apprentissage par renforcement pour créer des modèles spécialisés de pointe, ainsi que d'un pré-entraînement à grande échelle pour une intelligence entièrement personnalisée, le tout autour d'une place de marché de modèles open source de premier plan que les équipes peuvent exécuter, adapter et s'approprier.
Approuvé par Cursor, Decagon, ElevenLabs, Salesforce et Zoom, Together traite 400+ billions de jetons par mois.
RÉMUNÉRATION
Nous offrons une rémunération compétitive, des parts dans l'entreprise (equity), une assurance santé et d'autres avantages compétitifs. La fourchette de salaire de base aux États-Unis pour ce poste à temps plein est de $200,000 - $300,000 + equity + avantages. Nos fourchettes salariales sont déterminées par le lieu, le niveau et le rôle. La rémunération individuelle sera déterminée en fonction de l'expérience, des compétences et des connaissances liées au poste.
ÉGALITÉ DES CHANCES
Together AI est un employeur garantissant l'égalité des chances et est fier d'offrir des opportunités d'emploi égales à tous, sans distinction de race, couleur, ascendance, religion, sexe, origine nationale, orientation sexuelle, âge, citoyenneté, état civil, handicap, identité de genre, statut d'ancien combattant, et plus encore.
Veuillez consulter notre politique de confidentialité sur together.ai/privacy
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil