États-Unis
Redwood Materials
True Talent Solutions Partners
Membre du personnel technique
États-Unis
San Francisco, California, United States
Python
Traduction automatique. Consultez l’original.
À propos du poste
Rejoignez une petite équipe qui développe une infrastructure IA améliorant les performances et l'efficacité de l'inférence de modèles open-source. Vous travaillerez sur les modèles, les systèmes de service, les noyaux et l'infrastructure de production pour contribuer à une inférence fiable et rentable sur divers matériels.
Ce que vous ferez
- Fournir un support dès le premier jour pour les nouveaux modèles open-source, en les optimisant pour la latence et le débit.
- Optimiser les systèmes de service grâce à des techniques telles que le batching, le cache KV, le décodage spéculatif et la quantification.
- Écrire et optimiser des noyaux en utilisant CUDA, HIP et Triton sur une gamme de plateformes d'accélérateurs.
- Concevoir, déployer et exploiter des clusters hétérogènes sur différents fournisseurs d'infrastructure.
- Exécuter l'inférence en production sur des parcs matériels mixtes, en améliorant la fiabilité, l'observabilité et le coût par token.
- Travailler avec les clients ainsi qu'avec l'équipe d'ingénierie pour identifier les problèmes et proposer des solutions.
Ce que nous recherchons
- Un à six ans d'expérience, avec de solides compétences en systèmes, backend, infrastructure ou ingénierie bas niveau.
- Solide compréhension de l'architecture informatique, des hiérarchies mémoire et des internes des systèmes d'exploitation.
- Expérience dans la gestion de systèmes complexes de bout en bout, réalisations techniques notables ou un historique de progression rapide.
- Solides bases en informatique de premier cycle et expérience au sein d'une organisation technologique de haut niveau ou d'une startup en phase de démarrage.
- Disponible pour commencer immédiatement et travailler sur site à San Francisco.
- Familiarité avec CUDA, HIP, Triton, Python, ou la programmation GPU ; l'expérience en optimisation d'inférence et en infrastructure à grande échelle est précieuse.
- Expérience dans l'utilisation d'agents IA et d'outils de codage pour améliorer les flux de travail d'ingénierie, et aisance dans la communication avec les clients.
Rémunération et avantages
Le salaire de base est de 200,000 à 300,000 USD par an. Le parrainage de visa est disponible.
Lieu
Sur site à San Francisco, Californie, États-Unis.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil