Roku
Nexusflow.ai Inc.
Ingénieur Backend
À propos
Nexusflow.ai Les copilotes et agents d'entreprise modernes exigent une qualité de dernière étape, une robustesse de niveau entreprise et des coûts d'exploitation évolutifs, au-delà des interfaces de programmation simplifiées pour l'IA générative. Nexusflow relève ce défi, permettant aux entreprises de posséder leurs copilotes et agents de flux de travail empilés sur des LLMs puissants mais rentables et compacts. Nous entraînons des modèles de langage volumineux et construisons des outils de développement de qualité de dernière étape pour les copilotes et agents sur vos flux de travail d'entreprise. Notre équipe a construit le LLM open-source, NexusRaven-V2 huggingface.co/Nexusflow/NexusRaven-V2-13B, rivalisant avec GPT-4 dans la fonction d'appel avec une taille de modèle 100X plus petite. Les membres de notre équipe sont également derrière Starling huggingface.co/berkeley-nest/Starling-LM-7B-alpha, le modèle de chat compact #1 classé 7B basé sur l'évaluation humaine dans Chatbot Arena huggingface.co/spaces/lmsys/chatbot-arena-leaderboard.
Poste : Ingénieur Backend
Nexusflow ajoute actuellement des ingénieurs Backend à notre équipe. Nos ingénieurs Backend empaquètent notre technologie dans des modèles et des outils de qualité de dernière étape. Nos ingénieurs Backend seront la force motrice pour construire nos produits et solutions, en collaboration étendue avec nos ingénieurs ML et nos ingénieurs Front-end.
RESPONSABILITÉS
- Développement de systèmes API pour des outils de qualité de copilote et d'agent
- Développement de systèmes API pour le service et l'intégration de copilotes avec un accent sur les exigences de niveau entreprise dans les domaines suivants
- Intégration avec les fournisseurs de calcul on-prem et cloud
- Intégration avec les outils logiciels requis dans les solutions orientées client
- Optimisation des performances des systèmes distribués et éventuellement des GPU
- Porter plusieurs casquettes et collaborer avec toute l'équipe pour le développement de produits, le déploiement et le succès client
QUALIFICATION
REQUIS
- Expérience dans le déploiement de modèles ML ou de pipelines de données ML (on-prem ou cloud)
- Expérience dans la construction de backend pour des systèmes API d'applications ou de plateformes
PRÉFÉRÉ
- EXPÉRIENCE PROFESSIONNELLE DANS UN ENVIRONNEMENT D'ÉQUIPE RAPIDE
- Expérience dans l'utilisation ou la contribution à des frameworks de calcul modernes pour LLMs (par exemple, Deepspeed, Huggingface TGI, FSDP)
- Expérience dans des projets impliquant LLMs
