Roku
Nexusflow.ai Inc.
Backend Engineer
Über uns
Nexusflow.ai Moderne Enterprise Copilots & Agents erfordern letzte Qualitätsoptimierung, robuste Enterprise-Fähigkeiten und skalierbare Betriebskosten, die über vereinfachte Programmierschnittstellen für generative KI hinausgehen. Nexusflow stellt sich dieser Herausforderung und ermöglicht Unternehmen, ihre eigenen Workflow-Copilots & Agents zu besitzen, die auf leistungsstarken, kosteneffizienten und kompakten LLMs basieren. Wir trainieren große Sprachmodelle und entwickeln Dev-Tools für letzte Qualitätsoptimierung für Copilots & Agents in Ihren Unternehmensworkflows. Unsere Teammitglieder haben den Open-Source LLM, NexusRaven-V2 huggingface.co/Nexusflow/NexusRaven-V2-13B, entwickelt, der in der Funktionsaufruffähigkeit mit GPT-4 mithalten kann und dabei eine 100X kleinere Modellgröße aufweist. Unsere Teammitglieder stehen auch hinter Starling huggingface.co/berkeley-nest/Starling-LM-7B-alpha, dem auf menschlicher Bewertung in der Chatbot Arena huggingface.co/spaces/lmsys/chatbot-arena-leaderboard basierenden, kompakten 7B Chat-Modell auf Rang #1.
Position: Backend Engineer
Nexusflow erweitert derzeit sein Team um Backend Engineers. Unsere Backend Engineers verpacken unsere Technologie in Modelle und Tools für letzte Qualitätsoptimierung. Unsere Backend Engineers werden die treibende Kraft beim Aufbau unserer Produkte und Lösungen sein, in enger Zusammenarbeit mit unseren ML Engineers und Front-end Engineers.
VERANTWORTLICHKEITEN
- Entwicklung von API-Systemen für Copilot- & Agenten-Qualitäts-Tools
- Entwicklung von API-Systemen für Copilot-Serving und -Integration mit Fokus auf Enterprise-Anforderungen in folgenden Bereichen
- Integration mit On-Premise- & Cloud-Compute-Anbietern
- Integration mit Software-Tools, die in kundenorientierten Lösungen benötigt werden
- Optimierung der Leistung verteilter Systeme und optional GPU-Leistung
- Übernahme verschiedener Rollen und Zusammenarbeit mit dem gesamten Team für Produktentwicklung, Bereitstellung und Kundenerfolg
QUALIFIKATION
ERFORDERLICH
- Erfahrung in der Bereitstellung von ML-Modellen oder ML-Datenpipelines (On-Premise oder in der Cloud)
- Erfahrung im Aufbau von backend für Anwendungs- oder Plattform-API-Systeme
BEVORZUGT
- BERUFSERFAHRUNG IN EINEM SCHNELLEN TEAMUMFELD
- Erfahrung in der Nutzung oder Mitwirkung an modernen Compute-Frameworks für LLMs (z. B. Deepspeed, Huggingface TGI, FSDP)
- Erfahrung in Projekten mit LLMs
