JFrog
Fractile
Developer Experience / DevEx
Über die Stelle
Developer Experience / DevEx
Über das Team und die Rolle
Über Sie
Fractile strebt danach, die Taktfrequenz des globalen Fortschritts zu erhöhen, ein Chip nach dem anderen. Wir haben kürzlich 220M USD von Investoren wie Founders Fund und Accel eingesammelt, und unsere wichtigste Arbeit liegt noch vor uns. Werden Sie Teil unseres Teams!
Exportkontrollen
Standort: Bristol / London
Unsere Arbeit umfasst Technologien, die britischen, US-amerikanischen und anderen internationalen Exportkontrollvorschriften unterliegen. Bestimmte Rollen erfordern möglicherweise zusätzliche Eignungsprüfungen, um die Einhaltung der geltenden Gesetze sicherzustellen. Wir werden während des gesamten Einstellungsprozesses transparent darüber informieren.
Über Fractile
Fractile wurde im Jahr 2022 mit der Wette gegründet, dass die leistungsfähigsten KI-Systeme der Welt letztendlich durch die Zeit begrenzt würden, die für die Erzielung nützlicher Ergebnisse benötigt wird. Wir haben alles auf die logische Schlussfolgerung gesetzt: dass der einzige Weg, diesen latenten Wert wirklich zu erschließen und Geschwindigkeit in großem Maßstab rentabel zu machen, darin bestand, die Hardware, auf der wir unsere fortschrittlichen KI-Modelle ausführen, radikal neu zu erfinden. Seitdem bauen wir Chips und Systeme, die dieses Problem angehen: Wie können wir effizient Ausgaben mit Tausenden von Tokens pro Sekunde generieren und gleichzeitig die Komplexitäts- und Kapazitätsherausforderungen des Betriebs großer Modelle mit sehr langen Kontexten bewältigen.
Die Workloads, die die Grenzen des aktuellen Fortschritts ausloten, sind bereits transformativ; es sind die technischen und wirtschaftlichen Grenzen der Inferenzgeschwindigkeit, die den Fortschritt einschränken. Die bestimmende Arbeit des 21. Jahrhunderts wird durch die Inferenz-Engine gekennzeichnet sein, die immense und diffuse Ketten intellektueller Forschung liefert, bei der Medikamentenentwicklung, in der Softwareentwicklung, bei der Materialentdeckung, in jedem Bereich, in dem der Fortschritt durch tiefes Denken und Intelligenz zur Lösung komplexer Probleme angetrieben wird.
Die Rolle
Über die Softwareorganisation bei Fractile
Developer Experience ist Teil der Softwareorganisation bei Fractile, die für die Entwicklung eines vollständigen Software-Stacks für unsere bahnbrechenden KI-Inferenzsysteme verantwortlich ist. Das umfasst alles von ML-Compilern, Gerätetreibern und System-Firmware, Laufzeitumgebungen auf Anwendungsebene und Ökosystem-Integrationen, ML- und Compute-Bibliotheken, großartigen Entwickler-Tools und einem vollständigen Portfolio von Simulatoren bis hin zu Lösungen für die Bereitstellung von Workloads im Rechenzentrum. Bei Fractile wissen wir, dass ein fantastischer Software-Stack ein kritischer und zentraler Bestandteil jeder KI-Inferenzlösung ist und im Mittelpunkt unseres Handelns steht.
Das Developer Experience Team bei Fractile hilft dabei, die Interaktion unserer Kunden mit dem Fractile Inferenzbeschleuniger zu gestalten. Wir arbeiten unternehmensweit daran, Informationen darüber zu identifizieren, zu erstellen und zu präsentieren, wie das System genutzt wird, und stellen gleichzeitig die Werkzeuge bereit, die unseren Kunden helfen, ihre Nutzung des Systems zu optimieren, während eine flache Lernkurve beibehalten wird.
Als Mitglied des Developer Experience Teams müssen Sie den aktuellen Stand der Entwicklung für Inferenzhardware verstehen. Sie müssen in der Lage sein zu identifizieren, was für Ingenieure, die potenzielle Möglichkeiten zur Leistungsverbesserung identifizieren möchten, gut funktionieren wird, und gleichzeitig wissen, welche Werkzeuge in den bestehenden Workflow eines LLM-Ingenieurs mit minimalem Aufwand und Störung passen.
Schlüsselanforderungen
Wir suchen jemanden, der eigeninitiativ ist und in der Lage ist, Tooling-Möglichkeiten zu identifizieren, diese Tools zu entwerfen und sie so zu liefern, dass sie zum bestehenden Toolset eines LLM-Ingenieurs passen. Sie haben möglicherweise bereits in diesem Bereich gearbeitet, vielleicht als FDE oder bei einem Unternehmen, das Inferenzdienste mit eigenen Modellen anbietet, und verfügen über die Fähigkeit, neue Tools zu entwickeln, die funktional und einfach zu erlernen und zu verwenden sind.
- Erfahrung mit Inferenz-Frameworks wie JAX und/oder PyTorch
- Erfahrung in der Softwareentwicklung in Python, Rust, C/C++ oder einer ähnlichen Sprache
- Erfahrung in der Überwachung und Optimierung von Code, der in CUDA, ROCm, OpenCL oder ähnlichem geschrieben ist
- Erfahrung in der Überwachung und Optimierung von LLM-Bereitstellungen mit 50+ Milliarden Parametern
- Erfahrung in der Zusammenarbeit mit Stakeholdern aus mehreren Teams
Was wir bieten
- Wettbewerbsfähiges Gehalt: Ein wettbewerbsfähiges Gehalt, das Ihre Erfahrung und die spezialisierte Natur der Rolle widerspiegelt
- Eigenkapital & Eigentümerschaft: Bedeutendes Eigenkapital, damit alle am Wertschöpfungsprozess teilhaben
- Leistungen: Private Kranken-, Zahn- und Augenversicherung, Beitragsorientierte Rente, 25 Urlaubstage plus Feiertage und Lebens-/Schwererkrankenversicherung
- Vielfältiges & unterhaltsames Büro: Wir glauben, dass die schwierigsten Probleme von den unterschiedlichsten Köpfen gelöst werden. Wir verpflichten uns zu Chancengleichheit durch die Gewinnung und Bindung eines vielfältigen Teams und den Aufbau einer integrativen Umgebung
