Staff+ Software Engineer, Safeguards Infrastructure

Anthropic hat es sich zur Aufgabe gemacht, zuverlässige, interpretierbare und steuerbare KI-Systeme zu entwickeln. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer sowie für die Gesellschaft als Ganzes ist.

Unser Team ist eine schnell wachsende Gruppe engagierter Forscher, Ingenieure, Politikexperten und Wirtschaftsführer, die gemeinsam daran arbeiten, vorteilhafte KI-Systeme aufzubauen.

ÜBER DIE ROLLE

Wir suchen Softwareentwickler, die uns beim Aufbau der grundlegenden Bausteine für Sicherheits-, Aufsichts- und Interventionsmechanismen unserer KI-Systeme unterstützen. Als Softwareentwickler im Safeguards-Team werden Sie daran arbeiten, Modelle zu überwachen, Missbrauch zu verhindern und das Wohlbefinden der Nutzer zu gewährleisten. Diese Rolle konzentriert sich auf den Aufbau von Systemen zur Erkennung unerwünschter Modellverhaltensweisen und zur Verhinderung der unzulässigen Nutzung von Modellen. Sie werden Ihre technischen Fähigkeiten einsetzen, um unsere Prinzipien der Sicherheit, Transparenz und Aufsicht zu wahren.

WAS UNS UNTERSCHEIDET

Wir glauben, dass die wirkungsvollste KI-Forschung "Big Science" sein wird. Bei Anthropic arbeiten wir als ein einziges, zusammenhängendes Team an nur wenigen groß angelegten Forschungsbemühungen. Und wir legen Wert auf Wirkung – die Förderung unserer langfristigen Ziele einer steuerbaren, vertrauenswürdigen KI – anstatt an kleineren und spezifischeren Problemen zu arbeiten. Wir betrachten KI-Forschung als eine empirische Wissenschaft, die ebenso viel mit Physik und Biologie gemeinsam hat wie mit traditionellen Anstrengungen in der Informatik. Wir sind eine äußerst kollaborative Gruppe und veranstalten häufig Forschungsdiskussionen, um sicherzustellen, dass wir die wirkungsvollste Arbeit zu jedem Zeitpunkt verfolgen. Daher legen wir großen Wert auf Kommunikationsfähigkeiten.

Der einfachste Weg, unsere Forschungsrichtungen zu verstehen, ist, unsere aktuelle Forschung zu lesen. Diese Forschung setzt viele der Richtungen fort, an denen unser Team vor Anthropic gearbeitet hat, darunter: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety und Learning from Human Preferences.

Bewerbungsfrist: Keine. Bewerbungen werden fortlaufend geprüft.

Die jährliche Vergütungsspanne für diese Rolle ist unten aufgeführt. Für Vertriebsrollen ist die angegebene Spanne die Zielverdienstspanne ("OTE") der Rolle, was bedeutet, dass die Spanne sowohl die Zielprovisionen/Verkaufsboni als auch das jährliche Grundgehalt für die Rolle umfasst.

Jahresgehalt: £325,000—£395,000 GBP

LOGISTIK

Mindestbildung: Bachelor-Abschluss oder eine gleichwertige Kombination aus Bildung, Ausbildung und/oder Erfahrung

Erforderlicher Studienbereich: Ein für die Rolle relevanter Bereich, nachgewiesen durch Kursarbeit, Ausbildung oder Berufserfahrung

Mindestjahre an Erfahrung: Die erforderliche Berufserfahrung korreliert mit den internen Anforderungsstufen für die Position

Standortbasierte Hybridrichtlinie: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25% der Zeit in einem unserer Büros anwesend sind. Einige Rollen erfordern jedoch möglicherweise mehr Zeit in unseren Büros.

Visumsponsorship: Wir sponsern Visa! Allerdings können wir nicht für jede Rolle und jeden Kandidaten erfolgreich Visa sponsern. Aber wenn wir Ihnen ein Angebot machen, werden wir alle zumutbaren Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir beauftragen einen Einwanderungsanwalt, um Sie dabei zu unterstützen.

Wir ermutigen Sie, sich auch dann zu bewerben, wenn Sie nicht glauben, jede einzelne Qualifikation zu erfüllen. Nicht alle starken Kandidaten erfüllen jede einzelne aufgeführte Qualifikation. Recherchen zeigen, dass Menschen, die sich als Angehörige unterrepräsentierter Gruppen identifizieren, anfälliger für das Impostor-Syndrom sind und an ihrer Kandidatur zweifeln. Daher bitten wir Sie dringend, sich nicht vorzeitig auszuschließen und sich zu bewerben, wenn Sie an dieser Arbeit interessiert sind. Wir sind der Meinung, dass KI-Systeme wie die, die wir entwickeln, enorme soziale und ethische Auswirkungen haben. Wir glauben, dass dies die Repräsentation noch wichtiger macht, und wir bemühen uns, eine Bandbreite vielfältiger Perspektiven in unserem Team zu vereinen.

Ihre Sicherheit ist uns wichtig. Um sich vor möglichen Betrügereien zu schützen, denken Sie daran, dass Anthropic-Recruiter Sie nur von E-Mail-Adressen @anthropic.com kontaktieren. In einigen Fällen arbeiten wir möglicherweise mit geprüften Personalvermittlungsagenturen zusammen, die sich als im Auftrag von Anthropic arbeitend ausweisen. Seien Sie vorsichtig bei E-Mails von anderen Domains. Legitime Anthropic-Recruiter werden Sie niemals vor Ihrem ersten Tag nach Geld, Gebühren oder Bankinformationen fragen. Wenn Sie jemals unsicher über eine Kommunikation sind, klicken Sie nicht auf Links – besuchen Sie anthropic.com/careers anthropic.com/careers direkt, um bestätigte Stellenangebote zu finden.

Leitfaden zur KI-Nutzung durch Bewerber: Erfahren Sie mehr über unsere Richtlinien anthropic.com/candidate-ai-guidance zur Nutzung von KI in unserem Bewerbungsprozess.

Anthropic ist eine Public Benefit Corporation mit Hauptsitz in San Francisco. Wir bieten wettbewerbsfähige Vergütung und Leistungen, optionale Spenden von Aktien, großzügigen Urlaub und Elternzeit, flexible Arbeitszeiten und einen schönen Büroraum für die Zusammenarbeit mit Kollegen.