Sysco GB
Anthropic
Die Mission von Anthropic ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu entwickeln. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe engagierter Forscher, Ingenieure, Politikexperten und Führungskräfte, die gemeinsam an der Entwicklung vorteilhafter KI-Systeme arbeiten.
Unser Team entwickelt, testet, implementiert und überwacht die Klassifikatoren, die interne Agenten daran hindern, gefährliche Aktionen auszuführen. Diese Klassifikatoren laufen über RL, Evals und interne Deployments und sind darauf ausgelegt, Dinge wie Versuche zum Ausbruch aus der Sandbox oder die Exfiltration sensibler Daten zu erkennen.
Wenn ein Klassifikator eine Aktion markiert, kann er diese blockieren, bevor der Tool-Aufruf erfolgt, die Aufgabe beenden und einen Menschen alarmieren. Dies ist eine Ebene einer Defense-in-Depth-Strategie mit mehreren Ebenen, die sich gegenseitig verstärken: Was unsere Klassifikatoren markieren, fließt in die Offline-Überwachung ein, und die daraus gewonnenen Erkenntnisse führen zu besseren Klassifikatoren und einem sichereren Umgebungsdesign.
Die Arbeit kombiniert Forschung und Production Engineering:
Das Forschungsproblem besteht darin, Klassifikatoren mit hoher Recall- und Precision-Rate zu entwickeln, um seltenes, neuartiges und manchmal adversariales Verhalten zu erkennen. Es gibt auch mehrere spezifische Forschungsfragen zu beantworten – zum Beispiel, wie Sicherheitsklassifikatoren in Trainingsumgebungen eingesetzt werden können, ohne Modelle dazu zu animieren, diese zu umgehen. Ein Teil der Forschung baut auch auf den mehrstufigen Designs auf, die in unserer Arbeit zu Claude Code Auto Mode und Constitutional Classifiers beschrieben sind.
Das technische Problem besteht darin, diese Klassifikatoren in den kritischen Pfad der Forschungs- und Produktarbeit zu integrieren. Diese Klassifikatoren müssen ein riesiges Verkehrsaufkommen bewältigen und dabei innerhalb von Kosten-, Latenz- und Verfügbarkeitsbeschränkungen operieren.
Im Tagesgeschäft arbeiten wir viel mit Claude: Sie leiten Agenten an, Experimente durchzuführen und Code bereitzustellen, und überprüfen deren Ergebnisse. Das verlagert den schwierigen Teil der Arbeit darauf, zu entscheiden, was zu tun ist und in welcher Reihenfolge. Darüber hinaus sind Organisations-, Kommunikations- und Priorisierungsfähigkeiten von großer Bedeutung, da unsere Klassifikatoren im Arbeitsablauf vieler anderer Teams liegen.
Wir glauben, dass die KI-Forschung mit der höchsten Wirkung "Big Science" sein wird. Bei Anthropic arbeiten wir als ein geschlossenes Team an nur wenigen groß angelegten Forschungsvorhaben. Und wir legen Wert auf Wirkung – die Förderung unserer langfristigen Ziele einer steuerbaren, vertrauenswürdigen KI – anstatt an kleineren und spezifischeren Rätseln zu arbeiten. Wir betrachten KI-Forschung als empirische Wissenschaft, die ebenso viel mit Physik und Biologie gemeinsam hat wie mit traditionellen Bemühungen in der Informatik. Wir sind eine extrem kollaborative Gruppe und veranstalten häufig Forschungsdiskussionen, um sicherzustellen, dass wir jederzeit die Arbeit mit der höchsten Wirkung verfolgen. Daher legen wir großen Wert auf Kommunikationsfähigkeiten.
Der einfachste Weg, unsere Forschungsrichtungen zu verstehen, ist das Lesen unserer aktuellen Forschungsergebnisse. Diese Forschung setzt viele der Richtungen fort, an denen unser Team vor Anthropic gearbeitet hat, einschließlich: GPT-3, schaltkreisbasierte Interpretierbarkeit, multimodale Neuronen, Skalierungsgesetze, KI & Rechenleistung, konkrete Probleme der KI-Sicherheit und Lernen aus menschlichen Präferenzen.
Kommen Sie und arbeiten Sie mit uns!
Anthropic ist eine Public Benefit Corporation mit Hauptsitz in San Francisco. Wir bieten wettbewerbsfähige Vergütungen und Sozialleistungen, optionales Matching für Aktienspenden, großzügigen Urlaub und Elternzeit, flexible Arbeitszeiten und einen schönen Büroraum, in dem Sie mit Kollegen zusammenarbeiten können. Leitfaden zur KI-Nutzung durch Kandidaten: Erfahren Sie mehr über unsere Richtlinie zur Nutzung von KI in unserem Bewerbungsprozess.
Die jährliche Vergütungsspanne für diese Rolle ist unten aufgeführt.
Bei Vertriebsrollen ist die angegebene Spanne die On-Target-Earnings-Spanne ("OTE") der Rolle, was bedeutet, dass die Spanne sowohl das Ziel für Verkaufsprovisionen/Verkaufsboni als auch das jährliche Grundgehalt für die Rolle umfasst.
Jahresgehalt: £1—£1 GBP
Für Rollen, die in Kalifornien ausgeübt werden: Wir berücksichtigen bei der Einstellung alle qualifizierten Bewerber, einschließlich derjenigen mit Vorstrafen oder krimineller Vergangenheit, in einer Weise, die den Anforderungen der geltenden staatlichen und lokalen Gesetze entspricht, einschließlich der San Francisco Fair Chance Ordinance, der Fair Chance Initiative for Hiring Ordinance der Stadt Los Angeles, der Fair Chance Ordinance for Employers des Los Angeles County und des California Fair Chance Act.
Wir ermutigen Sie, sich zu bewerben, auch wenn Sie glauben, nicht jede einzelne Qualifikation zu erfüllen. Nicht alle starken Kandidaten erfüllen jede einzelne der aufgeführten Qualifikationen. Untersuchungen zeigen, dass Menschen, die sich als Angehörige unterrepräsentierter Gruppen identifizieren, eher zu Imposter-Syndrom neigen und an der Stärke ihrer Kandidatur zweifeln. Daher bitten wir Sie, sich nicht vorzeitig auszuschließen und eine Bewerbung einzureichen, wenn Sie an dieser Arbeit interessiert sind. Wir glauben, dass KI-Systeme wie die, die wir bauen, enorme soziale und ethische Auswirkungen haben. Wir denken, dass dies Repräsentation noch wichtiger macht, und wir bemühen uns, eine Reihe verschiedener Perspektiven in unser Team einzubeziehen.
Ihre Sicherheit ist uns wichtig. Um sich vor potenziellen Betrugsversuchen zu schützen, denken Sie daran, dass Recruiter von Anthropic Sie nur von E-Mail-Adressen mit der Endung @anthropic.com kontaktieren. In einigen Fällen arbeiten wir möglicherweise mit geprüften Personalvermittlungsagenturen zusammen, die sich als im Auftrag von Anthropic handelnd identifizieren. Seien Sie vorsichtig bei E-Mails von anderen Domains. Legitime Recruiter von Anthropic werden niemals vor Ihrem ersten Arbeitstag nach Geld, Gebühren oder Bankdaten fragen. Wenn Sie sich bei einer Kommunikation jemals unsicher sind, klicken Sie auf keine Links – besuchen Sie direkt anthropic.com/careers für bestätigte Stellenangebote.
Reverse-Recruiting- Plattform für Entwickler