Vereinigte Staaten
Roku
Anthropic
Staff Security Engineer, Risk Engineering
Vereinigte Staaten
San Francisco, California, United States · New York, New York, United States · Seattle, Washington, United States
PythonC++RustGo
Automatische Übersetzung. Prüfe das Original.
ÜBER ANTHROPIC
Die Mission von Anthropic ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu entwickeln. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer sowie für die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe engagierter Forscher, Ingenieure, Politikexperten und Führungskräfte, die gemeinsam daran arbeiten, vorteilhafte KI-Systeme zu entwickeln.
ÜBER DIE ROLLE
Das Security Risk Team ist dafür verantwortlich, wie Anthropic seine wichtigsten Sicherheitsrisiken identifiziert, priorisiert und deren Behandlung vorantreibt. Wir bauen das Risikomanagement neu auf, um als technische Funktion durch Automatisierung und KI-native Plattformen zu agieren und Entscheidungsfindung zu ermöglichen. Die von uns bewerteten Systeme umfassen die gesamte Sicherheitslandschaft von Anthropic, von Autorisierungsprimitiven bis hin zu kryptografischen Grundlagen, daher benötigt das Team Breite über verschiedene Domänen hinweg und die Fähigkeit, in jeder davon tief einzutauchen. Security Risk wird in enger Partnerschaft mit Security Engineering das Sicherheitsprogramm mitgestalten, um zu definieren, wie sowohl Ingenieure als auch Nicht-Ingenieure Software entwickeln und ausliefern.
Der herkömmliche GRC-Playbook wurde nicht für ein Unternehmen entwickelt, das Frontier-KI ausliefert. Sie werden helfen zu definieren, was ihn ersetzt, mit einer direkten Verbindung zu CISO-Entscheidungen und dem Mandat, die KI-native Plattform darunter aufzubauen. Sie werden in einer Vielzahl von Bereichen arbeiten, von Identitäts- und Geheimnismanagement bis hin zu Infrastruktursicherheit, wobei Ihr Fokus von Ihren Stärken, Ihrer Fähigkeit, schnell zu lernen, und den Prioritäten des Teams bestimmt wird. Dies ist weitgehend Greenfield-Arbeit, und Sie werden helfen, die Architektur und Disziplin zu definieren.
WAS UNS UNTERSCHEIDET
Wir glauben, dass die wirkungsvollste KI-Forschung "Big Science" sein wird. Bei Anthropic arbeiten wir als ein einziges, zusammenhängendes Team an nur wenigen groß angelegten Forschungsbemühungen. Und wir schätzen Wirkung – die Förderung unserer langfristigen Ziele einer steuerbaren, vertrauenswürdigen KI – anstatt an kleineren und spezifischeren Rätseln zu arbeiten. Wir betrachten KI-Forschung als eine empirische Wissenschaft, die ebenso viel mit Physik und Biologie gemeinsam hat wie mit traditionellen Ansätzen der Informatik. Wir sind eine äußerst kollaborative Gruppe und veranstalten häufige Forschungsdiskussionen, um sicherzustellen, dass wir zu jedem Zeitpunkt die wirkungsvollste Arbeit verfolgen. Daher schätzen wir Kommunikationsfähigkeiten sehr.
Der einfachste Weg, unsere Forschungsrichtungen zu verstehen, ist die Lektüre unserer aktuellen Forschung. Diese Forschung setzt viele der Richtungen fort, an denen unser Team vor Anthropic gearbeitet hat, darunter: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety und Learning from Human Preferences.
KOMMEN SIE ZU UNS!
HAUPTVERANTWORTLICHKEITEN
- Übernahme der Verantwortung für die komplexesten Sicherheitsprobleme von Anthropic und deren End-to-End-Bearbeitung mit minimaler Aufsicht, Umwandlung mehrdeutiger Signale in eine verteidigungsfähige Sicht auf Schweregrad und Wahrscheinlichkeit und deren Verfolgung durch Eskalation, Behandlungsentscheidungen und Behebung
- Aufbau der Systeme, die Risiko messbar machen und die Skalierung von Risikobearbeitung ermöglichen, einschließlich Quantifizierungswerkzeugen, automatisierter Aufnahme und Triage sowie der Beobachtbarkeit, die Partnerteams zum Verständnis ihrer eigenen Risikolage nutzen
- Zusammenarbeit mit Security Engineering als kalibrierter technischer Peer, der Architekturen und Behandlungspläne prüft, Erkenntnisse in priorisierte Behebungs-Roadmaps übersetzt und die Investitionsgrundlage dafür schafft, was jetzt behoben, was akzeptiert und verfolgt und was aufgeschoben werden soll
- Mentoring von Ingenieuren und Risikopraktikern in Security und der breiteren Engineering-Organisation und Hilfe beim Aufbau einer Risikotechnikkultur, in der Teams ihre Risiken verantworten und unser Team die Sichtbarkeit und Urteilsfähigkeit bereitstellt, die dies unterstützt
* Security Risk Engineering
- Arbeit über die Breite der Sicherheitslandschaft von Anthropic hinweg, die Bereiche wie Identitäts- und Geheimnismanagement, Entwicklersicherheit und Lieferkette, Infrastruktursicherheit und sichere Frameworks umfasst, und Aufbau des notwendigen Kontexts, um in jedem Bereich glaubwürdig über Risiken zu urteilen
- Tiefes Eintauchen in die Materie, wo ein Risiko dies erfordert, Verständnis dafür, wie diese Systeme aufgebaut sind und wie sie versagen, damit Bewertungen und Behandlungspläne die technische Realität und nicht Abstraktionen widerspiegeln
* Risikobewertung und -quantifizierung
- Identifizierung systematischer Risiken durch Bedrohungsmodellierung und strukturierte Bewertung, dann Steuerung der nachfolgenden Schweregradkalibrierungs- und Eskalationsgespräche, um der Führung eine verteidigungsfähige Position und eine klare Empfehlung zu präsentieren, die gezielten Fragen standhält
- Beitrag zur quantitativen Risikobearbeitung des Teams, Anwendung von Methoden wie kalibrierter Schätzung und Monte-Carlo-Simulation, wo sie eine Ressourcen- oder Behandlungsentscheidung sinnvoll verändern
* Risikoplattform und Automatisierung
- Entwurf und Aufbau von KI-nativen Risikertools, die Claude zur Klassifizierung eingehender Risiken, zur Verbesserung der Triage und zur kontinuierlichen Erfassung von Änderungen in unserer Risikolandschaft beim Ausliefern von Teams nutzen
- Erstellung der Dashboards und Datenpipelines, die Engineering- und Produktteams Echtzeit-Einblick in ihre Risikolage geben und eine verteilte Verantwortung für Risiken praktisch umsetzbar machen
* Behebungsstrategie und Investition
- Partnerschaft mit Security Engineering und Risikoverantwortlichen zur Gestaltung von Behebungs-Roadmaps, die explizit auf Sequenzierung, Verantwortung und den erforderlichen Investitionen basieren
- Messung von Ergebnissen statt Aktivitäten, Fokus auf getroffene Entscheidungen und reduzierte Risiken
MINDESTQUALIFIKATIONEN
- Mindestens 8 Jahre Erfahrung in Softwareentwicklung oder Sicherheitstechnik, einschließlich der eigenständigen Leitung und Behebung komplexer Sicherheitsrisiken
- Bachelor-Abschluss in einem relevanten Bereich oder gleichwertige Erfahrung
- Starke Programmierkenntnisse in Python oder mindestens einer Systemprogrammiersprache wie Go, Rust oder C/C++
- Breites Wissen über die Kernbereiche der Sicherheitstechnik, mit Tiefe in mindestens einem davon, einschließlich Identitäts- und Geheimnismanagement, Entwicklersicherheit und Lieferkette, Infrastruktur- und Cloud-Sicherheit sowie sichere Frameworks
- Kalibrierte Risikobeurteilung, d. h. Sie können einem mehrdeutigen Problem eine verteidigungsfähige Schwere und Wahrscheinlichkeit zuordnen und Ihre Position ändern, wenn sich die Beweise ändern
- Erfahrung in der Leitung funktionsübergreifender Sicherheitsinitiativen und im Navigieren komplexer organisatorischer Dynamiken
- Herausragende Kommunikationsfähigkeiten, die technische Konzepte effektiv auf allen Ebenen der Organisation vermitteln
- Nachweisliche Fähigkeit, Klarheit und Verantwortung in mehrdeutige technische Probleme zu bringen und diese zur Lösung zu treiben
- Geringes Ego und hohe Empathie, mit einer Erfolgsbilanz im Wachstum der umgebenden Ingenieure und der Unterstützung vielfältiger, inklusiver Teams
- Leidenschaft für KI-Sicherheit und die Rolle, die Sicherheit und Risikomanagement beim Aufbau vertrauenswürdiger KI-Systeme spielen
LOGISTIK
Mindestbildung: Bachelor-Abschluss oder eine gleichwertige Kombination aus Bildung, Schulung und/oder Erfahrung
Erforderlicher Studienbereich: Ein Bereich, der für die Rolle relevant ist, wie durch Kurse, Schulungen oder Berufserfahrung nachgewiesen
Mindestjahre an Erfahrung: Die erforderliche Berufserfahrung korreliert mit den internen Anforderungsstufen für die Position
BEVORZUGTE QUALIFIKATIONEN
- Verantwortlich für ein benanntes Sicherheitsrisiko und dessen Behebung von der Entdeckung bis zur Behebung über mehrere Teams hinweg
- Präsentation von Risikobeschlüssen vor Führungskräften und Verteidigung von Empfehlungen zur Akzeptanz, Behebung oder Übertragung unter Herausforderung
- Aufbau von Sicherheitsautomatisierungs-, Erkennungs- oder Risikoplattformen, die von einer Engineering-Organisation übernommen wurden
- Auslieferung von LLM oder Agenten-gestützten Werkzeugen und Arbeitsabläufen, die Sicherheits- oder Risikobereiche automatisieren
- Ein Hintergrund in Sicherheitstechnik, Erkennungstechnik oder offensiver Sicherheit mit einer risikobasierten Priorisierungsmentalität
- Aufbau oder Betrieb eines quantifizierten Sicherheitsprogramms (FAIR-ähnliche Zerlegung, Monte-Carlo-Simulation, Verlustüberschreitungsanalyse), dessen Ergebnisse reale Ressourcenentscheidungen verändert haben
- Ausreichende Vertrautheit mit SOC 2, ISO 27001 oder FedRAMP, um zu wissen, was Compliance Ihnen bietet und was nicht
Die jährliche Vergütungsspanne für diese Rolle ist unten aufgeführt. Für Vertriebsrollen ist die angegebene Spanne die Zielvergütung ("OTE") für die Rolle, d. h. die Spanne umfasst sowohl die Zielprovisionen/Zielboni für den Vertrieb als auch das jährliche Grundgehalt für die Rolle.
Jährliches Gehalt: $320,000—$405,000 USD
Standortbasierte Hybridrichtlinie: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25% der Zeit in einem unserer Büros anwesend sind. Einige Rollen erfordern jedoch möglicherweise mehr Zeit in unseren Büros.
Visumsponsorship: Wir sponsern Visa! Wir können jedoch nicht für jede Rolle und jeden Kandidaten erfolgreich Visa sponsern. Aber wenn wir Ihnen ein Angebot machen, werden wir alle zumutbaren Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir beauftragen einen Einwanderungsanwalt, um dabei zu helfen.
Wir ermutigen Sie, sich auch dann zu bewerben, wenn Sie nicht glauben, jede einzelne Qualifikation zu erfüllen. Nicht alle starken Kandidaten erfüllen jede einzelne aufgeführte Qualifikation. Studien zeigen, dass Menschen, die sich als Angehörige unterrepräsentierter Gruppen identifizieren, anfälliger für das Erleben von Imposter-Syndrom und das Zweifeln an der Stärke ihrer Kandidatur sind, daher bitten wir Sie, sich nicht vorzeitig auszuschließen und sich zu bewerben, wenn Sie an dieser Arbeit interessiert sind. Wir glauben, dass KI-Systeme wie die, die wir bauen, enorme soziale und ethische Auswirkungen haben. Wir glauben, dass dies die Repräsentation noch wichtiger macht, und wir bemühen uns, eine Reihe von vielfältigen Perspektiven in unserem Team zu vereinen.
Ihre Sicherheit ist uns wichtig. Um sich vor möglichen Betrügereien zu schützen, denken Sie daran, dass Anthropic-Recruiter Sie nur von @anthropic.com-E-Mail-Adressen kontaktieren. In einigen Fällen arbeiten wir möglicherweise mit geprüften Personalvermittlungsagenturen zusammen, die sich als im Auftrag von Anthropic arbeitend ausweisen. Seien Sie vorsichtig bei E-Mails von anderen Domains. Legitime Anthropic-Recruiter werden Sie niemals vor Ihrem ersten Tag nach Geld, Gebühren oder Bankinformationen fragen. Wenn Sie sich jemals über eine Kommunikation unsicher sind, klicken Sie nicht auf Links – besuchen Sie anthropic.com/careers anthropic.com/careers direkt für bestätigte Stellenangebote.
Anthropic ist eine Public Benefit Corporation mit Hauptsitz in San Francisco. Wir bieten wettbewerbsfähige Vergütung und Leistungen, optionale Matching-Programme für Spenden von Eigenkapital, großzügigen Urlaub und Elternzeit, flexible Arbeitszeiten und einen schönen Büroraum für die Zusammenarbeit mit Kollegen. Leitfaden zur KI-Nutzung durch Kandidaten: Erfahren Sie mehr über unsere Richtlinie anthropic.com/candidate-ai-guidance zur Nutzung von KI in unserem Bewerbungsprozess.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen