États-Unis
Nominal
Anthropic
Ingénieur Sécurité Staff, Ingénierie des Risques
États-Unis
San Francisco, California, United States · New York, New York, United States · Seattle, Washington, United States
PythonC++RustGo
Traduction automatique. Consultez l’original.
À PROPOS DE ANTHROPIC
La mission d'Anthropic est de créer des systèmes d'IA fiables, interprétables et orientables. Nous voulons que l'IA soit sûre et bénéfique pour nos utilisateurs et pour la société dans son ensemble. Notre équipe est un groupe en croissance rapide de chercheurs, d'ingénieurs, d'experts en politique et de chefs d'entreprise engagés travaillant ensemble pour construire des systèmes d'IA bénéfiques.
À PROPOS DU POSTE
L'équipe de Sécurité des Risques est responsable de la manière dont Anthropic identifie, priorise et gère le traitement de ses risques de sécurité les plus importants. Nous reconstruisons la gestion des risques pour qu'elle fonctionne comme une fonction d'ingénierie grâce à l'automatisation et aux plateformes natives d'IA afin de permettre la prise de décision. Les systèmes que nous évaluons couvrent l'ensemble du paysage de sécurité d'Anthropic, des primitives d'autorisation aux fondations cryptographiques, l'équipe a donc besoin d'une largeur de connaissances dans tous les domaines et de la capacité d'approfondir chacun d'eux. La Sécurité des Risques, en partenariat étroit avec l'Ingénierie de la Sécurité, contribuera à définir le programme de sécurité pour façonner la manière dont les ingénieurs et les non-ingénieurs construisent et déploient des logiciels.
Le manuel GRC conventionnel n'a pas été conçu pour une entreprise qui déploie de l'IA de pointe. Vous aiderez à définir ce qui le remplace, avec une ligne directe vers les décisions de niveau CISO et le mandat de construire la plateforme native d'IA sous-jacente. Vous travaillerez sur un large éventail de domaines, de la gestion des identités et des secrets à la sécurité de l'infrastructure, votre concentration étant façonnée par vos forces, votre capacité à apprendre rapidement et les priorités de l'équipe. Il s'agit en grande partie de travaux nouveaux, et vous aiderez à définir l'architecture et la discipline.
COMMENT NOUS SOMMES DIFFÉRENTS
Nous pensons que la recherche en IA la plus percutante sera de la "big science". Chez Anthropic, nous travaillons en équipe cohésive sur seulement quelques efforts de recherche à grande échelle. Et nous valorisons l'impact – faire progresser nos objectifs à long terme d'IA orientable et digne de confiance – plutôt que de travailler sur des énigmes plus petites et plus spécifiques. Nous considérons la recherche en IA comme une science empirique, qui a autant en commun avec la physique et la biologie qu'avec les efforts traditionnels en informatique. Nous sommes un groupe extrêmement collaboratif, et nous organisons des discussions de recherche fréquentes pour nous assurer que nous poursuivons le travail le plus percutant à tout moment. À ce titre, nous accordons une grande valeur aux compétences en communication.
Le moyen le plus simple de comprendre nos orientations de recherche est de lire nos recherches récentes. Ces recherches poursuivent plusieurs des directions sur lesquelles notre équipe a travaillé avant Anthropic, notamment : GPT-3, Interprétabilité basée sur les circuits, Neurones multimodaux, Lois d'échelle, IA et calcul, Problèmes concrets en sécurité de l'IA, et Apprentissage à partir des préférences humaines.
VENEZ TRAVAILLER AVEC NOUS !
RESPONSABILITÉS CLÉS
- Prendre en charge les problèmes de risque de sécurité les plus complexes d'Anthropic et les gérer de bout en bout avec une supervision minimale, en transformant des signaux ambigus en une vision défendable de la gravité et de la probabilité, et en les menant jusqu'à l'escalade, les décisions de traitement et la remédiation.
- Construire les systèmes qui rendent le risque mesurable et permettent à la gestion des risques de s'étendre, y compris les outils de quantification, l'ingestion et le triage automatisés, et l'observabilité que les équipes partenaires utilisent pour comprendre leur propre posture de risque.
- Travailler aux côtés de l'Ingénierie de la Sécurité en tant que pair technique calibré qui teste les architectures et les plans de traitement, traduit les conclusions en feuilles de route de remédiation priorisées, et justifie l'investissement pour ce qu'il faut corriger maintenant, ce qu'il faut accepter et suivre, et ce qu'il faut différer.
- Encadrer les ingénieurs et les praticiens du risque au sein de la Sécurité et de l'organisation d'ingénierie plus large, et aider à construire une culture d'ingénierie des risques dans laquelle les équipes assument leurs risques et notre équipe fournit la visibilité et le jugement qui soutiennent.
* Ingénierie des risques de sécurité
- Travailler sur l'ensemble du paysage de sécurité d'Anthropic, couvrant des domaines tels que la gestion des identités et des secrets, la sécurité des développeurs et la chaîne d'approvisionnement, la sécurité de l'infrastructure et les cadres sécurisés, et construire le contexte nécessaire pour raisonner de manière crédible sur les risques dans chacun d'eux.
- Approfondir l'analyse là où un risque l'exige, en comprenant comment ces systèmes sont construits et comment ils échouent, afin que les évaluations et les plans de traitement reflètent la réalité de l'ingénierie plutôt que l'abstraction.
* Évaluation et quantification des risques
- Identifier les risques systématiques par la modélisation des menaces et l'évaluation structurée, puis mener les conversations de calibration de la gravité et d'escalade qui s'ensuivent, en apportant à la direction une position défendable et une recommandation claire qui résiste aux questions pointues.
- Contribuer aux travaux de quantification des risques de l'équipe, en appliquant des méthodes telles que l'estimation calibrée et la simulation Monte Carlo lorsque celles-ci modifient significativement une décision de ressources ou de traitement.
* Plateforme de risque et automatisation
- Concevoir et construire des outils de risque natifs d'IA qui utilisent Claude pour classifier les risques entrants, augmenter le triage et détecter en continu les changements dans notre paysage de risque à mesure que les équipes déploient.
- Créer les tableaux de bord et les pipelines de données qui donnent aux équipes d'ingénierie et de produit une visibilité en temps réel sur leur posture de risque et rendent la propriété distribuée du risque pratique.
* Stratégie de remédiation et investissement
- Collaborer avec l'Ingénierie de la Sécurité et les propriétaires des risques pour concevoir des feuilles de route de remédiation qui explicitent le séquençage, la propriété et l'investissement requis.
- Mesurer les résultats plutôt que l'activité, en se concentrant sur les décisions prises et les risques réduits.
QUALIFICATIONS MINIMALES
- Au moins 8 ans d'expérience en ingénierie logicielle ou en ingénierie de la sécurité, y compris la gestion et la remédiation indépendantes de risques de sécurité complexes.
- Licence dans un domaine connexe ou expérience équivalente.
- Solides compétences en programmation en Python ou dans au moins un langage système tel que Go, Rust, ou C/C++.
- Large connaissance des domaines clés de l'ingénierie de la sécurité, avec une expertise dans au moins un, y compris la gestion des identités et des secrets, la sécurité des développeurs et la chaîne d'approvisionnement, la sécurité de l'infrastructure et du cloud, et les cadres sécurisés.
- Jugement de risque calibré, c'est-à-dire que vous pouvez attribuer une gravité et une probabilité défendables à un problème ambigu et changer votre position lorsque les preuves changent.
- Expérience dans la direction d'initiatives de sécurité interfonctionnelles et la navigation dans des dynamiques organisationnelles complexes.
- Excellentes compétences en communication, traduisant efficacement les concepts techniques à tous les niveaux de l'organisation.
- Un historique d'apport de clarté et de responsabilité face à des problèmes techniques ambigus, et de résolution de ces derniers.
- Faible ego et grande empathie, avec une expérience de développement des ingénieurs qui vous entourent et de soutien aux équipes diverses et inclusives.
- Passion pour la sécurité de l'IA et le rôle que jouent la sécurité et la gestion des risques dans la construction de systèmes d'IA dignes de confiance.
LOGISTIQUE
Éducation minimale : Licence ou une combinaison équivalente d'éducation, de formation et/ou d'expérience.
Domaine d'études requis : Un domaine pertinent pour le poste tel que démontré par les cours, la formation ou l'expérience professionnelle.
Années d'expérience minimales : Les années d'expérience requises seront en corrélation avec les exigences du niveau de poste interne pour le poste.
QUALIFICATIONS PRÉFÉRENTIELLES
- Avoir géré un risque de sécurité nommé et l'avoir mené de la découverte à la remédiation à travers plusieurs équipes.
- Avoir présenté aux dirigeants des décisions de risque et défendu des recommandations d'acceptation, de remédiation ou de transfert sous contestation.
- Avoir construit des plateformes d'automatisation de la sécurité, de détection ou de gestion des risques adoptées par une organisation d'ingénierie.
- Avoir déployé des outils et des flux de travail basés sur LLM ou des agents qui automatisent les activités de sécurité ou de gestion des risques.
- Une expérience en ingénierie de la sécurité, en ingénierie de la détection ou en sécurité offensive avec une mentalité de priorisation basée sur les risques.
- Avoir construit ou exploité un programme de risque de sécurité quantifié (décomposition de type FAIR, simulation Monte Carlo, analyse d'excédent de pertes) dont les résultats ont modifié les décisions réelles d'allocation des ressources.
- Familiarité suffisante avec SOC 2, ISO 27001, ou FedRAMP pour savoir ce que la conformité vous apporte et ne vous apporte pas.
La fourchette de rémunération annuelle pour ce poste est indiquée ci-dessous. Pour les postes de vente, la fourchette fournie correspond aux gains cibles ("OTE") du poste, ce qui signifie que la fourchette comprend à la fois les commissions de vente/les primes de vente cibles et le salaire annuel de base pour le poste.
Salaire annuel : $320,000—$405,000 USD
Politique hybride basée sur le lieu : Actuellement, nous nous attendons à ce que tout le personnel soit dans l'un de nos bureaux au moins 25% du temps. Cependant, certains postes peuvent nécessiter plus de temps dans nos bureaux.
Sponsorship de visa : Nous sponsorisons les visas ! Cependant, nous ne pouvons pas sponsoriser de visa pour chaque poste et chaque candidat. Mais si nous vous faisons une offre, nous ferons tous les efforts raisonnables pour vous obtenir un visa, et nous faisons appel à un avocat spécialisé en immigration pour nous aider.
Nous vous encourageons à postuler même si vous ne pensez pas remplir toutes les qualifications. Tous les candidats solides ne rempliront pas toutes les qualifications énumérées. La recherche montre que les personnes qui s'identifient comme appartenant à des groupes sous-représentés sont plus susceptibles d'éprouver le syndrome de l'imposteur et de douter de la force de leur candidature, nous vous exhortons donc à ne pas vous exclure prématurément et à soumettre une candidature si ce travail vous intéresse. Nous pensons que les systèmes d'IA comme ceux que nous construisons ont d'énormes implications sociales et éthiques. Nous pensons que cela rend la représentation encore plus importante, et nous nous efforçons d'inclure une gamme de perspectives diverses dans notre équipe.
Votre sécurité nous importe. Pour vous protéger contre d'éventuelles escroqueries, rappelez-vous que les recruteurs d'Anthropic vous contactent uniquement à partir d'adresses e-mail @anthropic.com. Dans certains cas, nous pouvons collaborer avec des agences de recrutement vérifiées qui s'identifieront comme travaillant pour le compte d'Anthropic. Soyez prudent avec les e-mails provenant d'autres domaines. Les recruteurs légitimes d'Anthropic ne vous demanderont jamais d'argent, de frais ou d'informations bancaires avant votre premier jour. Si vous avez un doute sur une communication, ne cliquez sur aucun lien – visitez directement anthropic.com/careers anthropic.com/careers pour connaître les offres d'emploi confirmées.
Anthropic est une société d'intérêt général (public benefit corporation) dont le siège est à San Francisco. Nous offrons une rémunération et des avantages sociaux compétitifs, une mise en correspondance optionnelle des dons d'actions, des congés parentaux et de vacances généreux, des horaires de travail flexibles et un espace de bureau agréable pour collaborer avec des collègues. Guide sur l'utilisation de l'IA par les candidats : Apprenez notre politique anthropic.com/candidate-ai-guidance concernant l'utilisation de l'IA dans notre processus de candidature.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil