Estados Unidos
Roku
Anthropic
Staff Security Engineer, Risk Engineering
Estados Unidos
San Francisco, California, United States · New York, New York, United States · Seattle, Washington, United States
PythonC++RustGo
Tradução automática. Consulte o original.
SOBRE A ANTHROPIC
A missão da Anthropic é criar sistemas de IA confiáveis, interpretáveis e direcionáveis. Queremos que a IA seja segura e benéfica para nossos usuários e para a sociedade como um todo. Nossa equipe é um grupo em rápido crescimento de pesquisadores, engenheiros, especialistas em políticas e líderes empresariais comprometidos, trabalhando juntos para construir sistemas de IA benéficos.
SOBRE A VAGA
A equipe de Risco de Segurança é responsável por como a Anthropic identifica, prioriza e gerencia o tratamento de seus riscos de segurança mais importantes. Estamos reconstruindo o gerenciamento de riscos para operar como uma função de engenharia por meio de automação e plataformas nativas de IA para permitir a tomada de decisões. Os sistemas que avaliamos abrangem todo o cenário de segurança da Anthropic, desde primitivas de autorização até fundamentos criptográficos, portanto, a equipe precisa de amplitude em domínios e capacidade de aprofundar em qualquer um deles. O Risco de Segurança, em profunda parceria com a Engenharia de Segurança, ajudará a definir o programa de segurança para moldar como engenheiros e não engenheiros constroem e lançam software.
O modelo convencional de GRC (Governança, Risco e Conformidade) não foi construído para uma empresa que lança IA de ponta. Você ajudará a definir o que o substitui, com uma linha direta para decisões de nível CISO e o mandato de construir a plataforma nativa de IA por baixo. Você trabalhará em uma ampla gama de áreas, desde gerenciamento de identidade e segredos até segurança de infraestrutura, com seu foco moldado por seus pontos fortes, capacidade de aprender rapidamente e as prioridades da equipe. Este é em grande parte um trabalho em campo (greenfield), e você ajudará a definir a arquitetura e a disciplina.
COMO SOMOS DIFERENTES
Acreditamos que a pesquisa de IA de maior impacto será "big science" (grande ciência). Na Anthropic, trabalhamos como uma única equipe coesa em apenas alguns esforços de pesquisa em larga escala. E valorizamos o impacto - avançando em nossos objetivos de longo prazo de IA direcionável e confiável - em vez de trabalhar em quebra-cabeças menores e mais específicos. Vemos a pesquisa de IA como uma ciência empírica, que tem tanto em comum com a física e a biologia quanto com os esforços tradicionais da ciência da computação. Somos um grupo extremamente colaborativo e realizamos discussões de pesquisa frequentes para garantir que estamos buscando o trabalho de maior impacto em qualquer momento. Como tal, valorizamos muito as habilidades de comunicação.
A maneira mais fácil de entender nossas direções de pesquisa é ler nossas pesquisas recentes. Esta pesquisa continua muitas das direções em que nossa equipe trabalhou antes da Anthropic, incluindo: GPT-3, Interpretabilidade Baseada em Circuitos, Neurônios Multimodais, Leis de Escala, IA e Computação, Problemas Concretos em Segurança de IA e Aprendizado com Preferências Humanas.
VENHA TRABALHAR CONOSCO!
PRINCIPAIS RESPONSABILIDADES
- Assumir a responsabilidade pelos problemas de risco de segurança mais complexos da Anthropic e conduzi-los de ponta a ponta com supervisão mínima, transformando sinais ambíguos em uma visão defensável de gravidade e probabilidade e acompanhando-os até a escalada, decisões de tratamento e remediação
- Construir os sistemas que tornam o risco mensurável e permitem que o trabalho de risco escale, incluindo ferramentas de quantificação, triagem e ingestão automatizadas, e a observabilidade que as equipes parceiras usam para entender sua própria postura de risco
- Trabalhar ao lado da Engenharia de Segurança como um par técnico calibrado que testa arquiteturas e planos de tratamento, traduz descobertas em roteiros de remediação priorizados e apresenta o caso de investimento para o que corrigir agora, o que aceitar e rastrear, e o que adiar
- Orientar engenheiros e praticantes de risco em Segurança e na organização de engenharia mais ampla, e ajudar a construir uma cultura de engenharia de risco na qual as equipes possuam seus riscos e nossa equipe forneça a visibilidade e o julgamento que apoiam
* Engenharia de risco de segurança
- Trabalhar em toda a amplitude do cenário de segurança da Anthropic, abrangendo áreas como gerenciamento de identidade e segredos, segurança do desenvolvedor e cadeia de suprimentos, segurança de infraestrutura e frameworks seguros, e construir o contexto necessário para raciocinar sobre risco de forma credível em cada um
- Aprofunde-se onde um risco exigir, compreendendo como esses sistemas são construídos e como falham, para que as avaliações e os planos de tratamento reflitam a realidade da engenharia em vez da abstração
* Avaliação e quantificação de risco
- Identificar riscos sistemáticos por meio de modelagem de ameaças e avaliação estruturada, e então conduzir as conversas de calibração de gravidade e escalada que se seguem, trazendo à liderança uma posição defensável e uma recomendação clara que se sustente sob questionamentos pontuais
- Contribuir para o trabalho de risco quantitativo da equipe, aplicando métodos como estimativa calibrada e simulação de Monte Carlo onde eles mudam significativamente uma decisão de recurso ou tratamento
* Plataforma de risco e automação
- Projetar e construir ferramentas de risco nativas de IA que usam Claude para classificar riscos recebidos, aumentar a triagem e detectar continuamente mudanças em nosso cenário de risco à medida que as equipes lançam
- Criar os painéis e pipelines de dados que fornecem às equipes de engenharia e produto visibilidade em tempo real de sua postura de risco e tornam a propriedade distribuída de risco prática
* Estratégia e investimento em remediação
- Fazer parceria com a Engenharia de Segurança e os proprietários de risco para projetar roteiros de remediação que sejam explícitos sobre sequenciamento, propriedade e o investimento necessário
- Medir resultados em vez de atividades, focando em decisões tomadas e riscos reduzidos
QUALIFICAÇÕES MÍNIMAS
- Pelo menos 8 anos de experiência em engenharia de software ou engenharia de segurança, incluindo liderar e remediar riscos de segurança complexos de forma independente
- Bacharelado em área relacionada ou experiência equivalente
- Fortes habilidades de programação em Python ou pelo menos uma linguagem de sistema como Go, Rust, ou C/C++
- Amplo conhecimento nos domínios centrais de engenharia de segurança, com profundidade em pelo menos um, incluindo gerenciamento de identidade e segredos, segurança do desenvolvedor e cadeia de suprimentos, segurança de infraestrutura e nuvem, e frameworks seguros
- Julgamento de risco calibrado, significando que você pode atribuir uma gravidade e probabilidade defensáveis a um problema ambíguo e mudar sua posição quando as evidências mudam
- Experiência em liderar iniciativas de segurança multifuncionais e navegar em dinâmicas organizacionais complexas
- Habilidades de comunicação excepcionais, traduzindo conceitos técnicos de forma eficaz em todos os níveis da organização
- Um histórico de trazer clareza e propriedade para problemas técnicos ambíguos e conduzi-los à resolução
- Baixo ego e alta empatia, com um histórico de crescimento dos engenheiros ao seu redor e apoio a equipes diversas e inclusivas
- Paixão pela segurança da IA e pelo papel que a segurança e o gerenciamento de riscos desempenham na construção de sistemas de IA confiáveis
LOGÍSTICA
Educação mínima: Bacharelado ou uma combinação equivalente de educação, treinamento e/ou experiência
Área de estudo exigida: Uma área relevante para a função, conforme demonstrado por meio de cursos, treinamento ou experiência profissional
Anos mínimos de experiência: Os anos de experiência exigidos correlacionarão com os requisitos de nível de cargo interno para a posição
QUALIFICAÇÕES PREFERENCIAIS
- Responsabilidade por um risco de segurança nomeado e sua condução da descoberta à remediação em várias equipes
- Apresentação a executivos sobre decisões de risco e defesa de recomendações de aceitar, remediar ou transferir sob contestação
- Construção de automação de segurança, detecção ou plataformas de risco adotadas em uma organização de engenharia
- Lançamento de ferramentas e fluxos de trabalho baseados em LLM ou agentes que automatizam atividades de segurança ou risco
- Um histórico em engenharia de segurança, engenharia de detecção ou segurança ofensiva com uma mentalidade de priorização baseada em risco
- Construção ou operação de um programa de risco de segurança quantificado (decomposição estilo FAIR, simulação de Monte Carlo, análise de excedência de perdas) cujos resultados alteraram decisões reais de recursos
- Familiaridade suficiente com SOC 2, ISO 27001, ou FedRAMP para saber o que a conformidade oferece e o que não oferece
A faixa de remuneração anual para esta função está listada abaixo. Para funções de vendas, a faixa fornecida é a faixa de "On Target Earnings" (OTE) da função, o que significa que a faixa inclui tanto as comissões de vendas/bônus de vendas alvo quanto o salário base anual para a função.
Salário Anual: $320,000—$405,000 USD
Política híbrida baseada em localidade: Atualmente, esperamos que todos os funcionários estejam em um de nossos escritórios pelo menos 25% do tempo. No entanto, algumas funções podem exigir mais tempo em nossos escritórios.
Patrocínio de visto: Nós patrocinamos vistos! No entanto, não conseguimos patrocinar vistos para todas as funções e todos os candidatos. Mas se fizermos uma oferta a você, faremos todos os esforços razoáveis para obter um visto para você, e contamos com um advogado de imigração para ajudar com isso.
Encorajamos você a se candidatar, mesmo que não acredite que atende a todas as qualificações. Nem todos os candidatos fortes atenderão a todas as qualificações listadas. A pesquisa mostra que pessoas que se identificam como pertencentes a grupos sub-representados são mais propensas a experimentar a síndrome do impostor e duvidar da força de sua candidatura, portanto, pedimos que você não se exclua prematuramente e envie uma candidatura se estiver interessado neste trabalho. Acreditamos que sistemas de IA como os que estamos construindo têm enormes implicações sociais e éticas. Acreditamos que isso torna a representação ainda mais importante, e nos esforçamos para incluir uma variedade de perspectivas diversas em nossa equipe.
Sua segurança é importante para nós. Para se proteger de possíveis golpes, lembre-se de que os recrutadores da Anthropic entram em contato apenas de endereços de e-mail @anthropic.com. Em alguns casos, podemos fazer parceria com agências de recrutamento verificadas que se identificarão como trabalhando em nome da Anthropic. Tenha cuidado com e-mails de outros domínios. Recrutadores legítimos da Anthropic nunca pedirão dinheiro, taxas ou informações bancárias antes do seu primeiro dia. Se você tiver alguma dúvida sobre uma comunicação, não clique em nenhum link - visite anthropic.com/careers anthropic.com/careers diretamente para ver as vagas confirmadas.
A Anthropic é uma corporação de benefício público (public benefit corporation) sediada em São Francisco. Oferecemos remuneração e benefícios competitivos, correspondência opcional de doação de ações, generosas férias e licença parental, horários de trabalho flexíveis e um espaço de escritório agradável para colaborar com colegas. Orientações sobre o Uso de IA por Candidatos: Saiba mais sobre nossa política anthropic.com/candidate-ai-guidance para usar IA em nosso processo de inscrição.
Mais oportunidades com um só perfil
Quer aparecer para várias vagas sem repetir todo o processo? Crie seu perfil e seja encontrado pelas empresas que usam a Nort.
Criar meu perfilContinue explorando
Redwood Materials
CoreWeave
