Estados Unidos
Be Structured Technology Group
Anthropic
Engenheiro de Pesquisa, Interpretabilidade
Estados Unidos
San Francisco, California, United States
PythonJavaRustGo
Tradução automática. Consulte o original.
SOBRE A ANTHROPIC
A missão da Anthropic é criar sistemas de IA confiáveis, interpretáveis e controláveis. Queremos que a IA seja segura e benéfica para nossos usuários e para a sociedade como um todo. Nossa equipe é um grupo em rápido crescimento de pesquisadores, engenheiros, especialistas em políticas e líderes de negócios comprometidos, trabalhando juntos para construir sistemas de IA benéficos.
SOBRE A VAGA
Ao ver do que os modelos de linguagem modernos são capazes, você se pergunta: "Como essas coisas funcionam? Como podemos confiar nelas?"
A equipe de Interpretabilidade da Anthropic está trabalhando para realizar a engenharia reversa de como os modelos treinados funcionam, pois acreditamos que uma compreensão mecanística é a maneira mais robusta de tornar sistemas avançados seguros.
Pense em nós como fazendo a "neurociência" de redes neurais usando "microscópios" que nós mesmos construímos - ou fazendo a engenharia reversa de redes neurais como se fossem programas binários.
Mais recursos para aprender sobre nosso trabalho:
- Nosso blog de pesquisa transformer-circuits.pub/ - cobrindo avanços, incluindo Monosemantic Features transformer-circuits.pub/2024/scaling-monosemanticity/ e Circuits transformer-circuits.pub/2025/attribution-graphs/methods.html
- Uma Introdução à Interpretabilidade youtube.com/watch?v=TxhhMTOTMDg do nosso líder de pesquisa, Chris Olah colah.github.io/about.html
- A Urgência da Interpretabilidade darioamodei.com/post/the-urgency-of-interpretability do CEO Dario Amodei
- Desafios de Engenharia para Escalar a Interpretabilidade anthropic.com/research/engineering-challenges-interpretability - diretamente relevante para esta função
* 60 Minutos [
YouTube] segmento - Por volta de 8:07, veja uma demonstração das ferramentas que nossa equipe construiu
- Artigo da New Yorker newyorker.com/magazine/2026/02/16/what-is-claude-anthropic-doesnt-know-either - como é trabalhar em um dos problemas abertos mais difíceis da IA
Mesmo que você nunca tenha trabalhado com interpretabilidade antes, a experiência em infraestrutura é semelhante ao que é necessário ao longo do ciclo de vida de um modelo de linguagem em produção:
- Pré-treinamento: Treinar modelos de aprendizado de dicionário parece muito com o pré-treinamento de modelos - criando trabalhos de treinamento estáveis e de alto desempenho para modelos massivamente parametrizados em milhares de chips
- Inferência: A equipe de Interp executa uma pilha de inferência personalizada. A análise diária requer serviços que permitam editar as ativações internas de um modelo durante a passagem direta (forward-pass) - por exemplo, adicionando um "vetor de direção"
- Desempenho: Como todo trabalho com LLM, chegamos aos limites do hardware e software. Em vez de espremer os últimos 0.1%, estamos focados em encontrar gargalos, corrigi-los e seguir em frente, dada a rápida evolução da pesquisa e da missão de segurança
A ciência continua escalando - e agora é aplicada diretamente em auditorias de segurança www-cdn.anthropic.com/bf10f64990cfda0ba858290be7b8cc6317685f47.pdf em modelos de fronteira, com prazos reais. À medida que nossa pesquisa amadureceu, a engenharia e a infraestrutura tornaram-se um gargalo. Seu trabalho terá um impacto direto em um dos problemas abertos mais importantes da IA.
RESPONSABILIDADES
- Construir e manter a infraestrutura especializada de inferência e treinamento que impulsiona a pesquisa em interpretabilidade - incluindo passagens diretas/reversas instrumentadas, extração de ativação e aplicação de vetores de direção
- Resolver gargalos de escala e eficiência por meio de profiling, otimização e colaboração próxima com equipes de infraestrutura parceiras
- Projetar ferramentas, abstrações e plataformas que permitam aos pesquisadores experimentar rapidamente sem encontrar barreiras de engenharia
- Ajudar a levar a pesquisa de interpretabilidade para auditorias de segurança em produção - com prazos reais e expectativas de alta confiabilidade
- Trabalhar em toda a pilha - desde o funcionamento interno do modelo e otimização em nível de acelerador até ferramentas de pesquisa voltadas para o usuário
VOCÊ PODE SER UM BOM CANDIDATO SE
- Tiver 5-10+ anos de experiência em desenvolvimento de software
- For altamente proficiente em pelo menos uma linguagem de programação (por exemplo, Python, Rust, Go, Java) e produtivo com Python
- For extremamente curioso sobre domínios desconhecidos; puder aprender rapidamente e colocar esse conhecimento em prática, por exemplo, mergulhando em novas camadas da pilha para encontrar gargalos
- Tiver uma forte capacidade de priorizar o trabalho mais impactante e se sentir confortável operando com ambiguidade e questionando suposições
- Preferir projetos colaborativos de ritmo acelerado a esforços individuais extensos
- Tiver curiosidade sobre a pesquisa de interpretabilidade e seu papel na segurança da IA (embora nenhuma experiência em pesquisa seja necessária!)
- Se importar com os impactos sociais e a ética do seu trabalho
- Se sentir confortável trabalhando em estreita colaboração com pesquisadores, traduzindo necessidades de pesquisa em soluções de engenharia.
CANDIDATOS FORTES TAMBÉM PODEM TER EXPERIÊNCIA COM
- Otimização do desempenho de sistemas distribuídos em larga escala
- Fundamentos de modelagem de linguagem com transformers
- Otimização de LLM de alto desempenho: gerenciamento de memória, eficiência computacional, estratégias de paralelismo, otimização de throughput de inferência
- Trabalho prático em uma pilha de ML convencional - PyTorch/CUDA em GPUs ou JAX/XLA em TPUs
- Colaboração próxima com pesquisadores e construção de ferramentas para apoiar equipes de pesquisa; ou ter realizado pesquisa diretamente com desafios complexos de engenharia
PROJETOS REPRESENTATIVOS
- Construir o Garcon transformer-circuits.pub/2021/garcon/index.html, uma ferramenta que permite aos pesquisadores instrumentar facilmente LLMs para extrair ativações internas
- Projetar e otimizar um pipeline para coletar eficientemente petabytes de ativações de transformer e embaralhá-las
- Profiling e otimização de trabalhos de treinamento de ML, incluindo paralelismo multi-GPU e otimização de memória
- Construir um sistema de inferência direcionada que aplica intervenções específicas aos componentes internos do modelo em escala (conceitualmente semelhante ao Golden Gate Claude anthropic.com/news/golden-gate-claude, mas para pesquisa de segurança)
POLÍTICA DE LOCALIZAÇÃO ESPECÍFICA DA VAGA
- Esta função é baseada no escritório de São Francisco; no entanto, estamos abertos a considerar candidatos excepcionais para trabalho remoto caso a caso.
A faixa de remuneração anual para esta função está listada abaixo. Para funções de vendas, a faixa fornecida é a faixa de Ganhos Alvo ("OTE") da função, o que significa que a faixa inclui tanto a meta de comissões/bônus de vendas quanto o salário base anual para a função.
Salário Anual: $315,000—$560,000 USD
LOGÍSTICA
- Educação mínima: Bacharelado ou uma combinação equivalente de educação, treinamento e/ou experiência
- Área de estudo necessária: Uma área relevante para a função, conforme demonstrado por meio de cursos, treinamento ou experiência profissional
- Anos mínimos de experiência: Os anos de experiência exigidos estarão correlacionados com os requisitos de nível interno de trabalho para a posição
- Política híbrida baseada em localização: Atualmente, esperamos que todos os funcionários estejam em um de nossos escritórios pelo menos 25% do tempo. No entanto, algumas funções podem exigir mais tempo em nossos escritórios.
- Patrocínio de visto: Nós patrocinamos vistos! No entanto, não conseguimos patrocinar vistos com sucesso para todas as funções e todos os candidatos. Mas, se fizermos uma oferta a você, faremos todos os esforços razoáveis para conseguir um visto para você, e mantemos um advogado de imigração para ajudar com isso.
Encorajamos você a se candidatar mesmo que não acredite que atende a todos os requisitos. Nem todos os candidatos fortes atenderão a todos os requisitos listados. Pesquisas mostram que pessoas que se identificam como pertencentes a grupos sub-representados são mais propensas a experimentar a síndrome do impostor e duvidar da força de sua candidatura, por isso pedimos que você não se exclua prematuramente e envie uma inscrição se estiver interessado neste trabalho. Acreditamos que sistemas de IA como os que estamos construindo têm enormes implicações sociais e éticas. Achamos que isso torna a representação ainda mais importante, e nos esforçamos para incluir uma gama de perspectivas diversas em nossa equipe.
Sua segurança é importante para nós. Para se proteger de possíveis golpes, lembre-se de que os recrutadores da Anthropic só entram em contato com você por endereços de e-mail @anthropic.com. Em alguns casos, podemos fazer parceria com agências de recrutamento verificadas que se identificarão como trabalhando em nome da Anthropic. Tenha cuidado com e-mails de outros domínios. Os recrutadores legítimos da Anthropic nunca pedirão dinheiro, taxas ou informações bancárias antes do seu primeiro dia. Se você não tiver certeza sobre uma comunicação, não clique em nenhum link — visite anthropic.com/careers anthropic.com/careers diretamente para ver as vagas confirmadas.
COMO SOMOS DIFERENTES
Acreditamos que a pesquisa de IA de maior impacto será a "big science". Na Anthropic, trabalhamos como uma equipe coesa em apenas alguns esforços de pesquisa em larga escala. E valorizamos o impacto — avançar em nossos objetivos de longo prazo de IA controlável e confiável — em vez de trabalhar em quebra-cabeças menores e mais específicos. Vemos a pesquisa em IA como uma ciência empírica, que tem tanto em comum com a física e a biologia quanto com os esforços tradicionais em ciência da computação. Somos um grupo extremamente colaborativo e realizamos discussões frequentes de pesquisa para garantir que estamos buscando o trabalho de maior impacto a qualquer momento. Como tal, valorizamos muito as habilidades de comunicação.
A maneira mais fácil de entender nossas direções de pesquisa é ler nossas pesquisas recentes. Esta pesquisa continua muitas das direções em que nossa equipe trabalhou antes da Anthropic, incluindo: GPT-3, Interpretabilidade Baseada em Circuitos, Neurônios Multimodais, Leis de Escala, IA & Computação, Problemas Concretos em Segurança de IA e Aprendizado com Preferências Humanas.
VENHA TRABALHAR CONOSCO!
A Anthropic é uma corporação de benefício público com sede em São Francisco. Oferecemos remuneração e benefícios competitivos, correspondência opcional de doação de ações, férias e licença parental generosas, horários de trabalho flexíveis e um espaço de escritório adorável para colaborar com os colegas. Orientação sobre o Uso de IA pelos Candidatos: Saiba mais sobre nossa política anthropic.com/candidate-ai-guidance para usar IA em nosso processo de candidatura.
Mais oportunidades com um só perfil
Quer aparecer para várias vagas sem repetir todo o processo? Crie seu perfil e seja encontrado pelas empresas que usam a Nort.
Criar meu perfil