Sysco GB
Anthropic
A missão da Anthropic é criar sistemas de IA confiáveis, interpretáveis e controláveis. Queremos que a IA seja segura e benéfica para nossos usuários e para a sociedade como um todo. Nossa equipe é um grupo em rápido crescimento de pesquisadores, engenheiros, especialistas em políticas e líderes de negócios comprometidos que trabalham juntos para construir sistemas de IA benéficos.
Nossa equipe constrói, testa, implanta e monitora os classificadores que impedem que agentes internos realizem ações perigosas. Esses classificadores operam em RL, avaliações e implantações internas, e são projetados para detectar situações como tentativas de fuga de sandbox ou exfiltração de dados confidenciais.
Quando um classificador sinaliza uma ação, ele pode bloqueá-la antes que a chamada de ferramenta seja executada, encerrar a tarefa e alertar um humano. Esta é uma camada de defesa em profundidade com várias camadas que se reforçam mutuamente: o que nossos classificadores sinalizam alimenta o monitoramento offline, e as descobertas resultantes disso retornam para a criação de classificadores melhores e um design de ambiente mais seguro.
O trabalho combina pesquisa e engenharia de produção:
O problema de pesquisa consiste em construir classificadores de alta revocação e alta precisão para detectar comportamentos raros, novos e, por vezes, adversários. Existem também várias questões de pesquisa específicas a serem respondidas - por exemplo, como implantar classificadores de segurança dentro de ambientes de treinamento sem incentivar os modelos a evitá-los. Algumas pesquisas também se baseiam nos designs de múltiplos estágios descritos em nosso trabalho sobre o modo automático do Claude Code e Classificadores Constitucionais.
O problema de engenharia é colocar esses classificadores em produção no caminho crítico da pesquisa e do trabalho de produto. Esses classificadores precisam cobrir um enorme volume de tráfego enquanto operam dentro de restrições de custo, latência e disponibilidade.
No dia a dia, grande parte do nosso trabalho é feito com o Claude: você direcionará agentes para executar experimentos e publicar código, além de revisar o que eles produzem. Isso desloca a parte difícil do trabalho para a tomada de decisão sobre o que fazer e em qual ordem. Além disso, habilidades de organização, comunicação e priorização são fundamentais, já que nossos classificadores estão no caminho do trabalho de muitas outras equipes.
Acreditamos que a pesquisa de IA de maior impacto será a "big science". Na Anthropic, trabalhamos como uma equipe única e coesa em apenas alguns esforços de pesquisa em larga escala. E valorizamos o impacto — avançar em nossos objetivos de longo prazo de uma IA controlável e confiável — em vez de trabalhar em quebra-cabeças menores e mais específicos. Vemos a pesquisa em IA como uma ciência empírica, que tem tanto em comum com a física e a biologia quanto com os esforços tradicionais em ciência da computação. Somos um grupo extremamente colaborativo e realizamos discussões frequentes de pesquisa para garantir que estamos buscando o trabalho de maior impacto a qualquer momento. Como tal, valorizamos muito as habilidades de comunicação.
A maneira mais fácil de entender nossas direções de pesquisa é ler nossas pesquisas recentes. Esta pesquisa continua muitas das direções em que nossa equipe trabalhou antes da Anthropic, incluindo: GPT-3, Interpretabilidade Baseada em Circuitos, Neurônios Multimodais, Leis de Escala, IA e Computação, Problemas Concretos em Segurança de IA e Aprendizado a partir de Preferências Humanas.
Venha trabalhar conosco!
A Anthropic é uma corporação de benefício público com sede em San Francisco. Oferecemos remuneração e benefícios competitivos, doação de ações opcional, férias e licença parental generosas, horários de trabalho flexíveis e um espaço de escritório adorável no qual colaborar com os colegas. Orientação sobre o uso de IA pelos candidatos: Saiba mais sobre nossa política para o uso de IA em nosso processo de candidatura.
A faixa de remuneração anual para esta função está listada abaixo.
Para funções de vendas, a faixa fornecida é a faixa de Ganhos na Meta ("OTE"), o que significa que a faixa inclui tanto a meta de comissões/bônus de vendas quanto o salário base anual para a função.
Salário Anual: £1—£1 GBP
Para funções que realizam trabalho na Califórnia: Consideraremos para contratação todos os candidatos qualificados, incluindo aqueles com registros de prisão ou condenação ou antecedentes criminais, de maneira consistente com os requisitos das leis estaduais e locais aplicáveis, incluindo a San Francisco Fair Chance Ordinance, a City of Los Angeles’ Fair Chance Initiative for Hiring Ordinance, a Los Angeles County Fair Chance Ordinance for Employers e a California Fair Chance Act.
Encorajamos você a se candidatar mesmo que não acredite que atende a todos os requisitos. Nem todos os candidatos fortes atenderão a cada requisito listado. Pesquisas mostram que pessoas que se identificam como pertencentes a grupos sub-representados são mais propensas a experimentar a síndrome do impostor e duvidar da força de sua candidatura, por isso pedimos que você não se exclua prematuramente e envie uma inscrição se estiver interessado neste trabalho. Acreditamos que sistemas de IA como os que estamos construindo têm enormes implicações sociais e éticas. Achamos que isso torna a representatividade ainda mais importante, e nos esforçamos para incluir uma gama de perspectivas diversas em nossa equipe.
Sua segurança é importante para nós. Para se proteger de possíveis golpes, lembre-se de que os recrutadores da Anthropic só entram em contato com você a partir de endereços de e-mail @anthropic.com. Em alguns casos, podemos fazer parceria com agências de recrutamento verificadas que se identificarão como trabalhando em nome da Anthropic. Tenha cuidado com e-mails de outros domínios. Recrutadores legítimos da Anthropic nunca pedirão dinheiro, taxas ou informações bancárias antes do seu primeiro dia. Se você não tiver certeza sobre uma comunicação, não clique em nenhum link — visite anthropic.com/careers diretamente para ver as vagas confirmadas.
Plataforma de recrutamento reverso para programadores