Estados Unidos
Redwood Materials
Anthropic
Gerente de Design de Políticas, Integridade e Autenticidade
Estados Unidos
San Francisco, California, United States · Washington, District of Columbia, United States · New York, New York, United States
Tradução automática. Consulte o original.
Sobre a Anthropic
A missão da Anthropic é criar sistemas de IA confiáveis, interpretáveis e controláveis. Queremos que a IA seja segura e benéfica para nossos usuários e para a sociedade como um todo. Nossa equipe é um grupo em rápido crescimento de pesquisadores, engenheiros, especialistas em políticas e líderes empresariais comprometidos, trabalhando juntos para construir sistemas de IA benéficos.
Sobre a vaga
Como Gerente de Políticas de Integridade e Autenticidade, você será responsável por desenvolver, refinar e manter políticas que previnam o uso indevido de sistemas de IA para engano, manipulação e monitoramento não autorizado em escala. Você atuará como o proprietário da política para riscos relacionados a comportamento inautêntico, atividade de influência, vigilância e perfil de indivíduos e grupos, e ajudará a moldar estruturas de políticas em várias áreas, incluindo autenticidade, integridade da informação e privacidade e vigilância.
Seu foco inicial será traduzir o framework de riscos de Integridade e Autenticidade em políticas claras e aplicáveis, garantindo que a linguagem da política aborde ameaças emergentes identificadas por equipes parceiras e estabelecendo diretrizes que permitam decisões de aplicação consistentes. Muitos dos danos mais graves neste espaço começam com etapas iniciais que parecem rotineiras por si só, como compilar registros sobre uma pessoa, automatizar a criação de contas ou classificar usuários por identidade inferida. Parte do seu trabalho será definir onde essas etapas se tornam proibidas. A função se expandirá à medida que as capacidades de IA avançarem. A segurança é central para nossa missão. Você ajudará a garantir que nossos produtos não possam ser usados para enganar pessoas em escala, monitorar e criar perfis de pessoas sem o conhecimento ou consentimento delas, ou classificar e direcionar populações com base em características sensíveis.
Contexto importante para esta função: Nesta posição, você pode ser exposto e se envolver com conteúdo explícito abrangendo uma variedade de tópicos, incluindo aqueles de natureza sexual, violenta ou psicologicamente perturbadora, bem como descrições detalhadas de violações de privacidade, abusos de vigilância e campanhas enganosas direcionadas a pessoas vulneráveis.
Como somos diferentes
Acreditamos que a pesquisa de IA de maior impacto será "big science". Na Anthropic, trabalhamos como uma única equipe coesa em apenas alguns esforços de pesquisa em larga escala. E valorizamos o impacto — avançando em nossos objetivos de longo prazo de IA controlável e confiável — em vez de trabalhar em quebra-cabeças menores e mais específicos. Vemos a pesquisa de IA como uma ciência empírica, que tem tanto em comum com física e biologia quanto com esforços tradicionais em ciência da computação. Somos um grupo extremamente colaborativo e realizamos discussões de pesquisa frequentes para garantir que estamos buscando o trabalho de maior impacto em qualquer momento. Como tal, valorizamos muito as habilidades de comunicação.
A maneira mais fácil de entender nossas direções de pesquisa é ler nossa pesquisa recente. Esta pesquisa continua muitas das direções em que nossa equipe trabalhou antes da Anthropic, incluindo: GPT-3, Interpretabilidade Baseada em Circuitos, Neurônios Multimodais, Leis de Escala, IA e Computação, Problemas Concretos em Segurança de IA e Aprendizado com Preferências Humanas.
Venha trabalhar conosco!
A Anthropic é uma corporação de benefício público sediada em São Francisco. Oferecemos remuneração e benefícios competitivos, correspondência opcional de doação de ações, férias generosas e licença parental, horários de trabalho flexíveis e um espaço de escritório agradável para colaborar com colegas. Orientações sobre o Uso de IA por Candidatos: Saiba mais sobre nossa política para o uso de IA em nosso processo de candidatura.
Principais responsabilidades
- Desenvolver e definir limites de políticas para monitoramento secreto, rastreamento e vigilância em diferentes contextos, traçando a distinção entre comportamentos maliciosos e cenários de uso duplo em conformidade
- Escrever orientações de políticas sobre reconhecimento facial, clonagem de voz e inferência de geolocalização, especificando quais usos exigem consentimento e quais são proibidos
- Mapear o ciclo de vida da vigilância, desde a seleção do alvo e coleta de dados até a análise e implantação secreta, e definir a linha de política em cada etapa para que as intervenções possam ocorrer no início da cadeia
- Projetar e supervisionar avaliações que medem a capacidade do modelo de apoiar o monitoramento de mídias sociais, a busca de pessoas, a criação de perfis preditivos e a identificação ou rastreamento de pessoas específicas, para construir, desenvolver e aprimorar salvaguardas com parceiros multifuncionais para prevenir comportamentos maliciosos
- Escrever e refinar a linguagem da Política de Uso voltada para o público externo e desenvolver diretrizes de treinamento, rubricas de avaliação e protocolos de avaliação para equipes de aplicação, com ênfase em indicadores de monitoramento secreto e direcionamento em nível populacional
- Validar decisões de aplicação e avaliações automatizadas, fornecer orientação de políticas sobre casos complexos de ponta, como pesquisa investigativa sobre ferramentas de vigilância, coordenar com a sociedade civil, especialistas em privacidade, pesquisadores de inteligência de ameaças e acadêmicos, e atuar como ponto de escalonamento para casos complexos de integridade e vigilância
Qualificações mínimas
- Conhecimento prático de como operam campanhas enganosas e monitoramento secreto na prática, incluindo redes de contas, operações de bots, pipelines de agregação de dados e métodos de atribuição
- Familiaridade com tecnologias de vigilância e seu uso indevido, incluindo ferramentas de monitoramento de mídias sociais, serviços de busca de pessoas, rastreamento de localização, spyware, reconhecimento facial e técnicas de inteligência de código aberto usadas contra indivíduos
- Conhecimento geral do cenário regulatório global em torno de proteção de dados, privacidade, regulamentação de plataformas e responsabilidade de serviços digitais
- Fortes habilidades de redação de políticas, com a capacidade de traduzir frameworks complexos de ameaças em diretrizes claras e aplicáveis
- Experiência em projetar políticas e fluxos de trabalho que permitam tanto a tomada de decisão clara por humanos quanto a implementação técnica em classificadores de ML e pipelines de detecção
- Fortes habilidades de colaboração e vasta experiência em parceria com equipes de Engenharia, Ciência de Dados, Jurídico, Inteligência de Ameaças e Políticas em iniciativas multifuncionais
- Excelentes habilidades de comunicação escrita e verbal, com a capacidade de explicar táticas enganosas, métodos de vigilância e justificativas de políticas para públicos diversos, incluindo não especialistas e formuladores de políticas
Logística
- Educação mínima: Bacharelado ou uma combinação equivalente de educação, treinamento e/ou experiência
- Área de estudo exigida: Uma área relevante para a função, demonstrada por meio de cursos, treinamento ou experiência profissional
- Anos mínimos de experiência: Os anos de experiência exigidos correlacionarão com os requisitos de nível de cargo interno para a posição
Qualificações preferenciais
- 5+ anos de experiência em desenvolvimento de políticas, confiança e segurança, inteligência de ameaças ou integridade de plataforma, com trabalho prático em comportamento inautêntico, abuso relacionado à vigilância ou uso indevido de dados
- Experiência em políticas de privacidade, engenharia de privacidade ou trabalho de proteção de dados, incluindo familiaridade com avaliações de impacto de privacidade e princípios de minimização de dados
- Experiência em funções de inteligência, operações de monitoramento alinhadas ao estado ou campanhas secretas de coleta de dados
- Experiência em investigar redes inautênticas, monitoramento secreto ou abusos de vigilância em uma plataforma, organização de pesquisa ou órgão governamental
- Formação em forense digital, inteligência de código aberto ou atribuição de ameaças
- Conhecimento de teoria da persuasão, vieses cognitivos e técnicas de comunicação enganosa, incluindo métodos de engenharia social e pretexting
- Familiaridade com frameworks de direitos humanos e privacidade aplicados à vigilância, incluindo proteções para jornalistas, ativistas e comunidades marginalizadas
- Experiência com operações de confiança e segurança envolvendo evasão de moderação de conteúdo, detecção de bots ou aplicação de scraping de plataforma
- Experiência trabalhando com instituições da UE, órgãos reguladores ou organizações de políticas em governança de IA ou regulamentação de plataformas digitais
- Experiência em realizar testes adversariais, red teaming ou avaliações de vulnerabilidade para sistemas ou plataformas de IA, particularmente para uso indevido envolvendo monitoramento ou criação de perfis
- Familiaridade com capacidades de IA generativa e compreensão de como LLMs podem ser usadas para personas sintéticas, engenharia social, criação de perfis preditivos ou vigilância em escala
A faixa salarial anual para esta função é listada abaixo.
Para funções de vendas, a faixa fornecida é a faixa de "On Target Earnings" ("OTE") da função, o que significa que a faixa inclui tanto as comissões de vendas/bônus de vendas alvo quanto o salário base anual para a função.
Salário Anual: $245,000—$285,000 USD
- Política híbrida baseada em localização: Atualmente, esperamos que todos os funcionários estejam em um de nossos escritórios pelo menos 25% do tempo. No entanto, algumas funções podem exigir mais tempo em nossos escritórios.
- Patrocínio de visto: Nós patrocinamos vistos! No entanto, não conseguimos patrocinar vistos para todas as funções e todos os candidatos. Mas se fizermos uma oferta, faremos todos os esforços razoáveis para conseguir um visto para você, e contamos com um advogado de imigração para ajudar com isso.
Encorajamos você a se candidatar, mesmo que não acredite que atende a todos os requisitos. Nem todos os candidatos fortes atenderão a todos os requisitos listados. Pesquisas mostram que pessoas que se identificam como pertencentes a grupos sub-representados são mais propensas a experimentar a síndrome do impostor e duvidar da força de sua candidatura, então pedimos que você não se exclua prematuramente e envie uma candidatura se estiver interessado neste trabalho. Acreditamos que sistemas de IA como os que estamos construindo têm enormes implicações sociais e éticas. Acreditamos que isso torna a representação ainda mais importante, e nos esforçamos para incluir uma variedade de perspectivas diversas em nossa equipe.
Sua segurança é importante para nós. Para se proteger de possíveis golpes, lembre-se de que os recrutadores da Anthropic entram em contato apenas de endereços de e-mail @anthropic.com. Em alguns casos, podemos fazer parceria com agências de recrutamento verificadas que se identificarão como trabalhando em nome da Anthropic. Tenha cuidado com e-mails de outros domínios. Recrutadores legítimos da Anthropic nunca pedirão dinheiro, taxas ou informações bancárias antes do seu primeiro dia. Se você tiver alguma dúvida sobre uma comunicação, não clique em nenhum link — visite anthropic.com/careers diretamente para ver as vagas confirmadas.
Mais oportunidades com um só perfil
Quer aparecer para várias vagas sem repetir todo o processo? Crie seu perfil e seja encontrado pelas empresas que usam a Nort.
Criar meu perfil