Estados Unidos
Leonardo DRS, Inc.
Engenheiro(a) de Pesquisa, Mitigações de Segurança de Fronteira, DeepMind
Estados Unidos
Mountain View, California, United States · San Francisco, California, United States
Tradução automática. Consulte o original.
QUALIFICAÇÕES MÍNIMAS: *
- Bacharelado ou experiência prática equivalente. *
- 5 anos de experiência em desenvolvimento de software em uma ou mais linguagens de programação. *
- 3 anos de experiência em teste, manutenção ou lançamento de produtos de software e 1 ano de experiência em design e arquitetura de software.
QUALIFICAÇÕES DESEJÁVEIS: *
- Mestrado ou Doutorado em Ciência da Computação ou área técnica relacionada. *
- Experiência em desenvolvimento, fine-tuning ou metodologias de avaliação de segurança de Modelos de Linguagem Grandes (LLM). *
- Experiência em levar pesquisa do conceito ao produto. *
- Experiência em áreas como Segurança e Alinhamento.
SOBRE A VAGA
Nossa equipe foca em reduzir os riscos de lançamento de modelos, defendendo contra domínios críticos de mau uso, como Cibersegurança, CBRNE (Químico, Biológico, Radiológico, Nuclear, Explosivo Convencional) e Manipulação Prejudicial. Atualmente, isso envolve a construção de avaliações inovadoras, red-teaming, pesquisa e implantação de mitigações avançadas (tanto no modelo quanto fora dele) e monitoramento de riscos emergentes. Garantimos que nossas mitigações sejam altamente robustas, ao mesmo tempo em que permitimos o uso benéfico de nossa tecnologia.
GDM é uma comunidade científica dedicada, comprometida em 'resolver a inteligência' e garantir que nossa tecnologia seja usada para o benefício público generalizado.
A equipe de Mitigação de Segurança de Fronteira opera em um ambiente rápido e altamente colaborativo. Temos uma forte cultura de apoio, dedicação e trabalho em equipe. Levamos a sério a possibilidade de capacidades de modelo tangivelmente perigosas à medida que a IA avança. Por isso, acreditamos que pesquisar e implementar proativamente mitigações robustas e de defesa em profundidade é uma parte crítica da estratégia geral para construir IA segura.
Estamos procurando um(a) engenheiro(a) de pesquisa para a equipe de Mitigação de Segurança de Fronteira, dentro da equipe de Segurança Gemini.
Sua responsabilidade principal é nos ajudar a construir a próxima geração de mitigações de segurança para modelos de fronteira. Esta função é altamente aplicada e foca na construção de defesas robustas e ponta a ponta contra riscos graves. Este trabalho contribui diretamente para os compromissos da Estrutura de Segurança de Fronteira da DeepMind.
Você se sentirá à vontade para descobrir como abordar novas questões de pesquisa e implementar soluções técnicas para elas em escala.
A inteligência artificial será uma das invenções mais transformadoras da humanidade. Na Google DeepMind, somos um laboratório pioneiro de IA com equipes interdisciplinares excepcionais focadas em avançar o desenvolvimento de IA para resolver desafios globais complexos e acelerar a inovação de produtos de alta qualidade para bilhões de usuários. Usamos nossas tecnologias para benefício público generalizado e descoberta científica, garantindo que segurança e ética sejam sempre nossa maior prioridade.
Estamos expandindo os limites em múltiplos domínios. Nossas equipes globais oferecem diversas oportunidades de aprendizado e caminhos de carreira variados para aqueles impulsionados a alcançar resultados excepcionais através do esforço coletivo.
O salário individual é determinado por fatores como habilidades relacionadas à função, experiência e educação ou treinamento relevantes.
EUA: $174000 - $252000 (USD) + bônus de 15% de meta + ações + benefícios
].
RESPONSABILIDADES: *
- Construir classificadores avançados e pipelines de dados para detectar mau uso, gerenciando o processo ponta a ponta, desde a avaliação automatizada até a iteração rápida do modelo. *
- Construir sistemas de monitoramento intercontextuais para detectar danos coordenados, desenvolvendo métodos inovadores de agregação de sinais em sessões de usuários díspares para identificar vetores de ataque em larga escala. *
- Implementar sistemas de resposta baseados em dados e semi-automatizados em nível de conta para detectar, rastrear e aplicar sanções contra atores maliciosos persistentes, utilizando sinais ricos do tráfego de produção. *
- Avaliar e proteger sistemas de IA agentivos, desenvolvendo modelos de ameaças, criando ambientes de teste e implantando mitigações robustas contra ataques agentivos de nível de fronteira e ataques de longo prazo. *
- Avançar a pesquisa em red-teaming automatizado e robustez adversarial, aproveitando ataques multi-turno/agentivos para testar e descobrir sistematicamente vulnerabilidades de mau uso.
Mais oportunidades com um só perfil
Quer aparecer para várias vagas sem repetir todo o processo? Crie seu perfil e seja encontrado pelas empresas que usam a Nort.
Criar meu perfil