Estados Unidos
The MITRE Corporation
Propio
Engenheiro(a) de Segurança de IA/LLM
Estados Unidos
Leawood, Kansas, United States
Python
Tradução automática. Consulte o original.
Descrição
Engenheiro(a) de Segurança de IA/LLM
Seja Dono(a) do Seu Impacto. Na Propio, não acreditamos que carreiras acontecem às pessoas. Acreditamos que as pessoas as criam.
Aqui, você tem a confiança para tomar decisões, questionar premissas, impulsionar a inovação e moldar resultados. Seu sucesso não é limitado por hierarquia ou tempo de casa. É alimentado por sua ambição, sua curiosidade e sua disposição para ser dono(a) do seu impacto. Se você está procurando uma função onde simplesmente manter o status quo, esta provavelmente não é para você, mas se você está procurando um lugar onde suas ideias importam, seu crescimento é acelerado e seu trabalho cria um impacto significativo em todo o mundo, adoraríamos conversar.
Por que a Propio?
Todos os dias, a comunicação muda vidas. Um paciente recebe cuidados que de outra forma não conseguiria acessar. Uma família obtém informações críticas. Uma empresa se conecta com um cliente. Uma comunidade se torna mais inclusiva. Esses momentos acontecem porque barreiras são removidas. E por trás desses momentos estão membros da equipe Propio que aparecem todos os dias para resolver problemas, inovar e construir o futuro. Isso não é apenas trabalho. Isso é impacto mundial.
Como Engenheiro(a) de Segurança de IA/LLM, você terá a oportunidade de fazer uma contribuição significativa para o crescimento contínuo e a transformação da Propio.
O Que Torna Alguém Bem-Sucedido Aqui
As pessoas mais bem-sucedidas na Propio não são necessariamente as que têm os currículos mais longos. São as pessoas que:
- Assumem a responsabilidade em vez de esperar por direção.
- Abraçam desafios como oportunidades de crescimento.
- Buscam continuamente melhores formas de trabalhar.
- Transformam ideias em ação.
- Cobram a si mesmas e aos outros por altos padrões.
- São impulsionadas por gerar um impacto mensurável.
Você será capacitado(a) para:
- Assumir a responsabilidade por iniciativas e resultados importantes.
- Gerar resultados de negócios significativos.
- Influenciar decisões e contribuir com novas ideias.
- Colaborar com membros de equipe talentosos e de alta performance.
- Desafiar a si mesmo(a) através de aprendizado e crescimento contínuos.
- Ajudar a moldar o futuro de uma organização em rápido crescimento.
O Que Você Irá Gerenciar
O(A) Engenheiro(a) de Segurança de IA/LLM se juntará à nossa equipe de IA e assumirá a responsabilidade pela segurança com que nossos modelos e agentes se comportam em produção; com foco em Segurança de IA, Confiança e Segurança, e IA Responsável. Você projetará as avaliações que capturam comportamentos inseguros, construirá as barreiras que os impedem e liderará o red-teaming que encontra as falhas antes que nossos usuários — ou atacantes — o façam. A segurança do agente é o foco principal desta função: você ajudará a garantir que, à medida que nossos sistemas ganham a capacidade de chamar ferramentas e tomar ações, eles o façam dentro de limites bem definidos e bem testados.
Avaliação de Segurança de LLM e Red Teaming
- Projetar e manter um framework de avaliação de segurança — conjuntos de prompts adversários, suítes de teste baseadas em cenários e suítes de regressão — para que cada atualização de modelo e agente seja validada antes de ser enviada.
- Liderar exercícios estruturados de red-teaming cobrindo jailbreaks, injeção de prompt, mau uso de ferramentas e exfiltração de dados; documentar descobertas e conduzir cada problema até a remediação e o encerramento.
Barreiras e Controles de Tempo de Execução
- Construir e iterar na lógica de barreiras, incluindo filtragem de entrada/saída, restrições de limites de ferramentas, validação de ações, redação de dados sensíveis e prompting de políticas.
- Integrar verificações de segurança em CI/CD e tempo de execução para que comportamentos inseguros sejam interceptados antes de chegarem aos usuários.
Segurança de Agentes (foco principal desta função)
- Realizar modelagem de ameaças para cenários de agentes: limites de chamadas de ferramentas, isolamento de sandbox e acesso de menor privilégio, com atenção especial para impedir que agentes exfiltrem dados ou executem ações irreversíveis através de chamadas de ferramentas encadeadas.
- Conduzir revisões de segurança de ambientes de aprendizado por reforço (RL) e dados de trajetória, colaborando com as equipes de engenharia de ambiente e agentes para incorporar restrições de segurança diretamente nos próprios ambientes.
Monitoramento e Observabilidade
- Instrumentar recursos de IA para segurança com logging estruturado, tracing e métricas, permitindo a detecção de padrões inseguros e regressões em produção.
Governança e Colaboração
- Preparar evidências para revisões de governança — relatórios de teste, resumos de avaliação e validação de mitigação — alinhados com os padrões internos de IA Responsável.
- Colaborar com Produto e UX para melhorar as interações de segurança (avisos, confirmações, mensagens de recusa e coleta de feedback), e alinhar os objetivos de avaliação com as equipes de Pesquisa e Dados.
Requisitos
O Que Você Trará
Qualificações Necessárias
- Bacharelado ou Mestrado em Ciência da Computação, Engenharia de Software, Cibersegurança ou área técnica relacionada — ou experiência prática equivalente.
- 4+ anos construindo software em produção, com experiência direta trabalhando em — ou protegendo — sistemas de ML/LLM.
- Fortes habilidades em engenharia de software com a capacidade de escrever código de nível de produção (principalmente Python), além de scripting ou prototipagem em notebooks.
- Sólido entendimento de LLMs e ML: como os modelos funcionam, engenharia de prompt e as implicações de segurança de fine-tuning e RAG (por exemplo, recuperação insegura, mau uso de ferramentas e exfiltração de dados).
- Uma mentalidade de segurança com capacidade demonstrada de modelagem de ameaças; capaz de modelar fluxos de trabalho de IA e familiarizado(a) com os fundamentos de controle de acesso, retenção de dados e resposta a incidentes.
- Familiaridade com a superfície de ataque de LLM — injeção de prompt, jailbreaks, envenenamento de dados e risco na cadeia de suprimentos — e conhecimento prático do OWASP LLM Top 10.
- Experiência prática com pelo menos uma das áreas de avaliação de segurança ou red teaming, com a capacidade de detalhar uma descoberta real e como ela foi remediada.
Qualificações Desejáveis
- Experiência prática com ferramentas de segurança da indústria como garak, PyRIT, promptfoo, Giskard e NeMo Guardrails, e a capacidade de articular os trade-offs entre elas.
- Saída visível em segurança de IA ou segurança: publicações em locais relevantes (por exemplo, NeurIPS AI Safety Workshop, USENIX Security ou DEF CON AI Village), contribuições de código aberto ou divulgações responsáveis em modelos de ponta com artigos públicos.
- Familiaridade com frameworks de governança e conformidade de IA (NIST AI RMF, ISO/IEC 42001, EU AI Act) e a capacidade de traduzir requisitos de conformidade em tarefas de engenharia concretas.
- Experiência em engenharia com agentes, ambientes de RL e/ou uso de ferramentas.
- Experiência prática com metodologias de modelagem de ameaças como MITRE ATLAS e STRIDE/PASTA.
Mesmo que sua experiência não corresponda exatamente a todas as qualificações, nós o(a) encorajamos a se candidatar. Estamos procurando potencial, impulso e um compromisso com o crescimento tanto quanto experiência.
Na Propio, seu trabalho não apenas impulsiona uma empresa para frente. Ele ajuda a conectar pessoas, comunidades e oportunidades em todo o mundo. Pronto(a) para Construir Algo Maior? Candidate-se hoje e descubra o que acontece quando você é dono(a) do seu sucesso.
O Que Você Ganhará
- Seja Dono(a) do Seu Crescimento: Investimos em pessoas que investem em si mesmas. Você terá oportunidades de aprender, desenvolver e expandir suas capacidades enquanto constrói uma carreira significativa.
- Seja Dono(a) do Seu Impacto: Você verá a conexão entre seu trabalho e nosso sucesso. Acreditamos que grandes pessoas merecem a oportunidade de fazer a diferença real.
- Seja Dono(a) da Sua Inovação: As melhores ideias podem vir de qualquer lugar. Encorajamos a curiosidade, a criatividade e o questionamento de como as coisas sempre foram feitas.
- Seja Dono(a) do Seu Sucesso: Seja construindo expertise, buscando oportunidades de liderança ou expandindo sua trajetória de carreira, daremos espaço para você crescer e o suporte para chegar lá.
Mais oportunidades com um só perfil
Quer aparecer para várias vagas sem repetir todo o processo? Crie seu perfil e seja encontrado pelas empresas que usam a Nort.
Criar meu perfil