Vistra Communications
OpenAI
A equipe de Pesquisa de Segurança da OpenAI é responsável por garantir que nossos modelos mais capazes possam ser implantados com segurança no mundo real. A equipe de Treinamento de Segurança desenvolve os métodos de pesquisa e engenharia que moldam o comportamento do modelo por meio de pós-treinamento, aprendizado por reforço, avaliação e feedback de implantação.
Nosso trabalho foca em tornar os modelos úteis, confiáveis e alinhados com as políticas de segurança em diferentes tipos de modelos, modalidades e superfícies de produtos. Trabalhamos tanto em pesquisas de segurança de longo prazo quanto no trabalho central de pós-treinamento necessário para aprimorar os modelos de produção.
Você trabalhará diretamente nos grandes ciclos de treinamento que moldam os modelos de fronteira da OpenAI. Seu foco será ensinar os modelos a ajudar as pessoas a realizar trabalhos de segurança legítimos, ao mesmo tempo em que reconhecem quando sua assistência pode permitir danos. Um modelo que se recusa a ajudar um defensor a investigar um problema de segurança pode falhar de uma maneira diferente daquele que ajuda alguém a usá-lo indevidamente. Você estudará ambos os tipos de erros e usará o que aprender para melhorar o próximo ciclo de treinamento.
Estamos procurando alguém com experiência prática em machine learning que queira trazer o julgamento de segurança para o treinamento de modelos. Você pode vir da área de cibersegurança e querer se aprofundar em pós-treinamento, ou vir de aprendizado por reforço e querer construir uma experiência substancial em cibersegurança.
A OpenAI é uma empresa de pesquisa e implantação de IA dedicada a garantir que a inteligência artificial de uso geral beneficie toda a humanidade. Expandimos os limites das capacidades dos sistemas de IA e buscamos implantá-los com segurança no mundo por meio de nossos produtos. A IA é uma ferramenta extremamente poderosa que deve ser criada com a segurança e as necessidades humanas em seu núcleo e, para cumprir nossa missão, devemos abranger e valorizar as muitas perspectivas, vozes e experiências diferentes que formam todo o espectro da humanidade.
Somos um empregador que oferece oportunidades iguais e não discriminamos com base em raça, religião, cor, origem nacional, sexo, orientação sexual, idade, status de veterano, deficiência, informações genéticas ou outra característica legalmente protegida aplicável.
Para obter informações adicionais, consulte a Declaração de Política de Ação Afirmativa e Igualdade de Oportunidades de Emprego da OpenAI.
As verificações de antecedentes para candidatos serão administradas de acordo com a lei aplicável, e candidatos qualificados com registros de prisão ou condenação serão considerados para emprego de forma consistente com essas leis, incluindo a San Francisco Fair Chance Ordinance, a Los Angeles County Fair Chance Ordinance for Employers e a California Fair Chance Act, para candidatos baseados nos EUA. Para trabalhadores do condado não incorporado de Los Angeles: acreditamos razoavelmente que o histórico criminal pode ter uma relação direta, adversa e negativa com as seguintes funções, podendo resultar na retirada de uma oferta condicional de emprego: proteger o hardware de computador confiado a você contra roubo, perda ou dano; devolver todo o hardware de computador em sua posse (incluindo os dados nele contidos) após o término do emprego ou fim da atribuição; e manter a confidencialidade de informações proprietárias, confidenciais e não públicas. Além disso, as funções exigem acesso a sistemas de tecnologia da informação seguros e protegidos e obrigações de segurança de dados relacionadas.
Para notificar a OpenAI de que você acredita que esta vaga não está em conformidade, envie um relatório por meio deste formulário. Nenhuma resposta será fornecida a consultas não relacionadas à conformidade da vaga.
Estamos comprometidos em fornecer acomodações razoáveis para candidatos com deficiência, e as solicitações podem ser feitas por meio deste link.
Na OpenAI, acreditamos que a inteligência artificial tem o potencial de ajudar as pessoas a resolver imensos desafios globais, e queremos que os benefícios da IA sejam amplamente compartilhados. Junte-se a nós na construção do futuro da tecnologia.
Plataforma de recrutamento reverso para programadores