Estados Unidos
Redwood Materials
Ingeniero/a de Investigación, Mitigaciones de Seguridad de Frontera, DeepMind
Estados Unidos
Mountain View, California, United States · San Francisco, California, United States
Traducción automática. Consulta el original.
CUALIFICACIONES MÍNIMAS: *
- Título de Grado o experiencia práctica equivalente. *
- 5 años de experiencia en desarrollo de software en uno o más lenguajes de programación. *
- 3 años de experiencia en pruebas, mantenimiento o lanzamiento de productos de software, y 1 año de experiencia en diseño y arquitectura de software.
CUALIFICACIONES PREFERIDAS: *
- Máster o Doctorado en Ciencias de la Computación o un campo técnico relacionado. *
- Experiencia en desarrollo, ajuste fino o metodologías de evaluación de seguridad de Modelos de Lenguaje Grandes (LLM). *
- Experiencia en llevar la investigación del concepto al producto. *
- Experiencia en áreas como Seguridad y Alineación.
SOBRE EL TRABAJO
Nuestro equipo se centra en reducir los riesgos de los lanzamientos de modelos defendiendo contra dominios críticos de mal uso como Ciberseguridad, CBRNE (Químico, Biológico, Radiológico, Nuclear, Explosivo Convencional) y Manipulación Dañina. Actualmente, esto implica la creación de evaluaciones novedosas, red-teaming, investigación y despliegue de mitigaciones avanzadas (tanto dentro como fuera del modelo), y monitorización de riesgos emergentes. Nos aseguramos de que nuestras mitigaciones sean muy robustas, al tiempo que permitimos el uso beneficioso de nuestra tecnología.
GDM es una comunidad científica dedicada, comprometida con 'resolver la inteligencia' y garantizar que nuestra tecnología se utilice para el beneficio público general.
El equipo de Mitigación de Seguridad de Frontera opera en un entorno rápido y altamente colaborativo. Tenemos una fuerte cultura de apoyo, dedicación y trabajo en equipo. Nos tomamos en serio la posibilidad de capacidades de modelos tangencialmente peligrosas a medida que avanza la IA. Debido a esto, creemos que investigar e implementar proactivamente mitigaciones robustas y de defensa en profundidad es una parte crítica de la estrategia general para construir IA segura.
Buscamos un/a ingeniero/a de investigación para el equipo de Mitigación de Seguridad de Frontera dentro del equipo de Seguridad de Gemini.
Tu responsabilidad principal es ayudarnos a construir la próxima generación de mitigaciones de seguridad para modelos de frontera. Este puesto es altamente aplicado y se centra en la construcción de defensas robustas de extremo a extremo contra riesgos graves. Este trabajo se integra directamente en los compromisos del Marco de Seguridad de Frontera de DeepMind.
Te sentirás cómodo/a descubriendo cómo abordar nuevas preguntas de investigación e implementando soluciones técnicas para ellas a escala.
La inteligencia artificial será uno de los inventos más transformadores de la humanidad. En Google DeepMind, somos un laboratorio pionero de IA con equipos interdisciplinarios excepcionales centrados en avanzar el desarrollo de IA para resolver desafíos globales complejos y acelerar la innovación de productos de alta calidad para miles de millones de usuarios. Utilizamos nuestras tecnologías para el beneficio público general y el descubrimiento científico, asegurando que la seguridad y la ética sean siempre nuestra máxima prioridad.
Estamos ampliando los límites en múltiples dominios. Nuestros equipos globales ofrecen diversas oportunidades de aprendizaje y variadas trayectorias profesionales para aquellos impulsados a lograr resultados excepcionales a través del esfuerzo colectivo.
El salario individual se determina por factores que incluyen habilidades relacionadas con el puesto, experiencia y educación o formación relevante.
EE. UU.: $174000 - $252000 (USD) + objetivo de bonificación del 15% + acciones + beneficios
].
RESPONSABILIDADES: *
- Crear clasificadores avanzados y pipelines de datos para detectar el uso indebido, asumiendo el proceso de extremo a extremo desde la evaluación automatizada hasta la iteración rápida del modelo. *
- Construir sistemas de monitorización intercontextuales para detectar daños coordinados, desarrollando métodos novedosos de agregación de señales a través de sesiones de usuario dispares para identificar vectores de ataque a gran escala. *
- Implementar sistemas de respuesta a nivel de cuenta, basados en datos y semiautomatizados, para detectar, rastrear y aplicar sanciones contra actores maliciosos persistentes utilizando señales ricas del tráfico de producción. *
- Evaluar y asegurar sistemas de IA agentivos desarrollando modelos de amenazas, creando entornos de prueba y desplegando mitigaciones robustas contra ataques agentivos de nivel de frontera y ataques de largo alcance. *
- Avanzar en la investigación de red-teaming automatizado y robustez adversarial, aprovechando ataques multi-turno/agentivos para probar y descubrir sistemáticamente vulnerabilidades de uso indebido.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil