Estados Unidos
StrideCare
Anthropic
Ingeniero/Científico de Investigación, Alineación
Estados Unidos
San Francisco, California, United States
PythonKubernetes
Traducción automática. Consulta el original.
SOBRE ANTHROPIC
La misión de Anthropic es crear sistemas de IA fiables, interpretables y dirigibles. Queremos que la IA sea segura y beneficiosa para nuestros usuarios y para la sociedad en su conjunto. Nuestro equipo es un grupo en rápido crecimiento de investigadores, ingenieros, expertos en políticas y líderes empresariales comprometidos que trabajan juntos para construir sistemas de IA beneficiosos.
SOBRE EL PUESTO
Quieres construir y ejecutar experimentos elegantes y exhaustivos de machine learning para ayudarnos a comprender y dirigir el comportamiento de potentes sistemas de IA. Te preocupa hacer que la IA sea útil, honesta e inofensiva, y te interesan las formas en que esto podría ser un desafío en el contexto de capacidades a nivel humano. Podrías describirte tanto como científico como ingeniero. Como Ingeniero de Investigación en Ciencia de Alineación, contribuirás a la investigación experimental exploratoria sobre seguridad de IA, con un enfoque en los riesgos de futuros sistemas potentes (como los que designaríamos como ASL-3 o ASL-4 según nuestra Política de Escalado Responsable anthropic.com/news/anthropics-responsible-scaling-policy), a menudo en colaboración con otros equipos, incluidos Interpretability, Fine-Tuning y el Frontier Red Team.
Nuestro blog alignment.anthropic.com/ ofrece una visión general de los temas que el equipo de Ciencia de Alineación está explorando actualmente o ha explorado previamente. Nuestros temas actuales de enfoque incluyen...
PROYECTOS REPRESENTATIVOS
- Supervisión Escalable: Desarrollo de técnicas para mantener modelos altamente capaces útiles y honestos, incluso a medida que superan la inteligencia humana en diversos dominios.
- Control de IA: Creación de métodos para garantizar que los sistemas avanzados de IA sigan siendo seguros e inofensivos en escenarios desconocidos o adversarios.
- Pruebas de estrés de alineación lesswrong.com/posts/EPDSdXr8YbsDkgsDG/introducing-alignment-stress-testing-at-anthropic: Creación de organismos modelo de desalineación lesswrong.com/posts/ChDH335ckdvpxXaXX/model-organisms-of-misalignment-the-case-for-a-new-pillar-of-1 para mejorar nuestra comprensión empírica de cómo podrían surgir fallos de alineación.
- Investigación de Alineación Automatizada: Construcción y alineación de un sistema que pueda acelerar y mejorar la investigación de alineación.
- Evaluaciones de Alineación: Comprensión y documentación de las propiedades emergentes de los modelos de mayor riesgo y más preocupantes a través de evaluaciones de alineación y bienestar previas al despliegue (ver nuestra Tarjeta del Sistema Claude 4 www-cdn.anthropic.com/6be99a52cb68eb70eb9572b4cafad13df32ed995.pdf), casos de seguridad de riesgo de desalineación y coordinación con evaluadores externos.
- Investigación de Salvaguardias job-boards.greenhouse.io/anthropic/jobs/4459012008: Desarrollo de defensas sólidas contra ataques adversarios, marcos de evaluación integrales para la seguridad del modelo y sistemas automatizados para detectar y mitigar riesgos potenciales antes del despliegue.
- Bienestar del Modelo: Investigación y abordaje del bienestar potencial del modelo, el estatus moral y cuestiones relacionadas. Consulte nuestro anuncio del programa anthropic.com/research/exploring-model-welfare y la evaluación de bienestar en la tarjeta del sistema Claude 4 www-cdn.anthropic.com/07b2a3f9902ee19fe39a36ca638e5ae987bc64dd.pdf para más información.
- Probar la robustez de nuestras técnicas de seguridad entrenando modelos de lenguaje para subvertir nuestras técnicas de seguridad y ver cuán efectivas son para subvertir nuestras intervenciones.
- Ejecutar experimentos de aprendizaje por refuerzo multiagente para probar técnicas como el Debate de IA arxiv.org/abs/1805.00899.
- Crear herramientas para evaluar de manera eficiente la efectividad de las nuevas jailbreaks generadas por LLM.
- Escribir scripts y prompts para producir eficientemente preguntas de evaluación que prueben las capacidades de razonamiento de los modelos en contextos relevantes para la seguridad.
- Contribuir con ideas, figuras y redacción a artículos de investigación, publicaciones de blog y charlas.
- Ejecutar experimentos que alimenten los esfuerzos clave de seguridad de IA en Anthropic, como el diseño e implementación de nuestra Política de Escalado Responsable anthropic.com/news/anthropics-responsible-scaling-policy.
LOS CANDIDATOS NO NECESITAN TENER
Nota: Para este puesto, realizamos todas las entrevistas en Python y preferimos que los candidatos residan en el Área de la Bahía.
- 100% de las habilidades necesarias para realizar el trabajo
- Certificaciones formales o credenciales educativas
El rango de compensación anual para este puesto se indica a continuación. Para los puestos de ventas, el rango proporcionado es el rango de "Ganancias Objetivo" (OTE) del puesto, lo que significa que el rango incluye tanto las comisiones de ventas/bonificaciones de ventas objetivo como el salario base anual para el puesto.
Salario Anual: $350,000—$500,000 USD
Política híbrida basada en la ubicación: Actualmente, esperamos que todo el personal esté en una de nuestras oficinas al menos 25% del tiempo. Sin embargo, algunos puestos pueden requerir más tiempo en nuestras oficinas.
Patrocinio de visas: ¡Patrocinamos visas! Sin embargo, no podemos patrocinar visas con éxito para todos los puestos y todos los candidatos. Pero si te hacemos una oferta, haremos todo lo razonablemente posible para conseguirte una visa, y contamos con un abogado de inmigración para ayudar con esto.
Te animamos a que te postules incluso si no crees que cumples con todos los requisitos. No todos los candidatos excepcionales cumplirán con todos los requisitos enumerados. La investigación muestra que las personas que se identifican como pertenecientes a grupos subrepresentados son más propensas a experimentar el síndrome del impostor y a dudar de la solidez de su candidatura, por lo que te instamos a que no te excluyas prematuramente y envíes una solicitud si te interesa este trabajo. Creemos que los sistemas de IA como los que estamos construyendo tienen enormes implicaciones sociales y éticas. Creemos que esto hace que la representación sea aún más importante, y nos esforzamos por incluir una variedad de perspectivas diversas en nuestro equipo.
Tu seguridad nos importa. Para protegerte de posibles estafas, recuerda que los reclutadores de Anthropic solo te contactan desde direcciones de correo electrónico @anthropic.com. En algunos casos, podemos asociarnos con agencias de contratación verificadas que se identificarán como que trabajan en nombre de Anthropic. Ten cuidado con los correos electrónicos de otros dominios. Los reclutadores legítimos de Anthropic nunca te pedirán dinero, tarifas o información bancaria antes de tu primer día. Si alguna vez tienes dudas sobre una comunicación, no hagas clic en ningún enlace; visita directamente anthropic.com/careers anthropic.com/careers para ver las ofertas de empleo confirmadas.
Guía sobre el uso de IA por parte de los candidatos: Conoce nuestra política anthropic.com/candidate-ai-guidance para usar IA en nuestro proceso de solicitud.
PUEDES SER UN BUEN CANDIDATO SI
- Tienes una experiencia significativa en software, ML o ingeniería de investigación
- Tienes alguna experiencia contribuyendo a proyectos de investigación empírica de IA
- Tienes alguna familiaridad con la investigación técnica de seguridad de IA
- Prefieres proyectos colaborativos de ritmo rápido a esfuerzos individuales extensos
- Cubres las carencias, incluso si va más allá de tu descripción de puesto
- Te importan los impactos de la IA
LOGÍSTICA
Educación mínima: Título de Grado o una combinación equivalente de educación, formación y/o experiencia
Campo de estudio requerido: Un campo relevante para el puesto demostrado a través de cursos, formación o experiencia profesional
Años mínimos de experiencia: Los años de experiencia requeridos se correlacionarán con los requisitos de nivel de puesto interno para la posición
LOS CANDIDATOS EXCEPCIONALES TAMBIÉN PUEDEN
- Tienes experiencia como autor de artículos de investigación en machine learning, PNL o seguridad de IA
- Tienes experiencia con LLMs
- Tienes experiencia con aprendizaje por refuerzo
- Tienes experiencia con clústeres de Kubernetes y bases de código compartidas complejas
CÓMO SOMOS DIFERENTES
Creemos que la investigación de IA de mayor impacto será ciencia a gran escala. En Anthropic trabajamos como un único equipo cohesionado en solo unos pocos esfuerzos de investigación a gran escala. Y valoramos el impacto —avanzar en nuestros objetivos a largo plazo de IA dirigible y confiable— en lugar de trabajar en acertijos más pequeños y específicos. Vemos la investigación de IA como una ciencia empírica, que tiene tanto en común con la física y la biología como con los esfuerzos tradicionales en informática. Somos un grupo extremadamente colaborativo y organizamos discusiones de investigación frecuentes para garantizar que estamos persiguiendo el trabajo de mayor impacto en cualquier momento dado. Como tal, valoramos mucho las habilidades de comunicación.
La forma más fácil de entender nuestras direcciones de investigación es leer nuestra investigación reciente. Esta investigación continúa muchas de las direcciones en las que trabajó nuestro equipo antes de Anthropic, incluyendo: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety, y Learning from Human Preferences.
¡VEN A TRABAJAR CON NOSOTROS!
Anthropic es una corporación de beneficio público con sede en San Francisco. Ofrecemos compensación y beneficios competitivos, donación opcional de acciones igualada, generosas vacaciones y permisos parentales, horarios de trabajo flexibles y un espacio de oficina encantador en el que colaborar con colegas.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil