Estados Unidos
Nominal
Anthropic
Ingeniero/a de Investigación, Interpretabilidad
Estados Unidos
San Francisco, California, United States
PythonJavaRustGo
Traducción automática. Consulta el original.
SOBRE ANTHROPIC
La misión de Anthropic es crear sistemas de IA fiables, interpretables y dirigibles. Queremos que la IA sea segura y beneficiosa para nuestros usuarios y para la sociedad en su conjunto. Nuestro equipo es un grupo en rápido crecimiento de investigadores, ingenieros, expertos en políticas y líderes empresariales comprometidos que trabajan juntos para construir sistemas de IA beneficiosos.
SOBRE EL PUESTO
¿Cuando ves de lo que son capaces los modelos de lenguaje modernos, te preguntas: "¿Cómo funcionan estas cosas? ¿Cómo podemos confiar en ellas?"
El equipo de Interpretabilidad de Anthropic está trabajando para realizar ingeniería inversa de cómo funcionan los modelos entrenados porque creemos que una comprensión mecanicista es la forma más robusta de hacer que los sistemas avanzados sean seguros.
Piensa en nosotros como si estuviéramos haciendo "neurociencia" de redes neuronales usando "microscopios" que construimos, o realizando ingeniería inversa de redes neuronales como programas binarios.
Más recursos para aprender sobre nuestro trabajo:
- Nuestro blog de investigación transformer-circuits.pub/ - cubriendo avances incluyendo Características Monosemánticas transformer-circuits.pub/2024/scaling-monosemanticity/ y Circuitos transformer-circuits.pub/2025/attribution-graphs/methods.html
- Una Introducción a la Interpretabilidad youtube.com/watch?v=TxhhMTOTMDg de nuestro líder de investigación, Chris Olah colah.github.io/about.html
- La Urgencia de la Interpretabilidad darioamodei.com/post/the-urgency-of-interpretability del CEO Dario Amodei
- Desafíos de Ingeniería para Escalar la Interpretabilidad anthropic.com/research/engineering-challenges-interpretability - directamente relevante para este puesto
* 60 Minutos [
YouTube] segmento - Alrededor de 8:07, ve una demostración de las herramientas que nuestro equipo construyó
- New Yorker newyorker.com/magazine/2026/02/16/what-is-claude-anthropic-doesnt-know-either artículo - cómo es trabajar en uno de los problemas abiertos más difíciles de la IA
Incluso si no has trabajado en interpretabilidad antes, la experiencia en infraestructura es similar a la necesaria en todo el ciclo de vida de un modelo de lenguaje de producción:
- Preentrenamiento: Entrenar modelos de aprendizaje de diccionario se parece mucho al preentrenamiento de modelos: crear trabajos de entrenamiento estables y de alto rendimiento para modelos masivamente parametrizados en miles de chips
- Inferencia: Interp ejecuta una pila de inferencia personalizada. El análisis diario requiere servicios que permitan editar las activaciones internas de un modelo a mitad del pase hacia adelante, por ejemplo, añadiendo un "vector de dirección"
- Rendimiento: Como todo el trabajo de LLM, nos acercamos a los límites del hardware y el software. En lugar de exprimir el último 0.1%, nos centramos en encontrar cuellos de botella, solucionarlos y avanzar dada la rápida evolución de la investigación y la misión de seguridad
La ciencia sigue escalando, y ahora se aplica directamente en auditorías de seguridad www-cdn.anthropic.com/bf10f64990cfda0ba858290be7b8cc6317685f47.pdf en modelos de vanguardia, con plazos reales. A medida que nuestra investigación ha madurado, la ingeniería y la infraestructura se han convertido en un cuello de botella. Tu trabajo tendrá un impacto directo en uno de los problemas abiertos más importantes de la IA.
RESPONSABILIDADES
- Construir y mantener la infraestructura especializada de inferencia y entrenamiento que alimenta la investigación de interpretabilidad, incluyendo pases hacia adelante/atrás instrumentados, extracción de activaciones y aplicación de vectores de dirección
- Resolver cuellos de botella de escalado y eficiencia mediante perfilado, optimización y colaboración estrecha con equipos de infraestructura pares
- Diseñar herramientas, abstracciones y plataformas que permitan a los investigadores experimentar rápidamente sin encontrar barreras de ingeniería
- Ayudar a llevar la investigación de interpretabilidad a auditorías de seguridad en producción, con plazos reales y altas expectativas de fiabilidad
- Trabajar en toda la pila, desde los internos del modelo y la optimización a nivel de acelerador hasta las herramientas de investigación orientadas al usuario
PUEDES SER UN BUEN CANDIDATO SI
- Tienes 5-10+ años de experiencia en desarrollo de software
- Eres muy competente en al menos un lenguaje de programación (por ejemplo, Python, Rust, Go, Java) y productivo con Python
- Tienes una curiosidad extrema por dominios desconocidos; puedes aprender rápidamente y poner ese conocimiento en práctica, por ejemplo, sumergiéndote en nuevas capas de la pila para encontrar cuellos de botella
- Tienes una gran capacidad para priorizar el trabajo más impactante y te sientes cómodo operando con ambigüedad y cuestionando suposiciones
- Prefieres proyectos colaborativos de ritmo rápido a esfuerzos individuales extensos
- Tienes curiosidad por la investigación de interpretabilidad y su papel en la seguridad de la IA (¡aunque no se requiere experiencia en investigación!)
- Te preocupan los impactos sociales y la ética de tu trabajo
- Te sientes cómodo trabajando estrechamente con investigadores, traduciendo las necesidades de investigación en soluciones de ingeniería.
LOS CANDIDATOS CON EXPERIENCIA SÓLIDA TAMBIÉN PUEDEN TENER EXPERIENCIA CON
- Optimizar el rendimiento de sistemas distribuidos a gran escala
- Fundamentos de modelado de lenguaje con transformadores
- Optimización de LLM de alto rendimiento: gestión de memoria, eficiencia de cómputo, estrategias de paralelismo, optimización del rendimiento de inferencia
- Trabajar de forma práctica en una pila de ML convencional: PyTorch/CUDA en GPUs o JAX/XLA en TPUs
- Colaborar estrechamente con investigadores y construir herramientas para apoyar a los equipos de investigación; o haber realizado directamente investigación con desafíos de ingeniería complejos
PROYECTOS REPRESENTATIVOS
- Construir Garcon transformer-circuits.pub/2021/garcon/index.html, una herramienta que permite a los investigadores instrumentar fácilmente LLMs para extraer activaciones internas
- Diseñar y optimizar un pipeline para recopilar eficientemente petabytes de activaciones de transformadores y reorganizarlas
- Perfilar y optimizar trabajos de entrenamiento de ML, incluyendo paralelismo multi-GPU y optimización de memoria
- Construir un sistema de inferencia dirigido que aplique intervenciones específicas a los internos del modelo a escala (conceptualmente similar a Golden Gate Claude anthropic.com/news/golden-gate-claude pero para investigación de seguridad)
POLÍTICA DE UBICACIÓN ESPECÍFICA DEL PUESTO
- Este puesto se basa en la oficina de San Francisco; sin embargo, estamos abiertos a considerar candidatos excepcionales para trabajo remoto caso por caso.
El rango de compensación anual para este puesto se indica a continuación. Para los puestos de ventas, el rango proporcionado es el rango de "Ingresos Previstos" ("OTE") del puesto, lo que significa que el rango incluye tanto las comisiones de ventas/bonos de ventas previstos como el salario base anual para el puesto.
Salario Anual: $315,000—$560,000 USD
LOGÍSTICA
- Educación mínima: Título de Grado o una combinación equivalente de educación, formación y/o experiencia
- Campo de estudio requerido: Un campo relevante para el puesto demostrado a través de coursework, formación o experiencia profesional
- Años mínimos de experiencia: Los años de experiencia requeridos se correlacionarán con los requisitos de nivel de puesto interno para la posición
- Política híbrida basada en la ubicación: Actualmente, esperamos que todo el personal esté en una de nuestras oficinas al menos 25% del tiempo. Sin embargo, algunos puestos pueden requerir más tiempo en nuestras oficinas.
- Patrocinio de visado: ¡Sí patrocinamos visados! Sin embargo, no podemos patrocinar visados con éxito para todos los puestos y todos los candidatos. Pero si te hacemos una oferta, haremos todos los esfuerzos razonables para conseguirte un visado, y contamos con un abogado de inmigración para ayudar con esto.
Te animamos a que te postules incluso si no crees que cumples con todos los requisitos. No todos los candidatos fuertes cumplirán con todos los requisitos enumerados. La investigación muestra que las personas que se identifican como pertenecientes a grupos subrepresentados son más propensas a experimentar el síndrome del impostor y a dudar de la solidez de su candidatura, por lo que te instamos a que no te excluyas prematuramente y envíes una solicitud si te interesa este trabajo. Creemos que los sistemas de IA como los que estamos construyendo tienen enormes implicaciones sociales y éticas. Creemos que esto hace que la representación sea aún más importante, y nos esforzamos por incluir una variedad de perspectivas diversas en nuestro equipo.
Tu seguridad nos importa. Para protegerte de posibles estafas, recuerda que los reclutadores de Anthropic solo te contactan desde direcciones de correo electrónico con el dominio @anthropic.com. En algunos casos, podemos asociarnos con agencias de reclutamiento verificadas que se identificarán como que trabajan en nombre de Anthropic. Ten cuidado con los correos electrónicos de otros dominios. Los reclutadores legítimos de Anthropic nunca te pedirán dinero, tarifas o información bancaria antes de tu primer día. Si alguna vez tienes dudas sobre una comunicación, no hagas clic en ningún enlace; visita anthropic.com/careers anthropic.com/careers directamente para ver las ofertas de empleo confirmadas.
CÓMO NOS DIFERENCIAMOS
Creemos que la investigación de IA de mayor impacto será "big science". En Anthropic trabajamos como un único equipo cohesionado en solo unos pocos esfuerzos de investigación a gran escala. Y valoramos el impacto (avanzar en nuestros objetivos a largo plazo de IA dirigible y confiable) en lugar de trabajar en acertijos más pequeños y específicos. Vemos la investigación de IA como una ciencia empírica, que tiene tanto en común con la física y la biología como con los esfuerzos tradicionales en informática. Somos un grupo extremadamente colaborativo y organizamos discusiones de investigación frecuentes para garantizar que estamos persiguiendo el trabajo de mayor impacto en cualquier momento dado. Como tal, valoramos enormemente las habilidades de comunicación.
La forma más fácil de entender nuestras direcciones de investigación es leer nuestra investigación reciente. Esta investigación continúa muchas de las direcciones en las que nuestro equipo trabajó antes de Anthropic, incluyendo: GPT-3, Interpretabilidad Basada en Circuitos, Neuronas Multimodales, Leyes de Escalado, IA y Cómputo, Problemas Concretos en Seguridad de IA, y Aprendizaje de Preferencias Humanas.
¡VEN A TRABAJAR CON NOSOTROS!
Anthropic es una corporación de beneficio público con sede en San Francisco. Ofrecemos compensación y beneficios competitivos, donación opcional de acciones igualada, generosas vacaciones y permisos parentales, horarios de trabajo flexibles y un espacio de oficina encantador en el que colaborar con colegas. Guía sobre el Uso de IA por parte de los Candidatos: Conoce nuestra política anthropic.com/candidate-ai-guidance para usar IA en nuestro proceso de solicitud.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil