Estados Unidos
Be Structured Technology Group
Anthropic
Ingeniero de investigación, interpretabilidad
Estados Unidos
San Francisco, California, United States
PythonJavaRustGo
Traducción automática. Consulta el original.
ACERCA DE ANTHROPIC
La misión de Anthropic es crear sistemas de IA fiables, interpretables y controlables. Queremos que la IA sea segura y beneficiosa para nuestros usuarios y para la sociedad en su conjunto. Nuestro equipo es un grupo en rápido crecimiento de investigadores, ingenieros, expertos en políticas y líderes empresariales comprometidos que trabajan juntos para construir sistemas de IA beneficiosos.
ACERCA DEL PUESTO
Al ver de lo que son capaces los modelos de lenguaje modernos, ¿te preguntas: "¿Cómo funcionan estas cosas? ¿Cómo podemos confiar en ellas?"
El equipo de interpretabilidad de Anthropic trabaja en la ingeniería inversa de cómo funcionan los modelos entrenados, porque creemos que una comprensión mecánica es la forma más sólida de hacer que los sistemas avanzados sean seguros.
Piense en nosotros como si hiciéramos "neurociencia" de redes neuronales utilizando "microscopios" que nosotros mismos construimos, o realizando ingeniería inversa de redes neuronales como si fueran programas binarios.
Más recursos para aprender sobre nuestro trabajo:
- Nuestro blog de investigación transformer-circuits.pub/ - que cubre avances, incluyendo características monosemánticas transformer-circuits.pub/2024/scaling-monosemanticity/ y circuitos transformer-circuits.pub/2025/attribution-graphs/methods.html
- Una introducción a la interpretabilidad youtube.com/watch?v=TxhhMTOTMDg de nuestro líder de investigación, Chris Olah colah.github.io/about.html
- La urgencia de la interpretabilidad darioamodei.com/post/the-urgency-of-interpretability del CEO Dario Amodei
- Desafíos de ingeniería para escalar la interpretabilidad anthropic.com/research/engineering-challenges-interpretability - directamente relevante para este puesto
* 60 minutos [
YouTube] segmento - Alrededor de 8:07, vea una demostración de las herramientas que nuestro equipo construyó
- Artículo de New Yorker newyorker.com/magazine/2026/02/16/what-is-claude-anthropic-doesnt-know-either - cómo es trabajar en uno de los problemas abiertos más difíciles de la IA
Incluso si no has trabajado en interpretabilidad antes, la experiencia en infraestructura es similar a la necesaria a lo largo del ciclo de vida de un modelo de lenguaje en producción:
- Preentrenamiento: Entrenar modelos de aprendizaje de diccionario se parece mucho al preentrenamiento de modelos: crear trabajos de entrenamiento estables y de alto rendimiento para modelos masivamente parametrizados en miles de chips
- Inferencia: Interp ejecuta una pila de inferencia personalizada. El análisis diario requiere servicios que permitan editar las activaciones internas de un modelo a mitad de una pasada hacia adelante (forward-pass), por ejemplo, añadiendo un "vector de dirección"
- Rendimiento: Como todo trabajo de LLM, nos enfrentamos a los límites del hardware y el software. En lugar de exprimir el último 0.1%, nos centramos en encontrar cuellos de botella, solucionarlos y seguir adelante dada la rápida evolución de la investigación y la misión de seguridad
La ciencia sigue escalando, y ahora se aplica directamente en auditorías de seguridad www-cdn.anthropic.com/bf10f64990cfda0ba858290be7b8cc6317685f47.pdf en modelos de frontera, con plazos reales. A medida que nuestra investigación ha madurado, la ingeniería y la infraestructura se han convertido en un cuello de botella. Tu trabajo tendrá un impacto directo en uno de los problemas abiertos más importantes de la IA.
RESPONSABILIDADES
- Construir y mantener la infraestructura especializada de inferencia y entrenamiento que impulsa la investigación de interpretabilidad, incluyendo pasadas hacia adelante/atrás instrumentadas, extracción de activaciones y aplicación de vectores de dirección
- Resolver cuellos de botella de escalabilidad y eficiencia mediante la creación de perfiles, optimización y una estrecha colaboración con equipos de infraestructura pares
- Diseñar herramientas, abstracciones y plataformas que permitan a los investigadores experimentar rápidamente sin encontrar barreras de ingeniería
- Ayudar a llevar la investigación de interpretabilidad a auditorías de seguridad en producción, con plazos reales y expectativas de alta fiabilidad
- Trabajar en toda la pila, desde los componentes internos del modelo y la optimización a nivel de acelerador hasta las herramientas de investigación orientadas al usuario
PUEDES ENCAJAR BIEN SI
- Tienes 5-10+ años de experiencia en desarrollo de software
- Eres altamente competente en al menos un lenguaje de programación (p. ej., Python, Rust, Go, Java) y productivo con Python
- Sientes una gran curiosidad por dominios desconocidos; puedes aprender rápidamente y poner ese conocimiento en práctica, p. ej., profundizando en nuevas capas de la pila para encontrar cuellos de botella
- Tienes una gran capacidad para priorizar el trabajo más impactante y te sientes cómodo operando con ambigüedad y cuestionando suposiciones
- Prefieres proyectos colaborativos de ritmo rápido a esfuerzos individuales extensos
- Sientes curiosidad por la investigación de interpretabilidad y su papel en la seguridad de la IA (¡aunque no se requiere experiencia previa en investigación!)
- Te preocupan los impactos sociales y la ética de tu trabajo
- Te sientes cómodo trabajando estrechamente con investigadores, traduciendo las necesidades de investigación en soluciones de ingeniería.
LOS CANDIDATOS FUERTES TAMBIÉN PUEDEN TENER EXPERIENCIA CON
- Optimización del rendimiento de sistemas distribuidos a gran escala
- Fundamentos de modelado de lenguaje con transformers
- Optimización de LLM de alto rendimiento: gestión de memoria, eficiencia de cómputo, estrategias de paralelismo, optimización del rendimiento de inferencia
- Trabajo práctico en una pila de ML convencional: PyTorch/CUDA en GPUs o JAX/XLA en TPUs
- Colaborar estrechamente con investigadores y crear herramientas para apoyar a los equipos de investigación; o haber realizado investigación directamente con desafíos de ingeniería complejos
PROYECTOS REPRESENTATIVOS
- Construir Garcon transformer-circuits.pub/2021/garcon/index.html, una herramienta que permite a los investigadores instrumentar fácilmente LLMs para extraer activaciones internas
- Diseñar y optimizar una tubería (pipeline) para recopilar eficientemente petabytes de activaciones de transformer y mezclarlas
- Perfilado y optimización de trabajos de entrenamiento de ML, incluyendo paralelismo multi-GPU y optimización de memoria
- Construir un sistema de inferencia dirigida que aplica intervenciones específicas a los componentes internos del modelo a escala (conceptualmente similar a Golden Gate Claude anthropic.com/news/golden-gate-claude pero para investigación de seguridad)
POLÍTICA DE UBICACIÓN ESPECÍFICA DEL PUESTO
- Este puesto tiene su sede en la oficina de San Francisco; sin embargo, estamos abiertos a considerar candidatos excepcionales para trabajo remoto caso por caso.
El rango de compensación anual para este puesto se detalla a continuación. Para los puestos de ventas, el rango proporcionado es el rango de Ingresos Objetivo ("OTE") del puesto, lo que significa que el rango incluye tanto el objetivo de comisiones/bonos de ventas como el salario base anual para el puesto.
Salario anual: $315,000—$560,000 USD
LOGÍSTICA
- Educación mínima: Licenciatura o una combinación equivalente de educación, formación y/o experiencia
- Campo de estudio requerido: Un campo relevante para el puesto según lo demostrado a través de cursos, formación o experiencia profesional
- Años mínimos de experiencia: Los años de experiencia requeridos se correlacionarán con los requisitos de nivel de trabajo interno para el puesto
- Política híbrida basada en la ubicación: Actualmente, esperamos que todo el personal esté en una de nuestras oficinas al menos 25% del tiempo. Sin embargo, algunos puestos pueden requerir más tiempo en nuestras oficinas.
- Patrocinio de visado: ¡Patrocinamos visados! Sin embargo, no podemos patrocinar visados con éxito para todos los puestos y todos los candidatos. Pero si le hacemos una oferta, haremos todo esfuerzo razonable para conseguirle un visado, y contamos con un abogado de inmigración para ayudar con esto.
Le animamos a postularse incluso si no cree que cumple con todos y cada uno de los requisitos. No todos los candidatos fuertes cumplirán con todos los requisitos enumerados. Las investigaciones muestran que las personas que se identifican como pertenecientes a grupos subrepresentados son más propensas a experimentar el síndrome del impostor y a dudar de la solidez de su candidatura, por lo que le instamos a no excluirse prematuramente y a enviar una solicitud si le interesa este trabajo. Creemos que los sistemas de IA como los que estamos construyendo tienen enormes implicaciones sociales y éticas. Creemos que esto hace que la representación sea aún más importante, y nos esforzamos por incluir una variedad de perspectivas diversas en nuestro equipo.
Su seguridad nos importa. Para protegerse de posibles estafas, recuerde que los reclutadores de Anthropic solo le contactan desde direcciones de correo electrónico @anthropic.com. En algunos casos, podemos asociarnos con agencias de reclutamiento examinadas que se identificarán como trabajando en nombre de Anthropic. Tenga cuidado con los correos electrónicos de otros dominios. Los reclutadores legítimos de Anthropic nunca pedirán dinero, tarifas o información bancaria antes de su primer día. Si alguna vez no está seguro acerca de una comunicación, no haga clic en ningún enlace; visite anthropic.com/careers anthropic.com/careers directamente para ver las vacantes confirmadas.
CÓMO SOMOS DIFERENTES
Creemos que la investigación de IA de mayor impacto será la gran ciencia. En Anthropic trabajamos como un equipo cohesivo único en solo unos pocos esfuerzos de investigación a gran escala. Y valoramos el impacto (avanzar en nuestros objetivos a largo plazo de una IA controlable y confiable) en lugar de trabajar en acertijos más pequeños y específicos. Vemos la investigación de IA como una ciencia empírica, que tiene tanto en común con la física y la biología como con los esfuerzos tradicionales en informática. Somos un grupo extremadamente colaborativo y organizamos frecuentes debates de investigación para garantizar que estamos realizando el trabajo de mayor impacto en todo momento. Como tal, valoramos mucho las habilidades de comunicación.
La forma más fácil de entender nuestras direcciones de investigación es leer nuestra investigación reciente. Esta investigación continúa muchas de las direcciones en las que nuestro equipo trabajó antes de Anthropic, incluyendo: GPT-3, interpretabilidad basada en circuitos, neuronas multimodales, leyes de escala, IA y cómputo, problemas concretos en seguridad de la IA y aprendizaje de preferencias humanas.
¡VEN A TRABAJAR CON NOSOTROS!
Anthropic es una corporación de beneficio público con sede en San Francisco. Ofrecemos una compensación y beneficios competitivos, igualación opcional de donaciones de capital, generosas vacaciones y licencia parental, horarios de trabajo flexibles y un espacio de oficina encantador en el que colaborar con colegas. Orientación sobre el uso de IA por parte de los candidatos: Conozca nuestra política anthropic.com/candidate-ai-guidance para el uso de IA en nuestro proceso de solicitud.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil