Estados Unidos
Roku
Anthropic
Staff + Senior Software Engineer, Inference Infrastructure
Estados Unidos
San Francisco, California, United States · New York, New York, United States · Seattle, Washington, United States
PythonAWSGCPKubernetesRust
Traducción automática. Consulta el original.
SOBRE ANTHROPIC
La misión de Anthropic es crear sistemas de IA fiables, interpretables y dirigibles. Queremos que la IA sea segura y beneficiosa para nuestros usuarios y para la sociedad en su conjunto. Nuestro equipo es un grupo en rápido crecimiento de investigadores, ingenieros, expertos en políticas y líderes empresariales comprometidos que trabajan juntos para construir sistemas de IA beneficiosos.
SOBRE EL PUESTO
Nuestro equipo de Inferencia es responsable de construir y mantener los sistemas críticos que sirven Claude a millones de usuarios en todo el mundo. Damos vida a Claude sirviendo nuestros modelos a través de las implementaciones de inferencia más grandes de la industria, independientes de la computación. Somos responsables de toda la pila, desde el enrutamiento inteligente de solicitudes hasta la orquestación de flotas en diversos aceleradores de IA. El equipo tiene un doble mandato: maximizar la eficiencia computacional para servir de manera fiable nuestro explosivo crecimiento de clientes, al tiempo que se habilita la investigación innovadora al proporcionar a nuestros científicos la infraestructura de inferencia de alto rendimiento que necesitan para desarrollar modelos de próxima generación. Abordamos desafíos complejos de sistemas distribuidos en múltiples familias de aceleradores y hardware de IA emergente que se ejecutan en múltiples plataformas en la nube.
Los sistemas de inferencia son sistemas distribuidos muy sensibles al rendimiento.
La inferencia atiende a cientos de miles de clientes cada día, y el tamaño y alcance de la flota de inferencia requiere sofisticados sistemas de enrutamiento, escalado y redes.
RESPONSABILIDADES CLAVE
- Diseñar, construir y mantener los sistemas distribuidos que sirven Claude a millones de usuarios en todo el mundo
- Desarrollar sistemas resilientes y flexibles que se adapten en tiempo real a eventos del mundo real
- Desarrollar sistemas inteligentes de enrutamiento de solicitudes, balanceo de carga y gestión de tráfico en miles de aceleradores
- Maximizar la eficiencia computacional en toda la flota mediante el escalado automático y la orquestación de cargas de trabajo de producción, investigación y experimentales
- Construir y operar pipelines de implementación de nivel de producción para lanzar nuevos modelos a los usuarios
- Proporcionar infraestructura de inferencia de alto rendimiento que permita a los investigadores desarrollar modelos de próxima generación
- Integrar nuevas plataformas de aceleración de IA y dar soporte a la inferencia para nuevas arquitecturas de modelos
CALIFICACIONES MÍNIMAS
- Experiencia significativa en ingeniería de software, particularmente con sistemas distribuidos
- Orientado a resultados, con una inclinación hacia la flexibilidad y el impacto
- Disposición para cubrir las necesidades, incluso si van más allá de tu descripción del puesto
- Deseo de aprender más sobre sistemas e infraestructura de machine learning
- Prosperar en entornos donde la excelencia técnica impulsa directamente tanto los resultados comerciales como los avances en investigación
- Preocupación por los impactos sociales de tu trabajo
CALIFICACIONES PREFERIDAS
- Experiencia con sistemas distribuidos a gran escala y de alto rendimiento
- Experiencia implementando y desplegando sistemas de machine learning a escala
- Experiencia con sistemas de balanceo de carga, enrutamiento de solicitudes o gestión de tráfico
- Familiaridad con la optimización de inferencia, el batching y las estrategias de caché de LLM
- Experiencia con Kubernetes e infraestructura en la nube (AWS, GCP, Azure)
- Dominio de Python o Rust
PROYECTOS REPRESENTATIVOS
- Diseño de algoritmos de enrutamiento inteligentes que optimizan la distribución de solicitudes entre muchos aceleradores en diferentes entornos
- Escalado automático de nuestra flota de computación para igualar dinámicamente la oferta con la demanda en cargas de trabajo de producción, investigación y experimentales
- Construcción de pipelines de implementación de nivel de producción para lanzar nuevos modelos a millones de usuarios de forma fiable
- Contribución a nuevas funcionalidades de inferencia
- Soporte de inferencia para nuevas arquitecturas de modelos
- Análisis de datos de observabilidad para ajustar el rendimiento basándose en cargas de trabajo de producción del mundo real
- Gestión de implementaciones multirregión y enrutamiento geográfico para clientes globales
Fecha límite para postularse: Ninguna. Las solicitudes se revisarán de forma continua.
El rango de compensación anual para este puesto se indica a continuación.
Para los puestos de ventas, el rango proporcionado es el rango de "Objetivo de Ganancias" (OTE) del puesto, lo que significa que el rango incluye tanto las comisiones de ventas/bonificaciones de ventas objetivo como el salario base anual para el puesto.
Salario Anual: $320,000—$485,000 USD
LOGÍSTICA
Educación mínima: Título de Grado o una combinación equivalente de educación, formación y/o experiencia
Campo de estudio requerido: Un campo relevante para el puesto, demostrado a través de asignaturas, formación o experiencia profesional
Años mínimos de experiencia: Los años de experiencia requeridos se correlacionarán con los requisitos de nivel de puesto interno para la posición
Política híbrida basada en la ubicación: Actualmente, esperamos que todo el personal esté en una de nuestras oficinas al menos el 25% del tiempo. Sin embargo, algunos puestos pueden requerir más tiempo en nuestras oficinas.
Patrocinio de visados: ¡Patrocinamos visados! Sin embargo, no podemos patrocinar visados con éxito para todos los puestos y todos los candidatos. Pero si te hacemos una oferta, haremos todo lo razonablemente posible para conseguirte un visado, y contamos con un abogado de inmigración para ayudar con esto.
Te animamos a postularte incluso si no crees cumplir todos los requisitos. No todos los candidatos sólidos cumplirán todos los requisitos enumerados. La investigación muestra que las personas que se identifican como pertenecientes a grupos subrepresentados son más propensas a experimentar el síndrome del impostor y a dudar de la solidez de su candidatura, por lo que te instamos a que no te excluyas prematuramente y envíes una solicitud si te interesa este trabajo. Creemos que los sistemas de IA como los que estamos construyendo tienen enormes implicaciones sociales y éticas. Creemos que esto hace que la representación sea aún más importante, y nos esforzamos por incluir una variedad de perspectivas diversas en nuestro equipo.
Tu seguridad nos importa. Para protegerte de posibles estafas, recuerda que los reclutadores de Anthropic solo se ponen en contacto contigo desde direcciones de correo electrónico @anthropic.com.
En algunos casos, podemos asociarnos con agencias de contratación verificadas que se identificarán como que trabajan en nombre de Anthropic. Ten cuidado con los correos electrónicos de otros dominios. Los reclutadores legítimos de Anthropic nunca te pedirán dinero, tarifas o información bancaria antes de tu primer día. Si alguna vez tienes dudas sobre una comunicación, no hagas clic en ningún enlace; visita anthropic.com/careers anthropic.com/careers directamente para ver las ofertas de empleo confirmadas.
Orientación sobre el uso de IA por parte de los candidatos: Obtén información sobre nuestra política anthropic.com/candidate-ai-guidance para usar IA en nuestro proceso de solicitud.
CÓMO SOMOS DIFERENTES
Creemos que la investigación de IA de mayor impacto será ciencia a gran escala. En Anthropic trabajamos como un único equipo cohesionado en solo unos pocos esfuerzos de investigación a gran escala. Y valoramos el impacto —avanzar en nuestros objetivos a largo plazo de IA dirigible y confiable— en lugar de trabajar en acertijos más pequeños y específicos. Vemos la investigación de IA como una ciencia empírica, que tiene tanto en común con la física y la biología como con los esfuerzos tradicionales en informática. Somos un grupo extremadamente colaborativo y organizamos frecuentes discusiones de investigación para garantizar que estamos persiguiendo el trabajo de mayor impacto en cualquier momento dado. Como tal, valoramos mucho las habilidades de comunicación.
La forma más fácil de entender nuestras direcciones de investigación es leer nuestra investigación reciente. Esta investigación continúa muchas de las direcciones en las que trabajó nuestro equipo antes de Anthropic, incluyendo: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety, y Learning from Human Preferences.
¡VEN A TRABAJAR CON NOSOTROS!
Anthropic es una corporación de beneficio público con sede en San Francisco. Ofrecemos compensación y beneficios competitivos, igualación opcional de donaciones de acciones, generosas vacaciones y permisos parentales, horarios de trabajo flexibles y un espacio de oficina encantador en el que colaborar con colegas.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil