Sysco GB
Anthropic
La misión de Anthropic es crear sistemas de IA fiables, interpretables y controlables. Queremos que la IA sea segura y beneficiosa para nuestros usuarios y para la sociedad en su conjunto. Nuestro equipo es un grupo en rápido crecimiento de investigadores, ingenieros, expertos en políticas y líderes empresariales comprometidos que trabajan juntos para construir sistemas de IA beneficiosos.
Nuestro equipo construye, prueba, despliega y supervisa los clasificadores que impiden que los agentes internos realicen acciones peligrosas. Estos clasificadores se ejecutan en RL, evaluaciones y despliegues internos, y están diseñados para detectar situaciones como intentos de escape del entorno aislado (sandbox) o la exfiltración de datos confidenciales.
Cuando un clasificador marca una acción, puede bloquearla antes de que se ejecute la llamada a la herramienta, finalizar la tarea y alertar a una persona. Esta es una capa de defensa en profundidad con varios niveles que se refuerzan entre sí: lo que marcan nuestros clasificadores alimenta la supervisión offline, y los hallazgos obtenidos se utilizan para mejorar los clasificadores y diseñar entornos más seguros.
El trabajo combina investigación e ingeniería de producción:
El problema de investigación consiste en crear clasificadores de alta recuperación y alta precisión para detectar comportamientos raros, novedosos y, a veces, adversarios. También hay varias preguntas de investigación específicas que responder; por ejemplo, cómo desplegar clasificadores de seguridad dentro de los entornos de entrenamiento sin incentivar a los modelos a evadirlos. Parte de la investigación también se basa en los diseños multietapa descritos en nuestro trabajo sobre el modo automático de Claude Code y los Constitutional Classifiers.
El problema de ingeniería consiste en integrar estos clasificadores en la ruta crítica del trabajo de investigación y de producto. Estos clasificadores deben cubrir un enorme volumen de tráfico operando dentro de restricciones de coste, latencia y disponibilidad.
En el día a día, gran parte de nuestro trabajo se realiza con Claude: dirigirás a los agentes para ejecutar experimentos y publicar código, y revisarás lo que producen. Eso desplaza la parte difícil del trabajo hacia decidir qué hacer y en qué orden. Además, las habilidades de organización, comunicación y priorización son muy importantes, ya que nuestros clasificadores se encuentran en la ruta de trabajo de muchos otros equipos.
Creemos que la investigación de IA de mayor impacto será la gran ciencia. En Anthropic trabajamos como un único equipo cohesionado en solo unos pocos esfuerzos de investigación a gran escala. Y valoramos el impacto (avanzar en nuestros objetivos a largo plazo de una IA controlable y fiable) en lugar de trabajar en rompecabezas más pequeños y específicos. Vemos la investigación de IA como una ciencia empírica, que tiene tanto en común con la física y la biología como con los esfuerzos tradicionales en informática. Somos un grupo extremadamente colaborativo y organizamos frecuentes debates de investigación para garantizar que estamos realizando el trabajo de mayor impacto en cada momento. Como tal, valoramos mucho las habilidades de comunicación.
La forma más fácil de entender nuestras direcciones de investigación es leer nuestra investigación reciente. Esta investigación continúa muchas de las direcciones en las que nuestro equipo trabajó antes de Anthropic, incluyendo: GPT-3, Interpretabilidad basada en circuitos, Neuronas multimodales, Leyes de escala, IA y computación, Problemas concretos en la seguridad de la IA y Aprendizaje de las preferencias humanas.
¡Venga a trabajar con nosotros!
Anthropic es una corporación de beneficio público con sede en San Francisco. Ofrecemos una compensación y beneficios competitivos, donaciones opcionales de capital (equity) a juego, generosas vacaciones y permiso parental, horarios de trabajo flexibles y un espacio de oficina encantador en el que colaborar con los colegas. Orientación sobre el uso de IA por parte de los candidatos: Conozca nuestra política para el uso de IA en nuestro proceso de solicitud.
El rango de compensación anual para este puesto se indica a continuación.
Para los puestos de ventas, el rango proporcionado es el rango de Ingresos Objetivo ("OTE") del puesto, lo que significa que el rango incluye tanto el objetivo de comisiones/bonos de ventas como el salario base anual para el puesto.
Salario anual: £1—£1 GBP
Para puestos que realizan trabajo en California: Consideraremos para el empleo a todos los solicitantes cualificados, incluidos aquellos con antecedentes de arresto o condena o historiales penales, de una manera coherente con los requisitos de las leyes estatales y locales aplicables, incluida la Ordenanza de Oportunidades Justas de San Francisco, la Iniciativa de Oportunidades Justas para la Contratación de la Ciudad de Los Ángeles, la Ordenanza de Oportunidades Justas para Empleadores del Condado de Los Ángeles y la Ley de Oportunidades Justas de California.
Le animamos a presentar su solicitud incluso si no cree que cumple con todos y cada uno de los requisitos. No todos los candidatos fuertes cumplirán con todos los requisitos enumerados. Las investigaciones muestran que las personas que se identifican como pertenecientes a grupos subrepresentados son más propensas a experimentar el síndrome del impostor y a dudar de la solidez de su candidatura, por lo que le instamos a no excluirse prematuramente y a enviar una solicitud si le interesa este trabajo. Creemos que los sistemas de IA como los que estamos construyendo tienen enormes implicaciones sociales y éticas. Creemos que esto hace que la representación sea aún más importante, y nos esforzamos por incluir una variedad de perspectivas diversas en nuestro equipo.
Su seguridad nos importa. Para protegerse de posibles estafas, recuerde que los reclutadores de Anthropic solo le contactarán desde direcciones de correo electrónico @anthropic.com. En algunos casos, podemos asociarnos con agencias de contratación verificadas que se identificarán como trabajando en nombre de Anthropic. Tenga cuidado con los correos electrónicos de otros dominios. Los reclutadores legítimos de Anthropic nunca le pedirán dinero, tarifas o información bancaria antes de su primer día. Si alguna vez no está seguro acerca de una comunicación, no haga clic en ningún enlace; visite anthropic.com/careers directamente para ver las vacantes confirmadas.
Plataforma de reclutamiento inverso para programadores