Sysco GB
Anthropic
La mission de Anthropic est de créer des systèmes d'IA fiables, interprétables et orientables. Nous voulons que l'IA soit sûre et bénéfique pour nos utilisateurs et pour la société dans son ensemble. Notre équipe est un groupe en pleine croissance composé de chercheurs, d'ingénieurs, d'experts en politiques et de dirigeants d'entreprise engagés, travaillant ensemble pour construire des systèmes d'IA bénéfiques.
Notre équipe construit, teste, déploie et surveille les classifieurs qui empêchent les agents internes d'entreprendre des actions dangereuses. Ces classifieurs fonctionnent dans le cadre de l'apprentissage par renforcement (RL), des évaluations et des déploiements internes, et sont conçus pour détecter des tentatives telles que l'évasion de bac à sable (sandbox) ou l'exfiltration de données sensibles.
Lorsqu'un classifieur signale une action, il peut bloquer celle-ci avant l'exécution de l'appel d'outil, mettre fin à la tâche et alerter un humain. Il s'agit d'une couche de défense en profondeur composée de plusieurs niveaux qui se renforcent mutuellement : ce que nos classifieurs signalent alimente la surveillance hors ligne, et les conclusions qui en découlent permettent d'améliorer les classifieurs et la conception d'environnements plus sûrs.
Le travail combine recherche et ingénierie de production :
Le défi de recherche consiste à construire des classifieurs à haut rappel et haute précision pour détecter des comportements rares, nouveaux et parfois contradictoires. Il existe également plusieurs questions de recherche spécifiques à résoudre, par exemple : comment déployer des classifieurs de sécurité dans des environnements d'entraînement sans inciter les modèles à les contourner. Certaines recherches s'appuient également sur les conceptions multi-étapes décrites dans nos travaux sur le mode automatique de Claude Code et les Constitutional Classifiers.
Le défi d'ingénierie consiste à intégrer ces classifieurs dans le chemin critique de la recherche et du développement produit. Ces classifieurs doivent couvrir un volume important de trafic tout en respectant des contraintes de coût, de latence et de disponibilité.
Au quotidien, une grande partie de notre travail est effectuée avec Claude : vous dirigerez des agents pour exécuter des expériences et déployer du code, et vous examinerez ce qu'ils produisent. Cela déplace la partie difficile du travail vers la prise de décision sur ce qu'il faut faire et dans quel ordre. De plus, les compétences en organisation, communication et priorisation sont essentielles, car nos classifieurs se situent sur le chemin critique du travail de nombreuses autres équipes.
Nous pensons que la recherche en IA ayant le plus grand impact sera une "big science". Chez Anthropic, nous travaillons en tant qu'équipe unique et cohérente sur quelques efforts de recherche à grande échelle. Et nous valorisons l'impact (faire progresser nos objectifs à long terme d'une IA orientable et digne de confiance) plutôt que le travail sur des problèmes plus petits et plus spécifiques. Nous considérons la recherche en IA comme une science empirique, qui a autant en commun avec la physique et la biologie qu'avec les efforts traditionnels en informatique. Nous sommes un groupe extrêmement collaboratif et nous organisons fréquemment des discussions de recherche pour nous assurer que nous poursuivons le travail ayant le plus grand impact à tout moment. À ce titre, nous accordons une grande importance aux compétences en communication.
Le moyen le plus simple de comprendre nos orientations de recherche est de lire nos travaux récents. Ces recherches poursuivent bon nombre des directions sur lesquelles notre équipe a travaillé avant Anthropic, notamment : GPT-3, l'interprétabilité basée sur les circuits, les neurones multimodaux, les lois d'échelle (scaling laws), l'IA et le calcul, les problèmes concrets de sécurité de l'IA et l'apprentissage à partir des préférences humaines.
Venez travailler avec nous !
Anthropic est une société d'intérêt public (public benefit corporation) dont le siège est à San Francisco. Nous offrons une rémunération et des avantages sociaux compétitifs, un don de contrepartie optionnel en actions, des congés généreux et un congé parental, des horaires de travail flexibles et un espace de bureau agréable pour collaborer avec vos collègues. Conseils sur l'utilisation de l'IA par les candidats : Découvrez notre politique concernant l'utilisation de l'IA dans notre processus de candidature.
La fourchette de rémunération annuelle pour ce poste est indiquée ci-dessous.
Pour les postes commerciaux, la fourchette fournie correspond à la rémunération cible (On Target Earnings ou "OTE"), ce qui signifie qu'elle inclut à la fois les commissions/primes sur objectifs de vente et le salaire de base annuel pour le poste.
Salaire annuel : £1—£1 GBP
Pour les postes basés en Californie : Nous examinerons pour l'emploi tous les candidats qualifiés, y compris ceux ayant des antécédents d'arrestation ou de condamnation ou des antécédents criminels, d'une manière conforme aux exigences des lois étatiques et locales applicables, y compris la San Francisco Fair Chance Ordinance, la City of Los Angeles’ Fair Chance Initiative for Hiring Ordinance, la Los Angeles County Fair Chance Ordinance for Employers et la California Fair Chance Act.
Nous vous encourageons à postuler même si vous pensez ne pas remplir toutes les qualifications. Tous les candidats solides ne rempliront pas chaque qualification telle qu'elle est listée. La recherche montre que les personnes s'identifiant comme issues de groupes sous-représentés sont plus sujettes au syndrome de l'imposteur et au doute quant à la force de leur candidature, c'est pourquoi nous vous exhortons à ne pas vous exclure prématurément et à soumettre une candidature si ce travail vous intéresse. Nous pensons que les systèmes d'IA comme ceux que nous construisons ont d'énormes implications sociales et éthiques. Nous pensons que cela rend la représentation encore plus importante, et nous nous efforçons d'inclure une gamme de perspectives diverses au sein de notre équipe.
Votre sécurité nous tient à cœur. Pour vous protéger contre les escroqueries potentielles, rappelez-vous que les recruteurs de Anthropic ne vous contactent qu'à partir d'adresses e-mail @anthropic.com. Dans certains cas, nous pouvons collaborer avec des agences de recrutement agréées qui s'identifieront comme travaillant au nom de Anthropic. Soyez prudent avec les e-mails provenant d'autres domaines. Les recruteurs légitimes de Anthropic ne vous demanderont jamais d'argent, de frais ou d'informations bancaires avant votre premier jour. Si vous avez un doute sur une communication, ne cliquez sur aucun lien : visitez directement anthropic.com/careers pour consulter les offres d'emploi confirmées.
Plateforme de recrutement inversé pour développeurs