États-Unis
Redwood Materials
Anthropic
Responsable de la conception des politiques, Intégrité et Authenticité
États-Unis
San Francisco, California, United States · Washington, District of Columbia, United States · New York, New York, United States
Traduction automatique. Consultez l’original.
À propos d'Anthropic
La mission d'Anthropic est de créer des systèmes d'IA fiables, interprétables et orientables. Nous voulons que l'IA soit sûre et bénéfique pour nos utilisateurs et pour la société dans son ensemble. Notre équipe est un groupe en croissance rapide de chercheurs, d'ingénieurs, d'experts en politiques et de chefs d'entreprise engagés qui travaillent ensemble pour construire des systèmes d'IA bénéfiques.
À propos du poste
En tant que Responsable des politiques d'intégrité et d'authenticité, vous serez responsable de l'élaboration, du perfectionnement et du maintien des politiques qui empêchent l'utilisation abusive des systèmes d'IA à des fins de tromperie, de manipulation et de surveillance non autorisée à grande échelle. Vous serez le propriétaire des politiques relatives aux risques liés au comportement inauthentique, aux activités d'influence, à la surveillance et au profilage des individus et des groupes, et vous contribuerez à façonner les cadres politiques dans plusieurs domaines, notamment l'authenticité, l'intégrité de l'information, ainsi que la vie privée et la surveillance.
Votre objectif initial sera de traduire le cadre de risque d'intégrité et d'authenticité en politiques claires et exécutoires, en veillant à ce que le langage des politiques aborde les menaces émergentes identifiées par les équipes partenaires, et en établissant des directives qui permettent des décisions d'application cohérentes. Bon nombre des préjudices les plus graves dans ce domaine commencent par des étapes en amont qui semblent routinières en elles-mêmes, comme la compilation de dossiers sur une personne, l'automatisation de la création de comptes ou le tri des utilisateurs par identité inférée. Une partie de votre travail consistera à définir où ces étapes deviennent interdites. Le rôle s'étendra à mesure que les capacités de l'IA progresseront. La sécurité est au cœur de notre mission. Vous contribuerez à garantir que nos produits ne puissent pas être utilisés pour tromper les gens à grande échelle, surveiller et profiler les gens sans leur connaissance ou leur consentement, ou trier et cibler des populations en fonction de caractéristiques sensibles.
Contexte important pour ce rôle : Dans ce poste, vous pourriez être exposé à du contenu explicite couvrant un éventail de sujets, y compris ceux de nature sexuelle, violente ou psychologiquement troublante, ainsi qu'à des descriptions détaillées de violations de la vie privée, d'abus de surveillance et de campagnes trompeuses ciblant des personnes vulnérables, et vous pourriez être amené à interagir avec ce contenu.
Ce qui nous différencie
Nous pensons que la recherche en IA ayant le plus grand impact sera de la grande science. Chez Anthropic, nous travaillons en équipe cohésive sur quelques efforts de recherche à grande échelle seulement. Et nous valorisons l'impact – faire progresser nos objectifs à long terme d'IA orientable et digne de confiance – plutôt que de travailler sur des énigmes plus petites et plus spécifiques. Nous considérons la recherche en IA comme une science empirique, qui a autant en commun avec la physique et la biologie qu'avec les efforts traditionnels en informatique. Nous sommes un groupe extrêmement collaboratif, et nous organisons des discussions de recherche fréquentes pour nous assurer que nous poursuivons le travail ayant le plus grand impact à tout moment. À ce titre, nous accordons une grande valeur aux compétences en communication.
La manière la plus simple de comprendre nos orientations de recherche est de lire nos recherches récentes. Ces recherches poursuivent plusieurs des orientations sur lesquelles notre équipe a travaillé avant Anthropic, notamment : GPT-3, Interprétabilité basée sur les circuits, Neurones multimodaux, Lois d'échelle, IA et calcul, Problèmes concrets en sécurité de l'IA, et Apprentissage à partir des préférences humaines.
Venez travailler avec nous !
Anthropic est une société d'intérêt public dont le siège est à San Francisco. Nous offrons une rémunération et des avantages sociaux compétitifs, une mise en correspondance optionnelle de dons d'actions, des congés de vacances et parentaux généreux, des horaires de travail flexibles et un bel espace de bureau pour collaborer avec des collègues. Directives sur l'utilisation de l'IA par les candidats : Apprenez notre politique d'utilisation de l'IA dans notre processus de candidature.
Responsabilités clés
- Développer et définir les limites politiques pour la surveillance secrète, le suivi et la surveillance dans différents contextes, en établissant la distinction entre les comportements malveillants et les scénarios d'utilisation double conformes
- Rédiger des directives politiques sur la reconnaissance faciale, le clonage vocal et l'inférence de géolocalisation, en spécifiant quelles utilisations nécessitent un consentement et lesquelles sont totalement interdites
- Cartographier le cycle de vie de la surveillance, de la sélection de la cible et de la collecte de données à l'analyse et au déploiement secret, et définir la ligne politique à chaque étape afin que des interventions puissent avoir lieu tôt dans la chaîne
- Concevoir et superviser des évaluations qui mesurent la capacité du modèle à soutenir la surveillance des médias sociaux, la recherche de personnes, le profilage prédictif, et l'identification ou le suivi de personnes spécifiques, afin de construire, développer et améliorer des mesures de protection avec des partenaires interfonctionnels pour prévenir les comportements malveillants
- Rédiger et affiner le langage de la politique d'utilisation destiné au public et développer des directives de formation, des grilles d'évaluation et des protocoles d'évaluation pour les équipes d'application, en mettant l'accent sur les indicateurs de surveillance secrète et de ciblage au niveau de la population
- Valider les décisions d'application et les évaluations automatisées, fournir des conseils politiques sur les cas limites complexes tels que la recherche investigative sur les outils de surveillance, coordonner avec la société civile, les experts en confidentialité, les chercheurs en renseignement sur les menaces et les universitaires, et servir de point d'escalade pour les cas complexes d'intégrité et de surveillance
Qualifications minimales
- Connaissance pratique du fonctionnement des campagnes trompeuses et de la surveillance secrète, y compris les réseaux de comptes, les opérations de bots, les pipelines d'agrégation de données et les méthodes d'attribution
- Familiarité avec les technologies de surveillance et leur utilisation abusive, y compris les outils de surveillance des médias sociaux, les services de recherche de personnes, le suivi de localisation, les logiciels espions, la reconnaissance faciale et les techniques de renseignement open source utilisées contre des individus
- Connaissance générale du paysage réglementaire mondial concernant la protection des données, la vie privée, la réglementation des plateformes et la responsabilité des services numériques
- Solides compétences en rédaction de politiques, avec la capacité de traduire des cadres de menaces complexes en directives claires et exécutoires
- Expérience dans la conception de politiques et de flux de travail qui permettent à la fois une prise de décision humaine claire et une mise en œuvre technique dans les classificateurs ML et les pipelines de détection
- Solides compétences en collaboration et expérience approfondie de partenariat avec les équipes d'ingénierie, de science des données, juridiques, de renseignement sur les menaces et de politique sur des initiatives interfonctionnelles
- Excellentes compétences en communication écrite et verbale, avec la capacité d'expliquer les tactiques trompeuses, les méthodes de surveillance et les justifications politiques à des publics divers, y compris des non-spécialistes et des décideurs politiques
Logistique
- Diplôme d'études supérieures minimum : Licence ou une combinaison équivalente d'éducation, de formation et/ou d'expérience
- Domaine d'études requis : Un domaine pertinent pour le poste, démontré par des cours, une formation ou une expérience professionnelle
- Années d'expérience minimum : Les années d'expérience requises correspondront aux exigences du niveau de poste interne pour le poste
Qualifications préférées
- 5+ années d'expérience dans le développement de politiques, la confiance et la sécurité, le renseignement sur les menaces ou l'intégrité des plateformes, avec un travail pratique sur le comportement inauthentique, les abus liés à la surveillance ou l'utilisation abusive des données
- Expérience en matière de politique de confidentialité, d'ingénierie de la confidentialité ou de travail sur la protection des données, y compris une familiarité avec les évaluations d'impact sur la vie privée et les principes de minimisation des données
- Expérience dans des rôles de renseignement, des opérations de surveillance alignées sur un État ou des campagnes de collecte de données secrètes
- Expérience dans l'enquête sur les réseaux inauthentiques, la surveillance secrète ou les abus de surveillance au sein d'une plateforme, d'une organisation de recherche ou d'un organisme gouvernemental
- Expérience en criminalistique numérique, en renseignement open source ou en attribution de menaces
- Connaissance de la théorie de la persuasion, des biais cognitifs et des techniques de communication trompeuse, y compris les méthodes d'ingénierie sociale et de prétexte
- Familiarité avec les cadres des droits de l'homme et de la vie privée tels qu'ils s'appliquent à la surveillance, y compris les protections pour les journalistes, les militants et les communautés marginalisées
- Expérience des opérations de confiance et de sécurité impliquant l'évasion de la modération de contenu, la détection de bots ou l'application de la suppression de données de plateformes
- Expérience de travail avec les institutions de l'UE, les organismes de réglementation ou les organisations politiques sur la gouvernance de l'IA ou la réglementation des plateformes numériques
- Expérience dans la réalisation de tests contradictoires, de red teaming ou d'évaluations de vulnérabilité pour les systèmes ou plateformes d'IA, en particulier pour les utilisations abusives impliquant la surveillance ou le profilage
- Familiarité avec les capacités d'IA générative et compréhension de la manière dont les LLMs peuvent être utilisées pour des personas synthétiques, l'ingénierie sociale, le profilage prédictif ou la surveillance à grande échelle
La fourchette de rémunération annuelle pour ce poste est indiquée ci-dessous.
Pour les postes de vente, la fourchette indiquée est la fourchette de rémunération cible ("OTE") pour le poste, ce qui signifie que la fourchette comprend à la fois les commissions de vente/les primes de vente cibles et le salaire de base annuel pour le poste.
Salaire annuel : $245,000—$285,000 USD
- Politique hybride basée sur la localisation : Actuellement, nous nous attendons à ce que tout le personnel soit dans l'un de nos bureaux au moins 25% du temps. Cependant, certains postes peuvent nécessiter plus de temps dans nos bureaux.
- Sponsorship de visa : Nous sponsorisons des visas ! Cependant, nous ne sommes pas en mesure de sponsoriser des visas pour tous les postes et tous les candidats. Mais si nous vous faisons une offre, nous ferons tous les efforts raisonnables pour vous obtenir un visa, et nous faisons appel à un avocat spécialisé en immigration pour nous aider dans cette démarche.
Nous vous encourageons à postuler même si vous ne pensez pas remplir toutes les qualifications. Tous les candidats solides ne rempliront pas toutes les qualifications énumérées. La recherche montre que les personnes qui s'identifient comme appartenant à des groupes sous-représentés sont plus susceptibles d'éprouver le syndrome de l'imposteur et de douter de la force de leur candidature, nous vous exhortons donc à ne pas vous exclure prématurément et à soumettre une candidature si ce travail vous intéresse. Nous pensons que les systèmes d'IA comme ceux que nous construisons ont d'énormes implications sociales et éthiques. Nous pensons que cela rend la représentation encore plus importante, et nous nous efforçons d'inclure une gamme de perspectives diverses dans notre équipe.
Votre sécurité nous importe. Pour vous protéger contre d'éventuelles escroqueries, rappelez-vous que les recruteurs d'Anthropic vous contactent uniquement à partir d'adresses e-mail @anthropic.com. Dans certains cas, nous pouvons collaborer avec des agences de recrutement agréées qui s'identifieront comme travaillant pour le compte d'Anthropic. Méfiez-vous des e-mails provenant d'autres domaines. Les recruteurs légitimes d'Anthropic ne vous demanderont jamais d'argent, de frais ou d'informations bancaires avant votre premier jour. Si vous avez un doute sur une communication, ne cliquez sur aucun lien – visitez directement anthropic.com/careers pour connaître les offres de poste confirmées.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil