États-Unis
Redwood Materials
Lila Sciences
Staff / Ingénieur.e de Recherche Principal.e, Atténuation de la Sécurité IA
États-Unis
London, England, United Kingdom · San Francisco, California, United States · Cambridge, Massachusetts, United States
Traduction automatique. Consultez l’original.
Votre Impact chez LILA
Nous construisons une équipe de sécurité IA talentueuse, autonome et à forte capacité d'action chez Lila, qui collaborera avec toutes les équipes principales de l'organisation (science, entraînement de modèles, intégration de laboratoires, etc.) pour identifier et atténuer les risques liés à la superintelligence scientifique, tout en conservant les capacités fondamentales de découverte scientifique de la pile technologique. L'objectif initial de cette équipe sera de construire et de mettre en œuvre une stratégie de sécurité sur mesure pour Lila, adaptée à ses objectifs spécifiques et à ses stratégies de déploiement. Cela impliquera le développement d'une stratégie technique de sécurité, un engagement plus large au sein de l'écosystème, des évaluations axées sur la sécurité, des systèmes de sécurité pour atténuer les risques et un programme de recherche explorant les besoins à plus long terme tels que la supervision des systèmes scientifiques superintelligents.
Chez Lila Sciences, vous développerez et testerez des mesures de sécurité qui réduisent les risques sociétaux liés à des IA scientifiques de plus en plus capables en boucle fermée. Il s'agit d'un rôle de contributeur individuel de haute priorité pour un ingénieur qui a mis en place des interventions de sécurité lors du développement et du déploiement de modèles de pointe et qui souhaite appliquer cette expérience aux modèles scientifiques, aux agents, aux outils et aux flux de travail connectés aux laboratoires.
Vous travaillerez avec des scientifiques spécialisés, des chercheurs en risques, des évaluateurs et des équipes d'ingénierie pour transformer les conclusions sur les risques et les exigences politiques en interventions efficaces. Le travail couvre la recherche et la mise en œuvre : développement d'approches, test de leurs limites et aide à l'intégration de mesures de sécurité fiables dans les systèmes où elles sont nécessaires. Nous sommes ouverts à différents niveaux de séniorité et de profondeur dans les approches d'atténuation.
Ce que vous allez construire
- Traduire les évaluations des risques scientifiques, les limites des politiques à double usage et les conclusions des évaluations en conceptions d'atténuation concrètes et en exigences testables.
- Développer et mettre en œuvre des mesures de sécurité adaptées au problème, couvrant potentiellement l'entraînement des modèles, les classificateurs, la surveillance, les contrôles d'accès et les interventions d'exécution.
- Construire des expériences qui mesurent la réduction des risques, la robustesse et les effets sur l'utilisation scientifique légitime, ainsi que les contraintes de performance pratiques.
- Utiliser les conclusions adverses et les échecs observés pour améliorer les mesures de sécurité, en travaillant en étroite collaboration avec les chercheurs en sécurité automatisée et en évaluation scientifique.
- Travailler directement avec les équipes d'entraînement de modèles, de post-entraînement, d'inférence et de plateforme pour intégrer les mesures d'atténuation dans le développement des modèles, l'évaluation des versions et les systèmes de service à grande échelle, avec une instrumentation appropriée et des tests reproductibles.
- Enquêter sur les régressions, les changements de distribution et les nouveaux modes d'utilisation abusive, et utiliser les preuves pour guider le développement futur.
Ce dont vous aurez besoin pour réussir
- Expérience pratique du développement et de la validation d'interventions de sécurité pour des modèles de pointe dans des systèmes d'entraînement, de post-entraînement ou d'inférence à grande échelle, avec des contributions aux cycles de développement ou de publication de modèles.
- Expertise approfondie dans au moins un domaine pertinent, tel que la sécurité post-entraînement, les classificateurs au niveau du modèle, les mesures de sécurité intégrées à l'inférence, ou la surveillance et l'application des abus sur une plateforme de service de modèles.
- Expérience de travail direct avec les équipes de développement de modèles ou de mesures de sécurité, en utilisant un accès approprié à l'intervention — tel que les pipelines d'entraînement, les internes du modèle, l'infrastructure d'inférence ou l'accès à l'évaluation systématique — pour enquêter sur les échecs et mettre en œuvre des améliorations.
- Solides compétences en recherche et en ingénierie, et capacité à passer d'un problème ambigu à des implémentations fonctionnelles et maintenables.
- Bon jugement expérimental, y compris la capacité d'évaluer la robustesse, d'interpréter des métriques imparfaites et de raisonner sur des objectifs concurrents.
- Capacité à collaborer avec des équipes de recherche et d'ingénierie, à expliquer les compromis techniques et à prendre en charge des contributions individuelles complexes.
Points bonus pour
- Expérience avec des modèles scientifiques, des logiciels scientifiques ou des systèmes connectés à des laboratoires.
- Travail de sécurité impliquant des agents utilisant des outils, des flux de travail en plusieurs étapes ou une utilisation abusive à forte conséquence.
- Expérience de la connexion de preuves générées par des experts et d'exigences politiques aux données d'entraînement, aux critères d'évaluation ou aux contrôles opérationnels.
Rémunération
Nous offrons une rémunération de base compétitive avec un potentiel de bonus et des actions de premier stade généreuses. Votre offre finale reflétera votre parcours, votre expertise et l'impact attendu.
Avantages sociaux aux États-Unis. Les employés américains à temps plein bénéficient d'un programme complet d'avantages sociaux comprenant une couverture médicale, dentaire et visuelle ; une assurance vie et invalidité payée par l'employeur ; des congés flexibles avec des jours fériés généreux pour toute l'entreprise ; un congé parental payé ; un programme d'aide à l'éducation ; des avantages de transport, y compris des adhésions à des services de vélos partagés pour les employés basés au bureau ; et un programme de déjeuner subventionné par l'entreprise.
Avantages sociaux internationaux. Les employés à temps plein hors des États-Unis bénéficient d'un programme complet d'avantages sociaux adapté à leur région. Les fourchettes de salaires en USD s'appliquent uniquement aux postes basés aux États-Unis ; les salaires internationaux sont fixés en fonction du marché local.
Fourchette de salaire de base attendue
$224,000—$336,000 USD
Nous sommes tous engagés
Lila Sciences s'engage à l'égalité des chances en matière d'emploi, indépendamment de la race, de la couleur, de l'ascendance, de la religion, du sexe, de l'origine nationale, de l'orientation sexuelle, de l'âge, de la citoyenneté, de l'état civil, du handicap, de l'identité de genre ou du statut d'ancien combattant.
Les informations que vous fournissez lors de votre processus de candidature seront traitées conformément à notre Politique de confidentialité des candidats.
Une note aux agences
Lila Sciences n'accepte pas les CV non sollicités provenant d'une source autre que les candidats. La soumission de CV non sollicités par des agences de recrutement ou de placement à Lila Sciences ou à ses employés est strictement interdite, sauf contact direct de l'équipe d'acquisition de talents interne de Lila Science. Tout CV soumis par une agence en l'absence d'un accord signé deviendra automatiquement la propriété de Lila Sciences, et Lila Sciences ne devra aucun frais de référence ou autre à cet égard.
À propos de LILA
Lila Sciences construit la Superintelligence Scientifique™ pour résoudre les plus grands défis de l'humanité. Nous pensons que la science est la frontière la plus inspirante pour l'IA. Plutôt que d'intégrer des connaissances d'experts dans des outils, LILA construit des systèmes capables d'apprendre par eux-mêmes.
LILA combine des modèles d'IA avancés avec des instruments propriétaires de l'AI Science Factory™ dans un système d'exploitation pour la science qui exécute l'intégralité de la méthode scientifique de manière autonome, accélérant la découverte à une vitesse, une échelle et un impact sans précédent dans les domaines de la médecine, des matériaux et de l'énergie. En savoir plus sur lila.ai.
Guidés par nos valeurs fondamentales de vérité, confiance, curiosité, ténacité et vélocité, nous avançons à la vitesse d'une startup tout en abordant des problèmes d'importance historique. Si cela vous semble être un environnement dans lequel vous aimeriez travailler, même si vous ne remplissez pas toutes les qualifications énumérées ci-dessus, nous vous encourageons à postuler.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil