États-Unis
The MITRE Corporation
Propio
Ingénieur Sécurité IA/LLM
États-Unis
Leawood, Kansas, United States
Python
Traduction automatique. Consultez l’original.
Description
Ingénieur Sécurité IA/LLM
Prenez en main votre impact. Chez Propio, nous ne croyons pas que les carrières arrivent aux gens. Nous croyons que les gens les créent.
Ici, vous avez la confiance nécessaire pour prendre des décisions, remettre en question les hypothèses, stimuler l'innovation et façonner les résultats. Votre succès n'est pas limité par la hiérarchie ou l'ancienneté. Il est alimenté par votre ambition, votre curiosité et votre volonté de prendre en main votre impact. Si vous recherchez un rôle où vous pouvez simplement maintenir le statu quo, ce n'est probablement pas pour vous, mais si vous recherchez un endroit où vos idées comptent, votre croissance est accélérée et votre travail a un impact significatif dans le monde entier, nous serions ravis d'en discuter.
Pourquoi Propio ?
Chaque jour, la communication change des vies. Un patient reçoit des soins auxquels il ne pourrait pas accéder autrement. Une famille obtient des informations cruciales. Une entreprise se connecte avec un client. Une communauté devient plus inclusive. Ces moments se produisent parce que les barrières sont levées. Et derrière ces moments se trouvent des membres de l'équipe Propio qui se présentent chaque jour pour résoudre des problèmes, innover et construire l'avenir. Ce n'est pas juste du travail. C'est un impact mondial.
En tant qu'Ingénieur Sécurité IA/LLM, vous aurez l'opportunité de contribuer de manière significative à la croissance et à la transformation continues de Propio.
Ce qui rend quelqu'un performant ici
Les personnes les plus performantes chez Propio ne sont pas nécessairement celles qui ont le plus long CV. Ce sont les personnes qui :
- Prennent en charge au lieu d'attendre des directives.
- Accueillent les défis comme des opportunités de croissance.
- Cherchent continuellement de meilleures façons de travailler.
- Transforment les idées en actions.
- Se tiennent responsables, ainsi que les autres, de normes élevées.
- Sont motivées par la création d'un impact mesurable.
Vous serez habilité à :
- Prendre en charge des initiatives et des résultats importants.
- Générer des résultats commerciaux significatifs.
- Influencer les décisions et apporter de nouvelles idées.
- Collaborer avec des membres d'équipe talentueux et performants.
- Vous mettre au défi par l'apprentissage et la croissance continus.
- Contribuer à façonner l'avenir d'une organisation en croissance rapide.
Ce dont vous serez responsable
L'Ingénieur Sécurité IA/LLM rejoindra notre équipe IA et prendra en charge la sécurité de nos modèles et agents en production ; avec un accent sur la Sécurité IA, la Confiance & Sécurité et l'IA Responsable. Vous concevrez les évaluations qui détectent les comportements dangereux, construirez les garde-fous qui les arrêtent, et dirigerez le red-teaming qui trouve les failles avant nos utilisateurs — ou les attaquants. La sécurité des agents est la priorité de ce rôle : vous aiderez à garantir qu'à mesure que nos systèmes acquièrent la capacité d'appeler des outils et d'agir, ils le font dans des limites bien définies et bien testées.
Évaluation de la sécurité et Red Teaming des LLM
- Concevoir et maintenir un cadre d'évaluation de la sécurité — ensembles de prompts adversaires, suites de tests basées sur des scénarios et suites de régression — afin que chaque mise à jour de modèle et d'agent soit validée avant son expédition.
- Mener des exercices de red-teaming structurés couvrant les jailbreaks, l'injection de prompts, la mauvaise utilisation des outils et l'exfiltration de données ; documenter les conclusions et suivre chaque problème jusqu'à sa résolution et sa clôture.
Garde-fous et Contrôles d'exécution
- Construire et itérer sur la logique des garde-fous, y compris le filtrage des entrées/sorties, les contraintes de limites d'outils, la validation des actions, la suppression des données sensibles et le prompting de politiques.
- Intégrer des vérifications de sécurité dans la CI/CD et l'exécution afin que les comportements dangereux soient interceptés avant d'atteindre les utilisateurs.
Sécurité des Agents (focus principal de ce rôle)
- Effectuer la modélisation des menaces pour les scénarios d'agents : limites d'appels d'outils, isolation sandbox et accès au moindre privilège, avec une attention particulière à la prévention de l'exfiltration de données par les agents ou de l'exécution d'actions irréversibles par des appels d'outils chaînés.
- Mener des revues de sécurité des environnements d'apprentissage par renforcement (RL) et des données de trajectoire, en partenariat avec les équipes d'ingénierie d'environnement et d'agents pour intégrer des contraintes de sécurité directement dans les environnements eux-mêmes.
Surveillance et Observabilité
- Instrumenter les fonctionnalités IA pour la sécurité avec une journalisation structurée, un traçage et des métriques, permettant la détection de modèles dangereux et de régressions en production.
Gouvernance et Collaboration
- Préparer des preuves pour les revues de gouvernance — rapports de tests, résumés d'évaluations et validation des mesures d'atténuation — alignés sur les normes internes d'IA Responsable.
- Collaborer avec le Produit et l'UX pour améliorer les interactions de sécurité (avertissements, confirmations, messages de refus et collecte de commentaires), et aligner les objectifs d'évaluation avec les équipes de Recherche et de Données.
Exigences
Ce que vous apporterez
Qualifications requises
- Diplôme de licence ou de master en informatique, ingénierie logicielle, cybersécurité, ou un domaine technique connexe — ou expérience pratique équivalente.
- 4+ années de développement de logiciels en production, avec une expérience directe dans le travail sur — ou la sécurisation — de systèmes ML/LLM.
- Solides compétences en ingénierie logicielle avec la capacité d'écrire du code de qualité production (principalement Python), au-delà du scripting ou du prototypage dans des notebooks.
- Compréhension solide des LLMs et du ML : comment fonctionnent les modèles, l'ingénierie des prompts, et les implications de sécurité du fine-tuning et du RAG (par exemple, récupération non sécurisée, mauvaise utilisation des outils et exfiltration de données).
- Un état d'esprit axé sur la sécurité avec une capacité démontrée de modélisation des menaces ; capable de modéliser les menaces des flux de travail IA et familier avec les fondamentaux du contrôle d'accès, de la rétention des données et de la réponse aux incidents.
- Familiarité avec la surface d'attaque des LLM — injection de prompts, jailbreaks, empoisonnement des données et risque de chaîne d'approvisionnement — et connaissance pratique des OWASP LLM Top 10.
- Expérience pratique d'au moins une des évaluations de sécurité ou du red teaming, avec la capacité de décrire une découverte réelle et comment elle a été corrigée.
Qualifications préférées
- Expérience pratique avec des outils de sécurité de l'industrie tels que garak, PyRIT, promptfoo, Giskard et NeMo Guardrails, et la capacité d'articuler les compromis entre eux.
- Contributions visibles dans le domaine de la sécurité IA ou de la sécurité : publications dans des conférences pertinentes (par exemple, le NeurIPS AI Safety Workshop, USENIX Security, ou DEF CON AI Village), contributions open-source, ou divulgations responsables sur des modèles de pointe avec des articles publics.
- Familiarité avec les cadres de gouvernance et de conformité IA (NIST AI RMF, ISO/IEC 42001, EU AI Act) et la capacité de traduire les exigences de conformité en tâches d'ingénierie concrètes.
- Expérience en ingénierie avec des agents, des environnements RL et/ou l'utilisation d'outils.
- Expérience pratique des méthodologies de modélisation des menaces telles que MITRE ATLAS et STRIDE/PASTA.
Même si votre expérience ne correspond pas parfaitement à toutes les qualifications, nous vous encourageons à postuler. Nous recherchons le potentiel, la motivation et un engagement envers la croissance autant que l'expérience.
Chez Propio, votre travail ne fait pas seulement avancer une entreprise. Il aide à connecter les gens, les communautés et les opportunités dans le monde entier. Prêt à construire quelque chose de plus grand ? Postulez dès aujourd'hui et découvrez ce qui se passe lorsque vous prenez en main votre succès.
Ce que vous gagnerez
- Prenez en main votre croissance : Nous investissons dans les personnes qui s'investissent elles-mêmes. Vous aurez des opportunités d'apprendre, de développer et d'élargir vos capacités tout en construisant une carrière significative.
- Prenez en main votre impact : Vous verrez le lien entre votre travail et notre succès. Nous croyons que les personnes exceptionnelles méritent l'opportunité de faire une réelle différence.
- Prenez en main votre innovation : Les meilleures idées peuvent venir de n'importe où. Nous encourageons la curiosité, la créativité et la remise en question des méthodes traditionnelles.
- Prenez en main votre succès : Que vous développiez une expertise, poursuiviez des opportunités de leadership ou élargissiez votre parcours professionnel, nous vous donnerons de l'espace pour grandir et le soutien nécessaire pour y parvenir.
Plus d’opportunités avec un seul profil
Vous souhaitez accéder à plus de postes sans répéter tout le processus ? Créez votre profil pour être trouvé par les entreprises utilisant Nort.
Créer mon profil