Estados Unidos
The MITRE Corporation
Propio
Ingeniero/a de Seguridad de IA/LLM
Estados Unidos
Leawood, Kansas, United States
Python
Traducción automática. Consulta el original.
Descripción
Ingeniero/a de Seguridad de IA/LLM
Haz tuya tu influencia. En Propio, no creemos que las carreras les sucedan a las personas. Creemos que las personas las crean.
Aquí, se confía en ti para tomar decisiones, cuestionar supuestos, impulsar la innovación y dar forma a los resultados. Tu éxito no está limitado por la jerarquía o la antigüedad. Está impulsado por tu ambición, tu curiosidad y tu voluntad de hacer tuya tu influencia. Si buscas un puesto en el que simplemente puedas mantener el status quo, probablemente este no sea el adecuado, pero si buscas un lugar donde tus ideas importen, tu crecimiento se acelere y tu trabajo genere un impacto significativo en todo el mundo, nos encantaría hablar contigo.
¿Por qué Propio?
Cada día, la comunicación cambia vidas. Un paciente recibe atención que de otro modo no podría acceder. Una familia obtiene información crítica. Una empresa se conecta con un cliente. Una comunidad se vuelve más inclusiva. Estos momentos ocurren porque se eliminan las barreras. Y detrás de esos momentos están los miembros del equipo de Propio que se presentan cada día para resolver problemas, innovar y construir el futuro. Esto no es solo trabajo. Es impacto mundial.
Como Ingeniero/a de Seguridad de IA/LLM, tendrás la oportunidad de hacer una contribución significativa al crecimiento y la transformación continuos de Propio.
Qué hace que alguien tenga éxito aquí
Las personas más exitosas en Propio no son necesariamente las que tienen los currículums más largos. Son las personas que:
- Asumen la responsabilidad en lugar de esperar instrucciones.
- Aceptan los desafíos como oportunidades para crecer.
- Buscan continuamente mejores formas de trabajar.
- Convierten las ideas en acción.
- Se exigen a sí mismos y a los demás altos estándares.
- Están impulsados por generar un impacto medible.
Tendrás la capacidad de:
- Asumir la responsabilidad de iniciativas y resultados importantes.
- Impulsar resultados empresariales significativos.
- Influir en las decisiones y aportar nuevas ideas.
- Colaborar con miembros del equipo talentosos y de alto rendimiento.
- Desafiarte a ti mismo/a a través del aprendizaje y el crecimiento continuos.
- Ayudar a dar forma al futuro de una organización en rápido crecimiento.
Lo que asumirás
El Ingeniero/a de Seguridad de IA/LLM se unirá a nuestro equipo de IA y asumirá la responsabilidad de la seguridad de nuestros modelos y agentes en producción; con un enfoque en Seguridad de IA, Confianza y Seguridad, e IA Responsable. Diseñarás las evaluaciones que detectan el comportamiento inseguro, construirás las barreras que lo detienen y liderarás las pruebas de adversario (red-teaming) que encuentran las brechas antes que nuestros usuarios, o atacantes. La seguridad de los agentes es el enfoque principal de este puesto: ayudarás a garantizar que, a medida que nuestros sistemas adquieran la capacidad de llamar a herramientas y tomar acciones, lo hagan dentro de límites bien definidos y probados.
Evaluación de Seguridad de IA/LLM y Red Teaming
- Diseñar y mantener un marco de evaluación de seguridad —conjuntos de prompts adversarios, suites de pruebas basadas en escenarios y suites de regresión— para que cada actualización de modelo y agente se valide antes de su envío.
- Liderar ejercicios estructurados de red-teaming que cubran jailbreaks, inyección de prompts, uso indebido de herramientas y exfiltración de datos; documentar hallazgos e impulsar cada problema hasta su remediación y cierre.
Barreras y Controles en Tiempo de Ejecución
- Construir e iterar sobre la lógica de barreras, incluyendo filtrado de entrada/salida, restricciones de límites de herramientas, validación de acciones, redacción de datos sensibles y prompts de políticas.
- Integrar comprobaciones de seguridad en CI/CD y en tiempo de ejecución para que el comportamiento inseguro se intercepte antes de que llegue a los usuarios.
Seguridad de Agentes (enfoque principal de este puesto)
- Realizar modelado de amenazas para escenarios de agentes: límites de llamadas a herramientas, aislamiento de sandbox y acceso de mínimo privilegio, con especial atención a la prevención de que los agentes exfiltren datos o ejecuten acciones irreversibles a través de llamadas a herramientas encadenadas.
- Realizar revisiones de seguridad de entornos de aprendizaje por refuerzo (RL) y datos de trayectoria, colaborando con los equipos de ingeniería de entornos y agentes para integrar restricciones de seguridad directamente en los propios entornos.
Monitorización y Observabilidad
- Instrumentar funciones de IA para la seguridad con registro estructurado, trazabilidad y métricas, permitiendo la detección de patrones inseguros y regresiones en producción.
Gobernanza y Colaboración
- Preparar evidencia para revisiones de gobernanza —informes de pruebas, resúmenes de evaluación y validación de mitigaciones— alineada con los estándares internos de IA Responsable.
- Colaborar con Producto y UX para mejorar las interacciones de seguridad (advertencias, confirmaciones, mensajes de rechazo y recopilación de comentarios), y alinear los objetivos de evaluación con los equipos de Investigación y Datos.
Requisitos
Lo que aportarás
Cualificaciones Requeridas
- Título de Grado o Máster en Ciencias de la Computación, Ingeniería de Software, Ciberseguridad o un campo técnico relacionado, o experiencia práctica equivalente.
- 4+ años desarrollando software en producción, con experiencia directa trabajando en —o asegurando— sistemas de ML/LLM.
- Sólidas habilidades de ingeniería de software con la capacidad de escribir código de calidad de producción (principalmente Python), más allá de scripts o prototipos en notebooks.
- Comprensión sólida de LLMs e IA: cómo funcionan los modelos, ingeniería de prompts y las implicaciones de seguridad del ajuste fino y RAG (por ejemplo, recuperación insegura, uso indebido de herramientas y exfiltración de datos).
- Mentalidad de seguridad con capacidad demostrada de modelado de amenazas; capaz de modelar amenazas en flujos de trabajo de IA y familiarizado con los fundamentos del control de acceso, retención de datos y respuesta a incidentes.
- Familiaridad con la superficie de ataque de LLM —inyección de prompts, jailbreaks, envenenamiento de datos y riesgos en la cadena de suministro— y conocimiento práctico del OWASP LLM Top 10.
- Experiencia práctica con al menos una de las áreas de evaluación de seguridad o red-teaming, con la capacidad de describir un hallazgo real y cómo se remedió.
Cualificaciones Preferidas
- Experiencia práctica con herramientas de seguridad de la industria como garak, PyRIT, promptfoo, Giskard y NeMo Guardrails, y la capacidad de articular las ventajas y desventajas entre ellas.
- Resultados visibles en seguridad de IA o ciberseguridad: publicaciones en foros relevantes (por ejemplo, NeurIPS AI Safety Workshop, USENIX Security o DEF CON AI Village), contribuciones a código abierto o divulgaciones responsables en modelos de vanguardia con análisis públicos.
- Familiaridad con marcos de gobernanza y cumplimiento de IA (NIST AI RMF, ISO/IEC 42001, EU AI Act) y la capacidad de traducir los requisitos de cumplimiento en tareas de ingeniería concretas.
- Experiencia en ingeniería con agentes, entornos de RL y/o uso de herramientas.
- Experiencia práctica con metodologías de modelado de amenazas como MITRE ATLAS y STRIDE/PASTA.
Incluso si tu experiencia no coincide perfectamente con todas las cualificaciones, te animamos a que te presentes. Buscamos potencial, impulso y un compromiso con el crecimiento tanto como experiencia.
En Propio, tu trabajo no solo impulsa una empresa hacia adelante. Ayuda a conectar personas, comunidades y oportunidades en todo el mundo. ¿Listo/a para construir algo más grande? ¡Postúlate hoy y descubre qué sucede cuando haces tuyo tu éxito!
Lo que obtendrás
- Haz tuya tu Crecimiento: Invertimos en personas que se invierten a sí mismas. Tendrás oportunidades de aprender, desarrollarte y expandir tus capacidades mientras construyes una carrera significativa.
- Haz tuya tu Influencia: Verás la conexión entre tu trabajo y nuestro éxito. Creemos que las grandes personas merecen la oportunidad de marcar una diferencia real.
- Haz tuya tu Innovación: Las mejores ideas pueden venir de cualquier parte. Fomentamos la curiosidad, la creatividad y el desafío a la forma en que siempre se han hecho las cosas.
- Haz tuya tu Éxito: Ya sea que estés desarrollando experiencia, persiguiendo oportunidades de liderazgo o expandiendo tu trayectoria profesional, te daremos espacio para crecer y el apoyo para llegar allí.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil