Estados Unidos
Redwood Materials
Lila Sciences
Staff / Ingeniero Principal de Investigación, Mitigaciones de Seguridad de IA
Estados Unidos
London, England, United Kingdom · San Francisco, California, United States · Cambridge, Massachusetts, United States
Traducción automática. Consulta el original.
Tu Impacto en LILA
Estamos construyendo un equipo de seguridad de IA denso en talento y de alta agencia en Lila que colaborará con todos los equipos centrales de la organización (ciencia, entrenamiento de modelos, integración de laboratorios, etc.), para identificar y mitigar los riesgos de la superinteligencia científica, al tiempo que se retienen las capacidades centrales de descubrimiento científico de la pila. El enfoque inicial de este equipo será construir e implementar una estrategia de seguridad a medida para Lila, adaptada a sus objetivos específicos y estrategias de implementación. Esto implicará el desarrollo de estrategias técnicas de seguridad, una mayor participación en el ecosistema, evaluaciones centradas en la seguridad, sistemas de seguridad para mitigar riesgos y una agenda de investigación que explore las necesidades a más largo plazo, como la supervisión de sistemas científicos superinteligentes.
En Lila Sciences, desarrollarás y probarás salvaguardias que reduzcan los riesgos sociales de la IA científica cada vez más capaz en bucle cerrado. Este es un rol de contribuidor individual de alta prioridad para un ingeniero que ha construido intervenciones de seguridad en el desarrollo y despliegue de modelos de vanguardia y desea aplicar esa experiencia a modelos científicos, agentes, herramientas y flujos de trabajo conectados a laboratorios.
Trabajarás con científicos de dominio, investigadores de riesgos, evaluadores y equipos de ingeniería para convertir los hallazgos de riesgos y los requisitos de políticas en intervenciones efectivas. El trabajo abarca investigación e implementación: desarrollar enfoques, probar sus límites y ayudar a integrar salvaguardias fiables en los sistemas donde son necesarias. Estamos abiertos a diferentes niveles de antigüedad y profundidad en los enfoques de mitigación.
Lo que construirás
- Traducir evaluaciones de riesgos científicos, límites de políticas de doble uso y hallazgos de evaluación en diseños de mitigación concretos y requisitos comprobables.
- Desarrollar e implementar salvaguardias adecuadas al problema, que abarquen potencialmente el entrenamiento de modelos, clasificadores, monitorización, controles de acceso e intervenciones en tiempo de ejecución.
- Construir experimentos que midan la reducción de riesgos, la robustez y los efectos en el uso científico legítimo, junto con las restricciones de rendimiento prácticas.
- Utilizar hallazgos adversarios y fallos observados para mejorar las salvaguardias, trabajando en estrecha colaboración con investigadores de seguridad automatizada y evaluación científica.
- Trabajar directamente con los equipos de entrenamiento de modelos, post-entrenamiento, inferencia y plataforma para integrar las mitigaciones en el desarrollo de modelos, la evaluación de lanzamientos y los sistemas de servicio a gran escala, con la instrumentación adecuada y pruebas reproducibles.
- Investigar regresiones, cambios de distribución y patrones de uso indebido emergentes, y utilizar la evidencia para guiar el desarrollo futuro.
Lo que necesitarás para tener éxito
- Experiencia práctica en el desarrollo y validación de intervenciones de seguridad para modelos de vanguardia dentro de sistemas de entrenamiento, post-entrenamiento o inferencia a gran escala, con contribuciones a los ciclos de desarrollo o lanzamiento de modelos.
- Profundidad en al menos un área relevante, como post-entrenamiento de seguridad, clasificadores a nivel de modelo, salvaguardias integradas en la inferencia, o monitorización y aplicación de abusos en una plataforma de servicio de modelos.
- Experiencia trabajando directamente con equipos de desarrollo de modelos o de salvaguardias, utilizando el acceso apropiado a la intervención —como canalizaciones de entrenamiento, internos del modelo, infraestructura de inferencia o acceso a evaluación sistemática— para investigar fallos e implementar mejoras.
- Sólidas habilidades de investigación e ingeniería y la capacidad de pasar de un problema ambiguo a implementaciones funcionales y mantenibles.
- Buen juicio experimental, incluida la capacidad de evaluar la robustez, interpretar métricas imperfectas y razonar sobre objetivos contrapuestos.
- La capacidad de colaborar entre equipos de investigación e ingeniería, explicar las compensaciones técnicas y asumir la propiedad de contribuciones individuales complejas.
Puntos extra para
- Experiencia con modelos científicos, software científico o sistemas conectados a laboratorios.
- Trabajo de seguridad que involucre agentes que utilizan herramientas, flujos de trabajo de varios pasos o uso indebido de altas consecuencias.
- Experiencia en la conexión de evidencia generada por expertos y requisitos de políticas con datos de entrenamiento, criterios de evaluación o controles operativos.
Compensación
Ofrecemos una compensación base competitiva con potencial de bonificación y una generosa participación en la empresa en etapa temprana. Tu oferta final reflejará tu experiencia, conocimientos e impacto esperado.
Beneficios en EE. UU. Los empleados a tiempo completo en EE. UU. reciben un programa integral de beneficios que incluye cobertura médica, dental y de visión; seguro de vida y discapacidad pagado por el empleador; tiempo libre flexible con generosos días festivos en toda la empresa; licencia parental remunerada; un programa de asistencia educativa; beneficios de transporte, que incluyen membresías de uso compartido de bicicletas para empleados en la oficina; y un programa de almuerzo subvencionado por la empresa.
Beneficios Internacionales. Los empleados a tiempo completo fuera de EE. UU. reciben un programa integral de beneficios adaptado a su región. Los rangos salariales de USD se aplican solo a puestos basados en EE. UU.; los salarios internacionales se establecen según el mercado local.
Rango Salarial Base Esperado
$224,000—$336,000 USD
Estamos totalmente comprometidos
Lila Sciences se compromete con la igualdad de oportunidades de empleo, independientemente de la raza, el color, el origen nacional, la religión, el sexo, el origen nacional, la orientación sexual, la edad, la ciudadanía, el estado civil, la discapacidad, la identidad de género o el estado de veterano.
La información que proporciones durante tu proceso de solicitud se gestionará de acuerdo con nuestra Política de Privacidad de Candidatos.
Una nota para las agencias
Lila Sciences no acepta currículums no solicitados de ninguna fuente que no sean candidatos. La presentación de currículums no solicitados por parte de agencias de contratación o selección a Lila Sciences o sus empleados está estrictamente prohibida, a menos que el equipo de Adquisición de Talento interno de Lila Science se ponga en contacto directo. Cualquier currículum presentado por una agencia en ausencia de un acuerdo firmado se convertirá automáticamente en propiedad de Lila Sciences, y Lila Sciences no deberá ninguna tarifa de referencia ni otra tarifa con respecto a ello.
Sobre LILA
Lila Sciences está construyendo Superinteligencia Científica™ para resolver los mayores desafíos de la humanidad. Creemos que la ciencia es la frontera más inspiradora para la IA. En lugar de codificar el conocimiento experto en herramientas, LILA construye sistemas que pueden aprender por sí mismos.
LILA combina modelos avanzados de IA con instrumentos patentados de AI Science Factory™ en un sistema operativo para la ciencia que ejecuta todo el método científico de forma autónoma, acelerando el descubrimiento a una velocidad, escala e impacto sin precedentes en medicina, materiales y energía. Obtén más información en lila.ai.
Guiados por nuestros valores fundamentales de verdad, confianza, curiosidad, determinación y velocidad, nos movemos a la velocidad de una startup mientras abordamos problemas de importancia histórica. Si este suena como un entorno en el que te encantaría trabajar, incluso si no cumples con todos los requisitos enumerados anteriormente, te animamos a postularte.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil