Estados Unidos
Redwood Materials
Anthropic
Gerente de Diseño de Políticas, Integridad y Autenticidad
Estados Unidos
San Francisco, California, United States · Washington, District of Columbia, United States · New York, New York, United States
Traducción automática. Consulta el original.
Acerca de Anthropic
La misión de Anthropic es crear sistemas de IA fiables, interpretables y dirigibles. Queremos que la IA sea segura y beneficiosa para nuestros usuarios y para la sociedad en su conjunto. Nuestro equipo es un grupo en rápido crecimiento de investigadores, ingenieros, expertos en políticas y líderes empresariales comprometidos que trabajan juntos para construir sistemas de IA beneficiosos.
Sobre el puesto
Como Gerente de Políticas de Integridad y Autenticidad, serás responsable de desarrollar, refinar y mantener políticas que prevengan el uso indebido de sistemas de IA para engaño, manipulación y monitorización no autorizada a escala. Serás el propietario de la política para los riesgos relacionados con el comportamiento inauténtico, la actividad de influencia, la vigilancia y la elaboración de perfiles de individuos y grupos, y ayudarás a dar forma a los marcos de políticas en varias áreas, incluyendo la autenticidad, la integridad de la información y la privacidad y la vigilancia.
Tu enfoque inicial será traducir el marco de riesgos de Integridad y Autenticidad en políticas claras y aplicables, asegurando que el lenguaje de la política aborde las amenazas emergentes identificadas por los equipos asociados y estableciendo directrices que permitan decisiones de aplicación coherentes. Muchos de los daños más graves en este ámbito comienzan con pasos iniciales que parecen rutinarios por sí solos, como la compilación de registros sobre una persona, la automatización de la creación de cuentas o la clasificación de usuarios por identidad inferida. Parte de tu trabajo será definir dónde esos pasos se vuelven prohibidos. El puesto se ampliará a medida que avancen las capacidades de la IA. La seguridad es fundamental para nuestra misión. Ayudarás a garantizar que nuestros productos no puedan utilizarse para engañar a las personas a escala, monitorizar y perfilar a las personas sin su conocimiento o consentimiento, o clasificar y dirigir a poblaciones basándose en características sensibles.
Contexto importante para este puesto: En esta posición, es posible que estés expuesto y te relaciones con contenido explícito que abarca una variedad de temas, incluidos aquellos de naturaleza sexual, violenta o psicológicamente perturbadora, así como descripciones detalladas de violaciones de la privacidad, abusos de vigilancia y campañas engañosas dirigidas a personas vulnerables.
Cómo somos diferentes
Creemos que la investigación de IA de mayor impacto será "big science". En Anthropic trabajamos como un único equipo cohesionado en solo unos pocos esfuerzos de investigación a gran escala. Y valoramos el impacto —avanzar en nuestros objetivos a largo plazo de IA dirigible y confiable— en lugar de trabajar en rompecabezas más pequeños y específicos. Vemos la investigación de IA como una ciencia empírica, que tiene tanto en común con la física y la biología como con los esfuerzos tradicionales en informática. Somos un grupo extremadamente colaborativo y organizamos frecuentes discusiones de investigación para asegurar que estamos persiguiendo el trabajo de mayor impacto en cualquier momento dado. Como tal, valoramos enormemente las habilidades de comunicación.
La forma más fácil de entender nuestras direcciones de investigación es leer nuestra investigación reciente. Esta investigación continúa muchas de las direcciones en las que nuestro equipo trabajó antes de Anthropic, incluyendo: GPT-3, Interpretabilidad Basada en Circuitos, Neuronas Multimodales, Leyes de Escalado, IA y Cómputo, Problemas Concretos en Seguridad de IA, y Aprendizaje a partir de Preferencias Humanas.
¡Ven a trabajar con nosotros!
Anthropic es una corporación de beneficio público con sede en San Francisco. Ofrecemos compensación y beneficios competitivos, igualación de donaciones de acciones opcionales, generosas vacaciones y permisos parentales, horarios de trabajo flexibles y un espacio de oficina encantador en el que colaborar con colegas. Directrices sobre el Uso de IA por parte de los Candidatos: Obtén información sobre nuestra política para usar IA en nuestro proceso de solicitud.
Responsabilidades clave
- Desarrollar y definir los límites de las políticas para la monitorización encubierta, el rastreo y la vigilancia en diferentes contextos, trazando la distinción entre comportamientos maliciosos y escenarios de doble uso que cumplen la normativa.
- Redactar directrices de políticas sobre reconocimiento facial, clonación de voz e inferencia de geolocalización, especificando qué usos requieren consentimiento y cuáles están prohibidos.
- Mapear el ciclo de vida de la vigilancia, desde la selección del objetivo y la recopilación de datos hasta el análisis y el despliegue encubierto, y definir la línea de política en cada etapa para que las intervenciones puedan ocurrir al principio de la cadena.
- Diseñar y supervisar evaluaciones que midan la capacidad del modelo para apoyar la monitorización de redes sociales, la búsqueda de personas, la elaboración de perfiles predictivos y la identificación o el rastreo de personas específicas, para construir, desarrollar y mejorar salvaguardas con socios multifuncionales para prevenir comportamientos maliciosos.
- Redactar y refinar el lenguaje de la Política de Uso orientada al exterior y desarrollar directrices de formación, rúbricas de evaluación y protocolos de evaluación para los equipos de aplicación, con énfasis en los indicadores de monitorización encubierta y de segmentación a nivel de población.
- Validar las decisiones de aplicación y las evaluaciones automatizadas, proporcionar orientación política sobre casos complejos de "edge cases" como la investigación de herramientas de vigilancia, coordinar con la sociedad civil, expertos en privacidad, investigadores de inteligencia de amenazas y académicos, y servir como punto de escalada para casos complejos de integridad y vigilancia.
Cualificaciones mínimas
- Conocimiento práctico de cómo operan las campañas engañosas y la monitorización encubierta en la práctica, incluyendo redes de cuentas, operaciones de bots, canalizaciones de agregación de datos y métodos de atribución.
- Familiaridad con las tecnologías de vigilancia y su uso indebido, incluyendo herramientas de monitorización de redes sociales, servicios de búsqueda de personas, rastreo de ubicación, spyware, reconocimiento facial y técnicas de inteligencia de fuentes abiertas utilizadas contra individuos.
- Conocimiento general del panorama regulatorio global en torno a la protección de datos, la privacidad, la regulación de plataformas y la rendición de cuentas de los servicios digitales.
- Sólidas habilidades de redacción de políticas, con capacidad para traducir marcos de amenazas complejos en directrices claras y aplicables.
- Experiencia en el diseño de políticas y flujos de trabajo que permitan tanto la toma de decisiones claras por parte de los humanos como la implementación técnica en clasificadores de ML y canalizaciones de detección.
- Sólidas habilidades de colaboración y amplia experiencia en la asociación con equipos de Ingeniería, Ciencia de Datos, Legal, Inteligencia de Amenazas y Políticas en iniciativas multifuncionales.
- Excelentes habilidades de comunicación escrita y verbal, con capacidad para explicar tácticas engañosas, métodos de vigilancia y justificaciones de políticas a audiencias diversas, incluyendo no especialistas y responsables políticos.
Logística
- Educación mínima: Título de Grado o una combinación equivalente de educación, formación y/o experiencia.
- Campo de estudio requerido: Un campo relevante para el puesto demostrado a través de cursos, formación o experiencia profesional.
- Años mínimos de experiencia: Los años de experiencia requeridos se correlacionarán con los requisitos de nivel de puesto interno para la posición.
Cualificaciones preferidas
- 5+ años de experiencia en desarrollo de políticas, confianza y seguridad, inteligencia de amenazas o integridad de plataformas, con trabajo práctico en comportamiento inauténtico, abuso relacionado con la vigilancia o uso indebido de datos.
- Experiencia en políticas de privacidad, ingeniería de privacidad o trabajo de protección de datos, incluyendo familiaridad con evaluaciones de impacto de privacidad y principios de minimización de datos.
- Experiencia en roles de inteligencia, operaciones de monitorización alineadas con el estado o campañas de recopilación de datos encubiertas.
- Experiencia en la investigación de redes inauténticas, monitorización encubierta o abusos de vigilancia en una plataforma, organización de investigación o organismo gubernamental.
- Experiencia en forense digital, inteligencia de fuentes abiertas o atribución de amenazas.
- Conocimiento de la teoría de la persuasión, sesgos cognitivos y técnicas de comunicación engañosa, incluyendo métodos de ingeniería social y pretexting.
- Familiaridad con marcos de derechos humanos y privacidad aplicados a la vigilancia, incluyendo protecciones para periodistas, activistas y comunidades marginadas.
- Experiencia con operaciones de confianza y seguridad que involucren evasión de moderación de contenido, detección de bots o aplicación de scraping de plataformas.
- Experiencia trabajando con instituciones de la UE, organismos reguladores u organizaciones políticas en gobernanza de IA o regulación de plataformas digitales.
- Experiencia en la realización de pruebas adversarias, "red teaming" o evaluaciones de vulnerabilidad para sistemas o plataformas de IA, particularmente para uso indebido relacionado con la monitorización o la elaboración de perfiles.
- Familiaridad con las capacidades de IA generativa y comprensión de cómo los LLMs pueden ser utilizados para personas sintéticas, ingeniería social, elaboración de perfiles predictivos o vigilancia a escala.
El rango de compensación anual para este puesto se indica a continuación.
Para los puestos de ventas, el rango proporcionado es el rango de "Objetivo de Ingresos" ("OTE") del puesto, lo que significa que el rango incluye tanto las comisiones de ventas/bonos de ventas objetivo como el salario base anual para el puesto.
Salario Anual: $245,000—$285,000 USD
- Política híbrida basada en la ubicación: Actualmente, esperamos que todo el personal esté en una de nuestras oficinas al menos el 25% del tiempo. Sin embargo, algunos puestos pueden requerir más tiempo en nuestras oficinas.
- Patrocinio de visados: ¡Sí patrocinamos visados! Sin embargo, no podemos patrocinar visados para todos los puestos y todos los candidatos. Pero si te hacemos una oferta, haremos todo lo razonablemente posible para conseguirte un visado, y contamos con un abogado de inmigración para que nos ayude con esto.
Te animamos a que te presentes incluso si no crees cumplir todos los requisitos. No todos los candidatos sólidos cumplirán todos los requisitos enumerados. Las investigaciones demuestran que las personas que se identifican como pertenecientes a grupos subrepresentados son más propensas a experimentar el síndrome del impostor y a dudar de la solidez de su candidatura, por lo que te instamos a que no te excluyas prematuramente y presentes una solicitud si te interesa este trabajo. Creemos que los sistemas de IA como los que estamos construyendo tienen enormes implicaciones sociales y éticas. Creemos que esto hace que la representación sea aún más importante, y nos esforzamos por incluir una variedad de perspectivas diversas en nuestro equipo.
Tu seguridad nos importa. Para protegerte de posibles estafas, recuerda que los reclutadores de Anthropic solo se ponen en contacto contigo desde direcciones de correo electrónico @anthropic.com. En algunos casos, podemos asociarnos con agencias de contratación verificadas que se identificarán como que trabajan en nombre de Anthropic. Ten cuidado con los correos electrónicos de otros dominios. Los reclutadores legítimos de Anthropic nunca te pedirán dinero, tarifas o información bancaria antes de tu primer día. Si alguna vez tienes dudas sobre una comunicación, no hagas clic en ningún enlace; visita anthropic.com/careers directamente para ver las ofertas de puestos confirmadas.
Más oportunidades con un solo perfil
¿Quieres optar a más puestos sin repetir todo el proceso? Crea tu perfil para que te encuentren las empresas que usan Nort.
Crear mi perfil