Policy Design Manager, Integrity and Authenticity

Anthropic’s Mission ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu entwickeln. Wir wollen, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe engagierter Forscher, Ingenieure, Politikexperten und Wirtschaftsführer, die gemeinsam daran arbeiten, vorteilhafte KI-Systeme aufzubauen.

Über die Rolle

Als Policy Manager für Integrität und Authentizität sind Sie für die Entwicklung, Verfeinerung und Pflege von Richtlinien verantwortlich, die den Missbrauch von KI-Systemen für Täuschung, Manipulation und unbefugte Überwachung in großem Maßstab verhindern. Sie werden als Policy-Owner für Risiken im Zusammenhang mit inauthentischem Verhalten, Einflussnahme, Überwachung und der Profilerstellung von Einzelpersonen und Gruppen fungieren und dazu beitragen, Politikrahmenwerke in mehreren Bereichen zu gestalten, darunter Authentizität, Informationsintegrität sowie Datenschutz und Überwachung.

Ihr anfänglicher Schwerpunkt liegt auf der Übersetzung des Integritäts- und Authentizitäts-Risikorahmens in klare, durchsetzbare Richtlinien, der Sicherstellung, dass die Richtliniensprache aufkommende Bedrohungen anspricht, die von Partnerteams identifiziert werden, und der Festlegung von Leitlinien, die konsistente Durchsetzungsentscheidungen ermöglichen. Viele der schwerwiegendsten Schäden in diesem Bereich beginnen mit vorgelagerten Schritten, die für sich genommen routinemäßig erscheinen, wie z. B. das Sammeln von Aufzeichnungen über eine Person, die Automatisierung der Kontoerstellung oder die Sortierung von Nutzern nach abgeleiteter Identität. Ein Teil Ihrer Arbeit wird darin bestehen, zu definieren, wo diese Schritte verboten werden. Die Rolle wird sich mit fortschreitenden KI-Fähigkeiten erweitern. Sicherheit ist der Kern unserer Mission. Sie werden dazu beitragen, dass unsere Produkte nicht dazu verwendet werden können, Menschen in großem Maßstab zu täuschen, sie ohne ihr Wissen oder ihre Zustimmung zu überwachen und zu profilieren oder Bevölkerungsgruppen nach sensiblen Merkmalen zu sortieren und anzusprechen.

Wichtiger Kontext für diese Rolle: In dieser Position können Sie expliziten Inhalten ausgesetzt sein und sich damit befassen, die eine Reihe von Themen umfassen, darunter sexuelle, gewalttätige oder psychologisch verstörende Inhalte sowie detaillierte Beschreibungen von Datenschutzverletzungen, Überwachungsmissbrauch und täuschenden Kampagnen, die sich an gefährdete Personen richten.

Wie wir anders sind

Wir glauben, dass die wirkungsvollste KI-Forschung „Big Science“ sein wird. Bei Anthropic arbeiten wir als ein einziges, zusammenhängendes Team an nur wenigen groß angelegten Forschungsinitiativen. Und wir legen Wert auf Wirkung – die Förderung unserer langfristigen Ziele einer steuerbaren, vertrauenswürdigen KI – anstatt an kleineren und spezifischeren Rätseln zu arbeiten. Wir betrachten KI-Forschung als empirische Wissenschaft, die ebenso viel mit Physik und Biologie gemeinsam hat wie mit traditionellen Ansätzen der Informatik. Wir sind eine äußerst kollaborative Gruppe und veranstalten häufig Forschungsdiskussionen, um sicherzustellen, dass wir jederzeit die wirkungsvollste Arbeit verfolgen. Daher schätzen wir Kommunikationsfähigkeiten sehr.

Der einfachste Weg, unsere Forschungsrichtungen zu verstehen, ist die Lektüre unserer aktuellen Forschung. Diese Forschung setzt viele der Richtungen fort, an denen unser Team vor Anthropic gearbeitet hat, darunter: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety und Learning from Human Preferences.

Kommen Sie zu uns!

Anthropic ist eine Public Benefit Corporation mit Hauptsitz in San Francisco. Wir bieten wettbewerbsfähige Vergütung und Sozialleistungen, optionale Spendenübereinstimmung für Aktien, großzügigen Urlaub und Elternurlaub, flexible Arbeitszeiten und einen schönen Büroraum, um mit Kollegen zusammenzuarbeiten. Leitfaden zur KI-Nutzung durch Bewerber: Erfahren Sie mehr über unsere Richtlinien zur Nutzung von KI in unserem Bewerbungsprozess.

Logistik

Die jährliche Vergütungsspanne für diese Rolle ist unten aufgeführt.

Für Vertriebsrollen ist die angegebene Spanne die Zielverdienstspanne („OTE“) der Rolle, was bedeutet, dass die Spanne sowohl die Zielprovisionen/Boni als auch das jährliche Grundgehalt für die Rolle umfasst.

Jahresgehalt: $245,000—$285,000 USD

Wir ermutigen Sie, sich auch dann zu bewerben, wenn Sie nicht glauben, jede einzelne Qualifikation zu erfüllen. Nicht alle starken Kandidaten erfüllen jede einzelne aufgeführte Qualifikation. Studien zeigen, dass Menschen, die sich als Angehörige unterrepräsentierter Gruppen identifizieren, eher unter dem Impostor-Syndrom leiden und an ihrer Kandidatur zweifeln. Daher bitten wir Sie dringend, sich nicht vorzeitig auszuschließen und eine Bewerbung einzureichen, wenn Sie an dieser Arbeit interessiert sind. Wir glauben, dass KI-Systeme wie die, die wir entwickeln, enorme soziale und ethische Auswirkungen haben. Wir glauben, dass dies die Repräsentation noch wichtiger macht, und wir bemühen uns, eine Reihe von vielfältigen Perspektiven in unserem Team zu vereinen.

Ihre Sicherheit ist uns wichtig. Um sich vor potenziellen Betrügereien zu schützen, denken Sie daran, dass Anthropic-Recruiter Sie nur von E-Mail-Adressen @anthropic.com kontaktieren. In einigen Fällen arbeiten wir möglicherweise mit geprüften Personalvermittlungsagenturen zusammen, die sich als im Auftrag von Anthropic arbeitend ausgeben. Seien Sie vorsichtig bei E-Mails von anderen Domains. Legitimen Anthropic-Recruitern werden Sie niemals vor Ihrem ersten Tag nach Geld, Gebühren oder Bankinformationen fragen. Wenn Sie sich jemals über eine Kommunikation unsicher sind, klicken Sie nicht auf Links – besuchen Sie anthropic.com/careers direkt für bestätigte Stellenangebote.