Anthropic Fellows Program, AI Safety & Security

Die Mission von Anthropic ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu entwickeln. Wir möchten, dass KI sicher und vorteilhaft für unsere Nutzer und die Gesellschaft als Ganzes ist. Unser Team ist eine schnell wachsende Gruppe engagierter Forscher, Ingenieure, Politikexperten und Wirtschaftsführer, die zusammenarbeiten, um vorteilhafte KI-Systeme zu entwickeln.

ÜBERBLICK ÜBER DAS Anthropic FELLOWS PROGRAM

Das Anthropic Fellows Program wurde entwickelt, um Talente in der KI-Forschung und -Entwicklung zu fördern. Wir stellen vielversprechenden technischen Talenten – unabhängig von Vorerfahrung – Finanzmittel und Mentoring zur Verfügung.

Fellows werden hauptsächlich externe Infrastrukturen (z. B. Open-Source-Modelle, öffentliche APIs) nutzen, um an einem empirischen Projekt zu arbeiten, das mit unseren Forschungsprioritäten übereinstimmt, mit dem Ziel, ein öffentliches Ergebnis zu erzielen (z. B. eine Paper-Einreichung). In einem unserer früheren Jahrgänge haben über 80% der Fellows Paper veröffentlicht. Wir führen jedes Jahr mehrere Jahrgänge von Fellows durch und prüfen Bewerbungen fortlaufend.

KI-SICHERHEITS-FELLOWS

MENTOREN, FORSCHUNGSBEREICHE & VERGANGENE PROJEKTE

Fellows durchlaufen einen Prozess zur Projektauswahl und zum Mentoren-Matching. Mögliche Mentoren sind:

Unsere Mentoren leiten Projekte in ausgewählten KI-Sicherheitsforschungsbereichen, wie zum Beispiel:

Auf unseren Blogs Alignment Science alignment.anthropic.com/ und Frontier Red Team red.anthropic.com/ können Sie über vergangene Projekte lesen, darunter:

Eine vollständige Liste repräsentativer Projekte für jeden Bereich finden Sie in diesen Blogbeiträgen: Introducing the Anthropic Fellows Program for AI Safety Research [alignment.anthropic.com/2024/anthropic-fellows-program/#:~:text=We're%20launching%20the%20Anthropic,time%20on%20AI%20safety%20research]. Recommendations for Technical AI Safety Research Directions alignment.anthropic.com/2025/recommended-directions/.

KI-SICHERHEITS-FELLOWS

MENTOREN, FORSCHUNGSBEREICHE & VERGANGENE PROJEKTE

Fellows durchlaufen einen Prozess zur Projektauswahl und zum Mentoren-Matching. Mögliche Mentoren sind:

Auf unseren Blogs Alignment Science alignment.anthropic.com/ und Frontier Red Team red.anthropic.com/ können Sie einige vergangene Fellows-Projekte lesen, darunter:

WAS UNS UNTERSCHEIDET

Wir glauben, dass die wirkungsvollste KI-Forschung "Big Science" sein wird. Bei Anthropic arbeiten wir als ein einziges, zusammenhängendes Team an nur wenigen groß angelegten Forschungsbemühungen. Und wir schätzen Wirkung – die Förderung unserer langfristigen Ziele einer steuerbaren, vertrauenswürdigen KI – anstatt an kleineren und spezifischeren Rätseln zu arbeiten. Wir betrachten KI-Forschung als eine empirische Wissenschaft, die ebenso viel mit Physik und Biologie gemeinsam hat wie mit traditionellen Anstrengungen in der Informatik. Wir sind eine äußerst kollaborative Gruppe und veranstalten häufig Forschungsdiskussionen, um sicherzustellen, dass wir zu jedem Zeitpunkt die wirkungsvollste Arbeit verfolgen. Daher schätzen wir Kommunikationsfähigkeiten sehr.

Der einfachste Weg, unsere Forschungsrichtungen zu verstehen, ist, unsere aktuelle Forschung zu lesen. Diese Forschung setzt viele der Richtungen fort, an denen unser Team vor Anthropic gearbeitet hat, darunter: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety und Learning from Human Preferences.

KOMMEN SIE ZU UNS!

Anthropic ist eine Public Benefit Corporation mit Hauptsitz in San Francisco. Wir bieten wettbewerbsfähige Vergütung und Leistungen, optionale Aktienoptionsspenden, großzügigen Urlaub und Elternzeit, flexible Arbeitszeiten und einen schönen Büroraum für die Zusammenarbeit mit Kollegen. Leitfaden zur KI-Nutzung durch Bewerber: Informieren Sie sich über unsere Richtlinie anthropic.com/candidate-ai-guidance zur Nutzung von KI in unserem Bewerbungsprozess.

Bewerbungen für unseren Januar-Jahrgang sind jetzt geöffnet – bewerben Sie sich hier bis zum 18. Oktober. bit.ly/afpsafety

Der Interviewprozess umfasst eine erste Bewerbung & Referenzprüfung, technische Bewertungen & Interviews sowie eine Forschungsdiskussion.

Wir ermutigen Sie, sich auch dann zu bewerben, wenn Sie glauben, nicht jede einzelne Qualifikation zu erfüllen. Nicht alle starken Kandidaten erfüllen jede einzelne aufgeführte Qualifikation. Forschung zeigt, dass Personen, die sich als Angehörige unterrepräsentierter Gruppen identifizieren, anfälliger für das Impostor-Syndrom sind und an ihrer Kandidatur zweifeln. Daher bitten wir Sie dringend, sich nicht vorzeitig auszuschließen und eine Bewerbung einzureichen, wenn Sie an dieser Arbeit interessiert sind. Wir glauben, dass KI-Systeme wie die, die wir entwickeln, enorme soziale und ethische Auswirkungen haben. Wir denken, dass dies die Repräsentation noch wichtiger macht, und wir bemühen uns, eine Vielfalt von Perspektiven in unserem Team zu vereinen.

VERGÜTUNG

Das erwartete Basisstipendium für diese Rolle beträgt 3,850 USD / 2,310 GBP / 4,300 CAD pro Woche, mit einer Erwartung von 40 Stunden pro Woche für 4 Monate (mit möglicher Verlängerung).

LOGISTIK

Logistikanforderungen: Um am Fellows-Programm teilnehmen zu können, müssen Sie eine Arbeitserlaubnis in den USA, Großbritannien oder Kanada besitzen und sich während des Programms in diesem Land aufhalten.

Arbeitsplatzstandorte: Wir haben ausgewiesene gemeinsame Arbeitsplätze in London und Berkeley, von denen aus die Fellows arbeiten und Mentoren zu Besuch kommen. Wir sind auch offen für Remote-Fellows in Großbritannien, den USA oder Kanada. Wir werden Sie während des Programms nach Ihrer Verfügbarkeit fragen, von Berkeley oder London aus (Voll- oder Teilzeit) zu arbeiten.

Visumsponsorship: Wir können derzeit keine Visa für Fellows sponsern. Um am Fellows-Programm teilnehmen zu können, müssen Sie eine Vollzeit-Arbeitserlaubnis in Großbritannien, den USA oder Kanada besitzen oder diese unabhängig erwerben.

Programmdauer: Das Programm läuft 4 Monate Vollzeit. Wenn Sie nicht die volle Dauer einhalten können, bewerben Sie sich trotzdem und geben Sie Ihre Einschränkungen in der Bewerbung an. Wir prüfen diese Anfragen von Fall zu Fall.

Bitte beachten Sie: Wir garantieren nicht, dass wir Fellows Vollzeitangebote machen werden. Eine starke Leistung während des Programms kann jedoch darauf hindeuten, dass ein Fellow gut für Vollzeitstellen bei Anthropic geeignet wäre. In früheren Jahrgängen erhielten 25-50% der Fellows ein Vollzeitangebot, und wir haben viele weitere dabei unterstützt, großartige Arbeit im Bereich KI-Sicherheit und -Schutz bei anderen Organisationen zu leisten.

Bewerbungen und Interviews werden von Constellation constellation.org/ verwaltet, unserem Partner für Rekrutierung und Programmmanagement. Constellation betreibt auch den Arbeitsplatz in Berkeley und bietet Programmunterstützung für Fellows, die an KI-Sicherheits- und Schutzprojekten arbeiten; Fellows an fähigkeitsorientierten Projekten werden direkt von Anthropic unterstützt. Alle Bewerber nutzen derzeit dasselbe Bewerbungsportal, aber wir arbeiten daran, die Bewerbungen für sicherheits- und schutzorientierte sowie fähigkeitsorientierte Projekte in zukünftigen Runden zu trennen.

BEWERBEN SIE SICH HIER BIS ZUM 18. OKTOBER. bit.ly/afpsafety

Das Folgende sind die Richtlinien von Anthropic für Vollzeitstellen. Diese gelten NICHT für das Fellows-Programm.

Standortbasierte Hybridrichtlinie: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25% der Zeit in einem unserer Büros anwesend sind. Einige Rollen erfordern jedoch möglicherweise mehr Zeit in unseren Büros.

Visumsponsorship: Wir sponsern Visa! Wir können jedoch nicht für jede Rolle und jeden Kandidaten erfolgreich Visa sponsern. Aber wenn wir Ihnen ein Angebot machen, werden wir alle zumutbaren Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir beauftragen einen Einwanderungsanwalt, um dabei zu helfen.

Wir ermutigen Sie, sich auch dann zu bewerben, wenn Sie glauben, nicht jede einzelne Qualifikation zu erfüllen. Nicht alle starken Kandidaten erfüllen jede einzelne aufgeführte Qualifikation. Forschung zeigt, dass Personen, die sich als Angehörige unterrepräsentierter Gruppen identifizieren, anfälliger für das Impostor-Syndrom sind und an ihrer Kandidatur zweifeln. Daher bitten wir Sie dringend, sich nicht vorzeitig auszuschließen und eine Bewerbung einzureichen, wenn Sie an dieser Arbeit interessiert sind. Wir glauben, dass KI-Systeme wie die, die wir entwickeln, enorme soziale und ethische Auswirkungen haben. Wir denken, dass dies die Repräsentation noch wichtiger macht, und wir bemühen uns, eine Vielfalt von Perspektiven in unserem Team zu vereinen.

Ihre Sicherheit ist uns wichtig. Um sich vor möglichen Betrügereien zu schützen, denken Sie daran, dass Anthropic-Recruiter Sie nur von E-Mail-Adressen @anthropic.com kontaktieren. In einigen Fällen arbeiten wir möglicherweise mit geprüften Personalvermittlungsagenturen zusammen, die sich als im Auftrag von Anthropic arbeitend ausgeben. Seien Sie vorsichtig bei E-Mails von anderen Domains. Legitimen Anthropic-Recruitern werden niemals Geld, Gebühren oder Bankinformationen vor Ihrem ersten Tag verlangt. Wenn Sie jemals unsicher über eine Kommunikation sind, klicken Sie nicht auf Links – besuchen Sie anthropic.com/careers anthropic.com/careers direkt, um bestätigte Stellenangebote zu finden.

• 4 Monate Vollzeitforschung

• Direkte Betreuung durch Anthropic-Forscher

• Zugang zu einem gemeinsamen Arbeitsplatz (entweder in Berkeley, Kalifornien oder London, UK)

• Vernetzung mit der breiteren KI-Sicherheits- und -Schutzforschungsgemeinschaft

• Wöchentliches Stipendium von 3,850 USD / 2,310 GBP / 4,300 CAD + Leistungen (diese variieren je nach Land)

• Finanzierung für Rechenleistung (ca. $15k/Monat) und weitere Forschungsausgaben

KANDIDATEN MÜSSEN SEIN

LOGISTIK

Mindestbildung: Bachelor-Abschluss oder eine gleichwertige Kombination aus Bildung, Ausbildung und/oder Erfahrung

Erforderlicher Studienbereich: Ein Bereich, der für die Rolle relevant ist, nachgewiesen durch Kursarbeit, Ausbildung oder Berufserfahrung

Mindestjahre an Erfahrung: Die erforderliche Berufserfahrung korreliert mit den internen Anforderungsstufen für die Position

EINZIGARTIGE KANDIDATENKRITERIEN

Sie könnten besonders gut für diesen Arbeitsstrom geeignet sein, wenn Sie:

Sie könnten besonders gut für diesen Arbeitsstrom geeignet sein, wenn Sie: