Vereinigte Staaten
Redwood Materials
Research Engineer, Frontier Safety Mitigations, DeepMind
Vereinigte Staaten
Mountain View, California, United States · San Francisco, California, United States
Automatische Übersetzung. Prüfe das Original.
MINDESTQUALIFIKATIONEN: *
- Bachelor-Abschluss oder gleichwertige praktische Erfahrung. *
- 5 Jahre Erfahrung in der Softwareentwicklung in einer oder mehreren Programmiersprachen. *
- 3 Jahre Erfahrung im Testen, Warten oder Veröffentlichen von Softwareprodukten und 1 Jahr Erfahrung in Software-Design und -Architektur.
BEVORZUGTE QUALIFIKATIONEN: *
- Master-Abschluss oder Promotion in Informatik oder einem verwandten technischen Fachgebiet. *
- Erfahrung in der Entwicklung, Feinabstimmung oder Sicherheitsbewertung von Large Language Models (LLM). *
- Erfahrung in der Überführung von Forschungsergebnissen von der Konzeption bis zum Produkt. *
- Erfahrung in Bereichen wie Sicherheit und Alignment.
ÜBER DIE STELLE
Unser Team konzentriert sich auf die Risikominderung bei Produkteinführungen, indem es vor kritischen Missbrauchsbereichen wie Cybersicherheit, CBRNE (chemische, biologische, radiologische, nukleare, konventionelle Sprengstoffe) und schädlicher Manipulation schützt. Derzeit umfasst dies die Entwicklung neuartiger Bewertungen, Red-Teaming, die Erforschung und Bereitstellung fortschrittlicher Abwehrmaßnahmen (sowohl im Modell als auch außerhalb des Modells) und die Überwachung aufkommender Risiken. Wir stellen sicher, dass unsere Abwehrmaßnahmen hochgradig robust sind und gleichzeitig die vorteilhafte Nutzung unserer Technologie ermöglichen.
GDM ist eine engagierte wissenschaftliche Gemeinschaft, die sich der „Lösung von Intelligenz“ verschrieben hat und sicherstellt, dass unsere Technologie zum allgemeinen Nutzen der Öffentlichkeit eingesetzt wird.
Das Frontier Safety Mitigation Team arbeitet in einem schnelllebigen, hochgradig kollaborativen Umfeld. Wir haben eine starke Kultur der Unterstützung, des Engagements und der Teamarbeit. Wir nehmen die Möglichkeit potenziell gefährlicher Modellfähigkeiten ernst, während die KI fortschreitet. Aus diesem Grund glauben wir, dass die proaktive Erforschung und Implementierung robuster, mehrschichtiger Abwehrmaßnahmen ein entscheidender Teil der Gesamtstrategie für den Aufbau sicherer KI ist.
Wir suchen einen Research Engineer für das Frontier Safety Mitigation Team innerhalb des Gemini Safety Teams.
Ihre Hauptverantwortung ist es, uns beim Aufbau der nächsten Generation von Sicherheitsmaßnahmen für Frontier-Modelle zu unterstützen. Diese Rolle ist stark anwendungsorientiert und konzentriert sich auf den Aufbau robuster End-to-End-Abwehrmaßnahmen gegen schwerwiegende Risiken. Diese Arbeit fließt direkt in die Verpflichtungen des Frontier Safety Frameworks von DeepMind ein.
Sie werden sich wohl dabei fühlen, herauszufinden, wie neue Forschungsfragen angegangen und technische Lösungen dafür in großem Maßstab implementiert werden können.
Künstliche Intelligenz wird eine der transformativsten Erfindungen der Menschheit sein. Bei Google DeepMind sind wir ein wegweisendes KI-Labor mit außergewöhnlichen interdisziplinären Teams, die sich auf die Weiterentwicklung der KI-Entwicklung konzentrieren, um komplexe globale Herausforderungen zu lösen und hochwertige Produktinnovationen für Milliarden von Nutzern zu beschleunigen. Wir nutzen unsere Technologien für den breiten öffentlichen Nutzen und die wissenschaftliche Entdeckung und stellen sicher, dass Sicherheit und Ethik stets unsere höchste Priorität haben.
Wir stoßen in mehreren Bereichen an die Grenzen des Möglichen. Unsere globalen Teams bieten vielfältige Lernmöglichkeiten und abwechslungsreiche Karrierewege für diejenigen, die durch gemeinsame Anstrengungen außergewöhnliche Ergebnisse erzielen wollen.
Das individuelle Gehalt wird durch Faktoren wie berufsbezogene Fähigkeiten, Erfahrung und relevante Ausbildung oder Schulung bestimmt.
USA: $174000 - $252000 (USD) + 15% Bonus-Ziel + Aktienoptionen + Sozialleistungen
].
VERANTWORTLICHKEITEN: *
- Erstellung fortschrittlicher Klassifikatoren und Datenpipelines zur Erkennung von Missbrauch, wobei der End-to-End-Prozess von der automatisierten Bewertung bis zur schnellen Modelliteration verantwortet wird. *
- Erstellung von Monitoring-Systemen über verschiedene Kontexte hinweg zur Erkennung koordinierter Schäden, Entwicklung neuartiger Methoden zur Aggregation von Signalen über verschiedene Benutzersitzungen hinweg, um groß angelegte Angriffsvektoren zu identifizieren. *
- Implementierung datengesteuerter, halbautomatisierter reaktionsfähiger Systeme auf Kontoebene zur Erkennung, Verfolgung und Anwendung von Sanktionen gegen hartnäckige böswillige Akteure unter Verwendung reichhaltiger Signale aus dem Produktionsverkehr. *
- Bewertung und Sicherung von agentenbasierten KI-Systemen durch Entwicklung von Bedrohungsmodellen, Erstellung von Testumgebungen und Bereitstellung robuster Abwehrmaßnahmen gegen agentenbasierte Hacking-Angriffe auf Frontier-Niveau und Angriffe mit langer Laufzeit. *
- Weiterentwicklung der Forschung im Bereich automatisiertes Red-Teaming und adversarielle Robustheit, Nutzung von Multi-Turn/agentenbasierten Angriffen, um systematisch auf Missbrauchsschwachstellen zu testen und diese aufzudecken.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen