Vistra Communications
OpenAI
Die Sicherheitsforschung bei OpenAI ist dafür verantwortlich, sicherzustellen, dass unsere leistungsfähigsten Modelle sicher in der realen Welt eingesetzt werden können. Das Safety Training Team entwickelt die Forschungs- und Engineering-Methoden, die das Modellverhalten durch Post-Training, Reinforcement Learning, Evaluierung und Feedback aus dem Einsatz prägen.
Unsere Arbeit konzentriert sich darauf, Modelle hilfreich, zuverlässig und im Einklang mit Sicherheitsrichtlinien über verschiedene Modelltypen, Modalitäten und Produktoberflächen hinweg zu gestalten. Wir arbeiten sowohl an langfristiger Sicherheitsforschung als auch an der grundlegenden Post-Training-Arbeit, die zur Verbesserung von Produktionsmodellen erforderlich ist.
Sie arbeiten direkt an den großen Trainingsläufen, die die Grenzmodelle von OpenAI prägen. Ihr Fokus liegt darauf, Modellen beizubringen, Menschen bei legitimer Sicherheitsarbeit zu unterstützen, während sie gleichzeitig erkennen, wann ihre Unterstützung Schaden ermöglichen könnte. Ein Modell, das sich weigert, einem Verteidiger bei der Untersuchung eines Sicherheitsproblems zu helfen, kann auf eine andere Weise versagen als eines, das jemandem bei dessen Missbrauch hilft. Sie untersuchen beide Arten von Fehlern und nutzen Ihre Erkenntnisse, um den nächsten Trainingslauf zu verbessern.
Wir suchen jemanden mit praktischer machine learning-Erfahrung, der Sicherheitsbewusstsein in das Modelltraining einbringen möchte. Sie kommen möglicherweise aus der Cybersicherheit und möchten tiefer in das Post-Training eintauchen oder aus dem Bereich Reinforcement Learning und möchten fundierte Expertise in Cybersicherheit aufbauen.
OpenAI ist ein Unternehmen für KI-Forschung und -Einsatz, das sich dafür einsetzt, sicherzustellen, dass künstliche Intelligenz für allgemeine Zwecke der gesamten Menschheit zugutekommt. Wir verschieben die Grenzen der Fähigkeiten von KI-Systemen und streben danach, sie durch unsere Produkte sicher in der Welt einzusetzen. KI ist ein extrem mächtiges Werkzeug, das mit Sicherheit und menschlichen Bedürfnissen im Kern geschaffen werden muss. Um unsere Mission zu erreichen, müssen wir die vielen verschiedenen Perspektiven, Stimmen und Erfahrungen, die das gesamte Spektrum der Menschheit bilden, einbeziehen und wertschätzen.
Wir sind ein Arbeitgeber, der Chancengleichheit fördert, und wir diskriminieren nicht aufgrund von Rasse, Religion, Hautfarbe, nationaler Herkunft, Geschlecht, sexueller Orientierung, Alter, Veteranenstatus, Behinderung, genetischen Informationen oder anderen anwendbaren gesetzlich geschützten Merkmalen.
Weitere Informationen finden Sie in der Affirmative Action and Equal Employment Opportunity Policy Statement von OpenAI.
Hintergrundüberprüfungen für Bewerber werden in Übereinstimmung mit geltendem Recht durchgeführt, und qualifizierte Bewerber mit Verhaftungs- oder Vorstrafenregistern werden im Einklang mit diesen Gesetzen für eine Beschäftigung in Betracht gezogen, einschließlich der San Francisco Fair Chance Ordinance, der Los Angeles County Fair Chance Ordinance for Employers und des California Fair Chance Act für in den USA ansässige Kandidaten. Für Arbeitnehmer im nicht eingemeindeten Los Angeles County: Wir gehen vernünftigerweise davon aus, dass die kriminelle Vergangenheit eine direkte, nachteilige und negative Beziehung zu den folgenden Arbeitsaufgaben haben kann, was möglicherweise zum Widerruf eines bedingten Stellenangebots führen kann: Schutz der Ihnen anvertrauten Computerhardware vor Diebstahl, Verlust oder Beschädigung; Rückgabe der gesamten in Ihrem Besitz befindlichen Computerhardware (einschließlich der darin enthaltenen Daten) bei Beendigung des Arbeitsverhältnisses oder Ende des Auftrags; und Wahrung der Vertraulichkeit von geschützten, vertraulichen und nicht öffentlichen Informationen. Darüber hinaus erfordern die Arbeitsaufgaben den Zugriff auf sichere und geschützte Informationstechnologiesysteme sowie damit verbundene Datensicherheitsverpflichtungen.
Um OpenAI mitzuteilen, dass Sie glauben, dass diese Stellenausschreibung nicht konform ist, reichen Sie bitte einen Bericht über dieses Formular ein. Auf Anfragen, die sich nicht auf die Konformität der Stellenausschreibung beziehen, wird nicht geantwortet.
Wir verpflichten uns, Bewerbern mit Behinderungen angemessene Vorkehrungen zu treffen; Anfragen können über diesen Link gestellt werden.
Bei OpenAI glauben wir, dass künstliche Intelligenz das Potenzial hat, Menschen bei der Lösung immenser globaler Herausforderungen zu helfen, und wir möchten, dass die Vorteile der KI weithin geteilt werden. Gestalten Sie mit uns die Zukunft der Technologie.
Reverse-Recruiting- Plattform für Entwickler