Vereinigte Staaten
The MITRE Corporation
Propio
KI/LLM Safety Engineer
Vereinigte Staaten
Leawood, Kansas, United States
Python
Automatische Übersetzung. Prüfe das Original.
Beschreibung
KI/LLM Safety Engineer
Gestalte deine Wirkung. Bei Propio glauben wir nicht, dass Karrieren Menschen passieren. Wir glauben, dass Menschen sie gestalten.
Hier hast du die Freiheit, Entscheidungen zu treffen, Annahmen zu hinterfragen, Innovationen voranzutreiben und Ergebnisse zu gestalten. Dein Erfolg ist nicht durch Hierarchie oder Betriebszugehörigkeit begrenzt. Er wird durch deinen Ehrgeiz, deine Neugier und deine Bereitschaft, deine Wirkung zu gestalten, angetrieben. Wenn du eine Rolle suchst, in der du einfach den Status quo aufrechterhalten kannst, ist dies wahrscheinlich nichts für dich. Aber wenn du einen Ort suchst, an dem deine Ideen zählen, dein Wachstum beschleunigt wird und deine Arbeit weltweit einen bedeutenden Einfluss hat, würden wir uns freuen, mit dir zu sprechen.
Warum Propio?
Jeden Tag verändert Kommunikation Leben. Ein Patient erhält eine Versorgung, die er sonst nicht hätte. Eine Familie erhält wichtige Informationen. Ein Unternehmen verbindet sich mit einem Kunden. Eine Gemeinschaft wird inklusiver. Diese Momente geschehen, weil Barrieren abgebaut werden. Und hinter diesen Momenten stehen Teammitglieder von Propio, die jeden Tag aufs Neue Probleme lösen, innovativ sind und die Zukunft gestalten. Das ist nicht nur Arbeit. Das ist weltweiter Einfluss.
Als KI/LLM Safety Engineer hast du die Möglichkeit, einen bedeutenden Beitrag zum kontinuierlichen Wachstum und zur Transformation von Propio zu leisten.
Was jemanden hier erfolgreich macht
Die erfolgreichsten Leute bei Propio sind nicht unbedingt die mit den längsten Lebensläufen. Es sind die Leute, die:
- Verantwortung übernehmen, anstatt auf Anweisungen zu warten.
- Herausforderungen als Wachstumschancen annehmen.
- Kontinuierlich nach besseren Arbeitsweisen suchen.
- Ideen in die Tat umsetzen.
- Sich selbst und andere an hohe Standards halten.
- Angetrieben werden, messbare Ergebnisse zu erzielen.
Du wirst befähigt, Folgendes zu tun:
- Übernehme Verantwortung für wichtige Initiativen und Ergebnisse.
- Erzielung aussagekräftiger Geschäftsergebnisse.
- Beeinflusse Entscheidungen und trage neue Ideen bei.
- Arbeite mit talentierten, leistungsstarken Teammitgliedern zusammen.
- Fordere dich selbst durch kontinuierliches Lernen und Wachstum heraus.
- Gestalte die Zukunft einer schnell wachsenden Organisation mit.
Was du verantworten wirst
Der KI/LLM Safety Engineer wird unser KI-Team verstärken und die Sicherheit unserer Modelle und Agenten in der Produktion verantworten; mit Fokus auf KI-Sicherheit, Vertrauen & Sicherheit und verantwortungsvolle KI. Du wirst die Evaluierungen entwerfen, die unsicheres Verhalten aufdecken, die Schutzmechanismen entwickeln, die es stoppen, und das Red Teaming leiten, das Lücken findet, bevor unsere Nutzer – oder Angreifer – es tun. Die Sicherheit von Agenten ist der primäre Fokus dieser Rolle: Du wirst dazu beitragen, dass unsere Systeme, wenn sie die Fähigkeit erhalten, Tools aufzurufen und Aktionen auszuführen, dies innerhalb klar definierter, gut getesteter Grenzen tun.
KI/LLM Sicherheitsbewertung & Red Teaming
- Entwerfe und pflege ein Framework zur Sicherheitsbewertung – mit adversariellen Prompt-Sets, szenariobasierten Testsuiten und Regressionstests –, damit jede Modell- und Agentenaktualisierung vor dem Versand validiert wird.
- Leite strukturierte Red-Teaming-Übungen zu Jailbreaks, Prompt Injection, Tool-Missbrauch und Datenexfiltration; dokumentiere die Ergebnisse und treibe jede Angelegenheit bis zur Behebung und zum Abschluss voran.
Schutzmechanismen & Laufzeitkontrollen
- Entwickle und iteriere Schutzlogiken, einschließlich Eingabe-/Ausgabefilterung, Tool-Grenzbeschränkungen, Aktionsvalidierung, Schwärzung sensibler Daten und Policy-Prompting.
- Integriere Sicherheitsprüfungen in CI/CD und die Laufzeitumgebung, damit unsicheres Verhalten abgefangen wird, bevor es die Nutzer erreicht.
Agentensicherheit (primärer Fokus dieser Rolle)
- Führe Threat Modeling für agentenbasierte Szenarien durch: Tool-Aufruf-Grenzen, Sandbox-Isolation und Least-Privilege-Zugriff, mit besonderem Augenmerk auf die Verhinderung von Datenexfiltration oder irreversiblen Aktionen durch verkettete Tool-Aufrufe durch Agenten.
- Führe Sicherheitsüberprüfungen von Reinforcement-Learning-(RL)-Umgebungen und Trajektoriendaten durch und arbeite mit den Entwicklerteams für Umgebungen und Agenten zusammen, um Sicherheitsbeschränkungen direkt in die Umgebungen selbst einzubetten.
Überwachung & Beobachtbarkeit
- Instrumentiere KI-Funktionen für Sicherheit mit strukturiertem Logging, Tracing und Metriken, um unsichere Muster und Regressionen in der Produktion zu erkennen.
Governance & Zusammenarbeit
- Bereite Nachweise für Governance-Überprüfungen vor – Testberichte, Evaluierungszusammenfassungen und Validierung von Minderungsmaßnahmen –, die mit den internen Standards für verantwortungsvolle KI übereinstimmen.
- Arbeite mit Produkt und UX zusammen, um Sicherheitsinteraktionen (Warnungen, Bestätigungen, Ablehnungsnachrichten und Feedbacksammlung) zu verbessern und die Bewertungsziele mit den Forschungs- und Datenteams abzustimmen.
Anforderungen
Was du mitbringst
Erforderliche Qualifikationen
- Bachelor- oder Master-Abschluss in Informatik, Software Engineering, Cybersicherheit oder einem verwandten technischen Bereich – oder gleichwertige praktische Erfahrung.
- 4+ Jahre Erfahrung in der Entwicklung von Produktionssoftware, mit direkter Erfahrung in der Arbeit an – oder der Absicherung von – ML/LLM-Systemen.
- Starke Software-Engineering-Fähigkeiten mit der Fähigkeit, produktionsreifen Code zu schreiben (hauptsächlich Python), über Skripte oder Notebook-Prototypen hinaus.
- Solides Verständnis von LLMs und ML: wie Modelle funktionieren, Prompt Engineering und die Sicherheitsauswirkungen von Fine-Tuning und RAG (z. B. unsichere Abrufe, Tool-Missbrauch und Datenexfiltration).
- Ein Sicherheitsbewusstsein mit nachgewiesener Fähigkeit zum Threat Modeling; in der Lage, KI-Workflows zu analysieren und mit den Grundlagen der Zugriffskontrolle, Datenspeicherung und Incident Response vertraut.
- Vertrautheit mit der LLM-Angriffsfläche – Prompt Injection, Jailbreaks, Datenvergiftung und Risiken in der Lieferkette – und praktische Kenntnisse der OWASP LLM Top 10.
- Praktische Erfahrung mit mindestens einer der folgenden Methoden: Sicherheitsbewertung oder Red Teaming, mit der Fähigkeit, einen echten Fund und dessen Behebung zu erläutern.
Bevorzugte Qualifikationen
- Praktische Erfahrung mit branchenüblichen Sicherheitstools wie Garak, PyRIT, Promptfoo, Giskard und NeMo Guardrails sowie die Fähigkeit, die Kompromisse zwischen ihnen zu erläutern.
- Sichtbare Beiträge im Bereich KI-Sicherheit oder allgemeine Sicherheit: Veröffentlichungen auf relevanten Veranstaltungen (z. B. NeurIPS AI Safety Workshop, USENIX Security oder DEF CON AI Village), Open-Source-Beiträge oder verantwortungsvolle Offenlegungen zu Frontier-Modellen mit öffentlichen Berichten.
- Vertrautheit mit KI-Governance- und Compliance-Frameworks (NIST AI RMF, ISO/IEC 42001, EU AI Act) und die Fähigkeit, Compliance-Anforderungen in konkrete technische Aufgaben zu übersetzen.
- Entwicklungserfahrung mit Agenten, RL-Umgebungen und/oder Tool-Nutzung.
- Praktische Erfahrung mit Threat-Modeling-Methoden wie MITRE ATLAS und STRIDE/PASTA.
Auch wenn deine Erfahrung nicht perfekt zu jeder Qualifikation passt, ermutigen wir dich, dich zu bewerben. Wir suchen nach Potenzial, Antrieb und Engagement für Wachstum genauso wie nach Erfahrung.
Bei Propio treibt deine Arbeit nicht nur ein Unternehmen voran. Sie hilft, Menschen, Gemeinschaften und Möglichkeiten auf der ganzen Welt zu verbinden. Bereit, etwas Größeres zu schaffen? Bewirb dich noch heute und entdecke, was passiert, wenn du deinen Erfolg gestaltest.
Was du gewinnen wirst
- Gestalte dein Wachstum: Wir investieren in Menschen, die in sich selbst investieren. Du wirst Möglichkeiten haben, zu lernen, dich zu entwickeln und deine Fähigkeiten zu erweitern, während du eine sinnvolle Karriere aufbaust.
- Gestalte deine Wirkung: Du wirst den Zusammenhang zwischen deiner Arbeit und unserem Erfolg sehen. Wir glauben, dass großartige Menschen die Möglichkeit verdienen, einen echten Unterschied zu machen.
- Gestalte deine Innovation: Die besten Ideen können von überall kommen. Wir fördern Neugier, Kreativität und das Hinterfragen von Arbeitsweisen.
- Gestalte deinen Erfolg: Ob du Expertise aufbaust, Führungspositionen anstrebst oder deinen Karriereweg erweiterst, wir geben dir Raum zum Wachsen und die Unterstützung, um dorthin zu gelangen.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen