Senior Application Security Engineer - GenAI Security Evaluation

Wir suchen erfahrene Application Security Engineers und sicherheitsorientierte Softwareentwickler zur Unterstützung eines spezialisierten Projekts zur Sicherheitsbewertung von KI.

In dieser Rolle bewerten Sie, wie effektiv statische Analysetools Sicherheitslücken in Anwendungen mit generativer KI identifizieren, insbesondere bei LLM-Agenten und RAG-Systemen (Retrieval-Augmented Generation). Sie erstellen kleine, ausführbare Repositories, die realistische Beispiele für Schwachstellen wie Sensitive Information Disclosure (SID) und Excessive Agency (EA) enthalten, ergänzt durch korrigierte Versionen und Near-Miss-Szenarien.

Sie analysieren Codepfade, identifizieren Sicherheitsschwachstellen, definieren Autorisierungskontexte, entwickeln deterministische Tests und dokumentieren Ihre Ergebnisse. Ihre Arbeit trägt dazu bei, die Zuverlässigkeit von Sicherheitstools zu verbessern und die Bewertung von KI-Systemen hinsichtlich Schwachstellen auf Anwendungsebene zu stärken.

STANDORT: Remote

BERUFSERFAHRUNG: 5+ Jahre in der Anwendungs-/Produktsicherheit oder sicherheitsorientierten Softwareentwicklung

PROJEKT: Sicherheitsbewertung von GenAI-Anwendungen und KI-Training

TECHNISCHER FOKUS: Python, TypeScript, SAST, CodeQL, Semgrep, LLM-Agenten, RAG und MCP

KI-ERFAHRUNG: Praktische Erfahrung in der Entwicklung von LLM-Agenten oder RAG-Anwendungen ist erforderlich.