Vereinigte Staaten
Launch Legends
Qualys
Senior Security Engineer, AI/ML
Vereinigte Staaten
Foster City, California, United States
PythonSQLAWSGCP
Automatische Übersetzung. Prüfe das Original.
Stellenübersicht
Kommen Sie zu einem Arbeitgeber, bei dem Innovation und Teamwork zusammenkommen, um die spannendsten Missionen der Welt zu unterstützen!
Wir suchen einen Senior Security Engineer – AI/ML, der an der Schnittstelle von praktischer KI/ML-Entwicklung und offensiver Sicherheitsforschung tätig ist. Sie werden sowohl aufbauen als auch angreifen: Entwerfen und Bereitstellen von GenAI- und agentenbasierten Systemen, die die nächste Generation der Bedrohungserkennung ermöglichen, und gleichzeitig dieselben Systeme durch Red Teaming untersuchen, um Prompt-Injection-Exploits, gegnerische Eingaben, Modellmanipulationen und andere aufkommende KI-Bedrohungen aufzudecken.
Dies ist eine Senior-Rolle mit doppeltem Mandat für einen Ingenieur, der sich gleichermaßen wohlfühlt, Multi-Agenten-Pipelines und RAG-Architekturen zu orchestrieren, wie sie auseinanderzunehmen, um Schwachstellen zu finden. Sie werden den technischen Standard für sicheres Design bei KI bei Qualys setzen, andere Ingenieure betreuen und Forschung in produktionshärtende Strategien umwandeln.
Unternehmensübersicht
Qualys ist ein führender Anbieter von cloudbasierten Sicherheits- und Compliance-Lösungen, der riesige Datenmengen verarbeitet, um unsere globalen Kunden bei der Sicherung ihrer Netzwerke, Geräte und Anwendungen zu unterstützen. Mit einem starken Fokus auf Innovation und Skalierbarkeit ermöglicht Qualys Organisationen, durch Echtzeit-Transparenz und -Analysen kontinuierliche Sicherheit und Compliance zu erreichen. Während wir weiter wachsen, suchen wir leidenschaftliche und qualifizierte Fachleute, die sich unserer Mission anschließen, die Zukunft der Cybersicherheit neu zu definieren.
Hauptverantwortlichkeiten
Aufbauen
- Erstellen und Bereitstellen von GenAI-Anwendungen mit LangChain, LlamaIndex oder ähnlichen Frameworks und Orchestrieren von agentenbasierten KI-Workflows mit Tools wie AutoGen, CrewAI oder benutzerdefinierten agentenbasierten Architekturen.
- Entwerfen, Trainieren und Bewerten von ML-Modellen von Grund auf, sowohl klassisches ML als auch deep learning, und Entwickeln von End-to-End-Pipelines für die Aufnahme, Vorverarbeitung, das Training, die Bewertung und die Bereitstellung.
- Implementieren und Optimieren von RAG-Pipelines unter Verwendung von Embeddings und Vektordatenbanken (z. B. FAISS, Pinecone, Qdrant), mit integrierten Sicherheits- und Datenleckerkennungs-Kontrollen von Anfang an.
- Schreiben robuster backend APIs in Python, um Modelle bereitzustellen, Daten zu verarbeiten und in die Cloud-Infrastruktur zu integrieren; Überwachen der Modellleistung, Latenz und Genauigkeit in der Produktion und kontinuierliches Iterieren.
Angreifen
- Durchführung eingehender Forschung zu Sicherheitslücken in LLMs und KI-Systemen, einschließlich Prompt Injection, Jailbreaks, Datenlecks, Modell Diebstahl und gegnerischen Angriffen.
- Entwerfen und Durchführen von offensiven Sicherheitsbewertungen und Red-Teaming-Kampagnen gegen GenAI- und ML-gestützte Systeme, einschließlich der intern entwickelten agentenbasierten Pipelines.
- Identifizieren und Klassifizieren neuartiger Bedrohungsvektoren, die auf Modellinferenz, Trainingspipelines und Modellbereitstellungsarchitekturen abzielen.
- Beitragen zu und Erstellen interner Tools zum Scannen, Fuzzing und Automatisieren der Entdeckung von LLM-Schwachstellen.
Führen & Kommunizieren
- Zusammenarbeit mit Produkt- und Ingenieurteams zur Gestaltung sicherer KI-gestützter Funktionen und zur Definition von Härtungsstrategien.
- Entwickeln von Proof-of-Concepts, technischen Whitepapers oder Blogbeiträgen zu aufkommenden Bedrohungen und Best Practices; Überwachen von Threat Intelligence und akademischer Forschung zur Sicherheit von KI-Modellen und Risiken in der Lieferkette.
- Vertreten von Qualys in Sicherheits- und KI-Forschungsgemeinschaften durch Vorträge, Veröffentlichungen oder Standardisierungsbemühungen und Betreuen von Ingenieuren bei der sicheren KI-Entwicklung.
Erforderliche Qualifikationen
- 6+ Jahre kombinierte Erfahrung in Softwareentwicklung / machine learning und Sicherheitsforschung, Penetrationstests oder Exploit-Entwicklung, mit Schwerpunkt auf Anwendungs- oder Cloud-Sicherheit.
- Starke Programmierkenntnisse in Python, einschließlich der Erstellung von APIs und backend-Komponenten, sowie Skripting und Automatisierung für Tests und PoC-Entwicklung.
- Erfahrung im Training von ML-Modellen mit Scikit-learn, TensorFlow oder PyTorch und fundierte Kenntnisse von LLM-Architekturen (Transformer, Embeddings, Fine-Tuning, RAG).
- Praktische Erfahrung mit LangChain, LlamaIndex oder anderen GenAI-Frameworks und beim Erstellen von Multi-Agenten- oder autonomen KI-Workflows.
- Vertrautheit mit GenAI-spezifischen Risiken wie Prompt Injection, Modellumgehung, Halluzinations-basierten Exploits, Datenlecks oder Modell Diebstahl und mit LLM-Bereitstellungsszenarien (z. B. OpenAI, HuggingFace, selbst gehostete Modelle) und deren Angriffsflächen.
- Fähigkeit zur Analyse von Protokollen, API-Interaktionen, Inferenzantworten und Prompt-Ketten zur Identifizierung von anomalem oder riskantem Verhalten.
- Praktische Kenntnisse von SQL, Pandas und der Verarbeitung großer Datenmengen, mit Erfahrung in der Entwicklung und Bereitstellung von ML-Systemen in agilen Umgebungen.
- Starker analytischer Verstand, ausgezeichnete technische Schreibfähigkeiten und Vertrautheit mit Praktiken der verantwortungsvollen Offenlegung, Bug-Bounty-Programmen oder Ethik in der Sicherheitsforschung.
Bevorzugte Qualifikationen
- Hintergrund in KI/ML-Sicherheits-Red-Teaming oder gegnerischem ML.
- Kenntnisse über Risiken von Vektordatenbanken, unsichere RAG-Pipelines, Modell-Fingerprinting und Angriffe auf die KI-Modell-Lieferkette.
- Erfahrung mit Tools wie AutoGen, CrewAI, MetaGPT, Guardrails.ai, LLM Guard oder Tracer oder Beiträge zu diesen.
- Vertrautheit mit LLMs wie GPT-4, Claude, Mistral, LLaMA oder Falcon und deren Integration über APIs.
- Erfahrung mit Cloud-Plattformen (AWS, GCP, Azure), containerisierten Bereitstellungen und MLOps-Tools für Überwachung, Neuschulung und CI/CD-Automatisierung.
- Vertrautheit mit Secure SDLC und Threat-Modeling-Frameworks (z. B. STRIDE, MITRE ATLAS) und KI-spezifischen Sicherheitschecklisten.
- Veröffentlichungen oder Präsentationen auf Konferenzen wie Black Hat, DEF CON, USENIX, NeurIPS oder OWASP und Beiträge zu KI/ML-Projekten in den Bereichen Sicherheit, Compliance oder Unternehmensanwendungen.
Unser Arbeitsumfeld
- Kollaborativ & Transparent: Wir nutzen virtuelle Kollaborations- und Pairing-Tools, um Ideen offen auszutauschen. Siloarbeit wird nicht gefördert – Teamwork ist unsere Stärke.
- Agil & Flexibel: Wir konzentrieren uns auf die Lieferung inkrementeller Werte und passen Prozesse nur an, wenn sie unseren Zielen dienen.
- Vielfältig & Inklusiv: Wir glauben an den Aufbau von Teams mit vielfältigen Perspektiven, was Kreativität und innovative Problemlösungen fördert.
- Menschenorientiert: Unsere Mitarbeiter sind unser wertvollstes Gut. Wir investieren in persönliches Wachstum und richten individuelle Stärken an Unternehmenszielen aus.
******************************************************************************************************************
Die Gehaltsspanne für diese Position beträgt $115,000 - $140,000 pro Jahr. Die endgültige Vergütung wird auf der Grundlage mehrerer Faktoren ermittelt, darunter, aber nicht beschränkt auf Fähigkeiten, relevante Erfahrung und Arbeitsort. Bitte beachten Sie, dass diese Spanne das Grundgehalt widerspiegelt und keine Anreizvergütung oder potenzielle Aktienoptionen beinhaltet. Wir bieten außerdem ein umfassendes und sehr wettbewerbsfähiges Leistungspaket.
Qualys ist ein Equal Opportunity Employer, bitte sehen Sie unsere EEO-Richtlinie unter qualys.com/eeo/.
Warum bei uns einsteigen?
- Führungs-Impact: Helfen Sie mit, eine Security-First-Kultur voranzutreiben und die Verteidigungslandschaft von KI-Systemen der nächsten Generation im globalen Maßstab zu gestalten.
- Spitzentechnologie: Erstellen und härten Sie reale LLM, GenAI- und agentenbasierte Systeme auf skalierbarer, Cloud-nativer Infrastruktur. *
- Berufliche Weiterentwicklung: Greifen Sie auf breite Ressourcen, Mentoring, Zertifizierungen und Einblicke in Spitzenforschung zu. *
- Inklusive Kultur: Treten Sie einem Team bei, das vielfältiges Denken, kritische Forschung, Offenheit und kontinuierliche Verbesserung schätzt.
- Wettbewerbsfähige Vergütung: Wir bieten ein umfassendes Leistungspaket, einschließlich Krankenversicherung, Altersvorsorgeplänen und mehr.
Mehr Möglichkeiten mit einem Profil
Für mehr Stellen berücksichtigt werden, ohne den ganzen Prozess zu wiederholen? Erstellen Sie Ihr Profil, damit Unternehmen auf Nort Sie finden.
Profil erstellen