AI Safety Red Teamer
70 $ bis 84 $/Std.Richtwert laut Mercor
Veröffentlicht am 16. Juli 2026 · Bewerbung bis 15. November 2026
Einige Länder: Nordamerika, Europa
Ich leite Sie zur offiziellen Seite von Mercor weiter. Die Bewerbung ist kostenlos und auf Englisch.
Ich erhalte von der Plattform eine Provision, wenn ein von mir empfohlener Kandidat eingestellt wird. Für Sie ändert sich nichts.
Der AI Safety Red Teamer entwirft adversariale Prompts, um Schwachstellen und unsichere Verhaltensweisen in fortschrittlichen KI Systemen zu identifizieren. Kandidaten benötigen einen relevanten Bachelorabschluss sowie fünf Jahre Berufserfahrung im Bereich KI Sicherheit, Cybersicherheit oder in verwandten Bereichen.
Übersetzung der Originalanzeige von Mercor.
Wir suchen erfahrene AI Safety Red Teamer, um Schwachstellen in modernen KI-Systemen durch adversariales Testen zu identifizieren. Sie entwerfen anspruchsvolle Prompts, decken Modellschwächen auf und bewerten das KI-Verhalten in komplexen, risikoreichen und mehrdeutigen („Grauzonen“-)Themen.
Verantwortlichkeiten
Entwurf adversarialer Prompts zum Stresstest moderner KI-Modelle.
Identifizierung von Jailbreaks, unsicheren Verhaltensweisen, Halluzinationen und Richtlinienverstößen.
Bewertung der Modellrobustheit in den Bereichen Desinformation, Cyber, Biosecurity, Betrug, politische Inhalte und anderen sensiblen Bereichen.
Dokumentation von Schwachstellen und Beitrag zu Sicherheits-Benchmarking- und Red-Teaming-Berichten.
Zusammenarbeit mit KI-Forschern zur Verbesserung der Modell-Alignment, Robustheit und Sicherheit.
Erforderliche Qualifikationen
Bachelor-Abschluss oder höher in Informatik, Cybersicherheit, Journalismus, Kommunikationswissenschaften, Psychologie, Biologie, Chemie, Public Policy oder einer verwandten Disziplin.
5+ Jahre berufliche Erfahrung in den Bereichen KI-Sicherheit, AI Red Teaming, Trust & Safety, Cybersicherheit, investigativer Journalismus, Biowissenschaften oder einem verwandten Bereich.
Starke analytische Argumentationsfähigkeiten, Prompt-Design und schriftliche Kommunikationsfähigkeiten.
Erfahrung im Entwurf adversarialer Prompts oder bei der Bewertung modernster KI-Systeme.
Bevorzugte Qualifikationen
Erfahrung mit AI Red Teaming, RLHF, SFT, AI Alignment oder Trust & Safety.
Vertrautheit mit Jailbreak-Tests, Prompt Engineering oder adversarialen Evaluierungsmethoden.
Fachwissen in einem oder mehreren Grauzonen-Bereichen, einschließlich Cyber, Biosecurity, politische Inhalte, Desinformation oder wissenschaftliche Sicherheit.
Warum beitreten?
Helfen Sie mit, die nächste Generation modernster KI-Modelle abzusichern und zu stärken.
Arbeiten Sie an hochmodernen adversarialen Tests zusammen mit führenden KI-Forschern und Sicherheitsteams.
Beeinflussen Sie, wie KI-Systeme auf komplexe, reale Sicherheitsherausforderungen reagieren.
4 offene Stellen
Einige Länder: Nordamerika, Europa
Über Mercor
Mercor ist ein US-Marktplatz, der Remote-Experten für KI- und Beratungsprojekte einstellt, vom Recht bis zum Ingenieurwesen. Die Originalanzeige steht auf deren Website.
Diese Stelle auf Mercor ansehenÄhnliche Stellen
AI Safety Practitioner
Ein AI Safety Practitioner bewertet fortschrittliche KI Modelle hinsichtlich Sicherheit, faktischer Genauigkeit und Richtlinienkonformität in sensiblen Bereichen. Die Rolle erfordert einen relevanten Bachelorabschluss sowie fünf oder mehr Jahre Berufserfahrung in den Bereichen KI Sicherheit, Trust and Safety, Journalismus oder öffentliche Politik.
Vor 91 Tagen veröffentlicht60 $ bis 70 $/Std.
AI Safety Experts, English & Danish
This remote role involves red teaming conversational AI models and agents by probing them with adversarial inputs to uncover vulnerabilities and generate safety datasets. Candidates must have native fluency in English and Danish, along with prior red teaming experience in AI, cybersecurity, or socio-technical probing.
Vor 78 Tagen veröffentlicht48 $ bis 62 $/Std.
AI Safety Experts, English & Norwegian
The AI Safety Expert red teams conversational AI models by using adversarial inputs to uncover vulnerabilities and generate safety data. The role requires native fluency in both English and Norwegian, alongside prior experience in AI red teaming, cybersecurity, or socio-technical probing.
Vor 78 Tagen veröffentlicht48 $ bis 62 $/Std.
CVE Vulnerability Expert
The CVE Vulnerability Expert evaluates vulnerability reproduction and remediation tasks for AI model training. The role requires at least three years of hands-on experience in application security, penetration testing, or vulnerability research, along with proficiency in Docker and Docker Compose.
Vor 51 Tagen veröffentlicht70 $ bis 90 $/Std.