AI Safety Practitioner
60 $ bis 70 $/Std.Richtwert laut Mercor
Veröffentlicht am 16. Juli 2026 · Bewerbung bis 15. November 2026
Einige Länder: Nordamerika, Europa
Ich leite Sie zur offiziellen Seite von Mercor weiter. Die Bewerbung ist kostenlos und auf Englisch.
Ich erhalte von der Plattform eine Provision, wenn ein von mir empfohlener Kandidat eingestellt wird. Für Sie ändert sich nichts.
Ein AI Safety Practitioner bewertet fortschrittliche KI Modelle hinsichtlich Sicherheit, faktischer Genauigkeit und Richtlinienkonformität in sensiblen Bereichen. Die Rolle erfordert einen relevanten Bachelorabschluss sowie fünf oder mehr Jahre Berufserfahrung in den Bereichen KI Sicherheit, Trust and Safety, Journalismus oder öffentliche Politik.
Übersetzung der Originalanzeige von Mercor.
Wir suchen erfahrene AI Safety Practitioners zur Evaluierung von Sicherheit, Qualität und Alignment von Spitzen-KI-Modellen bei komplexen, politisch sensiblen und mehrdeutigen ("Graubereich-") Themen. Sie bewerten KI-generierte Antworten, wenden Sicherheitsrichtlinien an und tragen durch strukturierte Bewertungen und Feedback zur Verbesserung des Modellverhaltens bei.
Verantwortlichkeiten
Bewertung KI-generierter Antworten hinsichtlich Sicherheit, sachlicher Richtigkeit, Einhaltung von Richtlinien und Gesamtqualität.
Überprüfung von Inhalten in den Bereichen Desinformation, politische Einflussnahme, Selbstverletzung, Gewalt, Cyber, Biosicherheit und anderen sensiblen Bereichen.
Anwendung und Weiterentwicklung von Bewertungsrastern für RLHF, SFT und KI-Sicherheits-Benchmarking.
Identifizierung unsicherer Outputs, Halluzinationen, logischer Fehler und Richtlinienverstöße.
Bereitstellung strukturierten Feedbacks zur Verbesserung von Modell-Alignment und Sicherheitsleistung.
Zusammenarbeit mit KI-Forschern und Sicherheitsteams bei laufenden Evaluierungsinitiativen.
Erforderliche Qualifikationen
Abgeschlossenes Bachelorstudium oder höher in Journalismus, Kommunikationswissenschaften, Psychologie, Soziologie, Public Policy, Jura, Biologie, Chemie, Informatik oder einer verwandten Disziplin.
5+ Jahre Berufserfahrung im Bereich AI Safety, Trust & Safety, Journalismus, Public Policy, wissenschaftlicher Forschung, Sicherheit oder einem verwandten Bereich.
Exzellente schriftliche Ausdrucksweise in Englisch, ausgeprägtes kritisches Denken und analytische Fähigkeiten.
Fähigkeit zur konsistenten Bewertung nuancierter und richtliniensensibler Szenarien.
Bevorzugte Qualifikationen
Erfahrung mit AI Safety, RLHF, SFT, Trust & Safety oder KI-Evaluierung.
Vertrautheit mit Sicherheitsrichtlinien, Content-Moderation oder der Entwicklung von Bewertungsrastern.
Erfahrung in der Prüfung komplexer, risikoreicher oder mehrdeutiger Inhalte.
Warum Sie zu uns passen
Gestalten Sie die Sicherheit und das Verhalten von Spitzen-KI-Modellen, die von Millionen Menschen weltweit genutzt werden.
Arbeiten Sie an anspruchsvollen, realen Sicherheitsevaluierungen in nuancierten und wirkungsvollen Bereichen.
Arbeiten Sie mit führenden KI-Forschern, Ingenieuren und Sicherheitsteams zusammen.
4 offene Stellen
Einige Länder: Nordamerika, Europa
Über Mercor
Mercor ist ein US-Marktplatz, der Remote-Experten für KI- und Beratungsprojekte einstellt, vom Recht bis zum Ingenieurwesen. Die Originalanzeige steht auf deren Website.
Diese Stelle auf Mercor ansehenÄhnliche Stellen
AI Safety Red Teamer
Der AI Safety Red Teamer entwirft adversariale Prompts, um Schwachstellen und unsichere Verhaltensweisen in fortschrittlichen KI Systemen zu identifizieren. Kandidaten benötigen einen relevanten Bachelorabschluss sowie fünf Jahre Berufserfahrung im Bereich KI Sicherheit, Cybersicherheit oder in verwandten Bereichen.
Vor 91 Tagen veröffentlicht70 $ bis 84 $/Std.
Behavioral Health Expert, AI Safety and Model Evaluation
Behavioral health experts evaluate AI model conversations for safety, neutrality, and sound judgment in sensitive user interactions. Candidates must hold a degree in a relevant field and possess at least three years of professional experience in mental health, counseling, or social services.
Vor 13 Tagen veröffentlicht45 $ bis 70 $/Std.
Spezialist für AI Safety (Englisch)
Der English AI Safety Specialist ueberprueft kurze Gespraeche und bewertet KI Antworten mithilfe schriftlicher Richtlinien, um strukturiertes Feedback einzureichen. Zu den Hauptanforderungen gehoeren ein starkes englisches Leseverstaendnis und akribische Aufmerksamkeit fuer Details.
Vor 2 Tagen veröffentlicht40 $ bis 45 $/Std.
Strahlenschutzbeauftragter
Der Radiation Safety Officer verfasst Prompts und bewertet die Antworten von KI-Modellen der nächsten Generation im Hinblick auf Strahlenschutz, Dual-Use-Szenarien und Missbrauchspotenzial. Der ideale Kandidat verfügt über eine offizielle RSO-Lizenz und starke Fähigkeiten im technischen Schreiben.
Vor 31 Tagen veröffentlicht