Spezialist für Notfallvorsorge

Über die Arbeit

Mercor stellt ein Gremium von Experten für Strahlenschutz zusammen, um KI-Modelle der nächsten Generation (Frontier-Modelle) im Rahmen von Red-Teaming zu testen. Das Ziel besteht darin zu prüfen, ob ein Modell das Missbrauchspotenzial einer technischen Anfrage korrekt einschätzen kann und legitime Fragen vollständig beantwortet, während es echte Gefahrenquellen ablehnt.

Sie werden:

• Herausfordernde Ein-Rumpf-Prompts (single-turn prompts) aus Ihrem Fachgebiet verfassen, die in drei Stufen unterteilt sind: harmlos (benign), mit doppeltem Verwendungszweck (dual-use) und adversarial (angriffsorientiert).
• Die eingehenden Antworten anhand eines definierten Richtlinienstandards bewerten und beurteilen, ob jede Anfrage korrekt behandelt wurde.
• Die Referenzantwort verfassen, darlegen, wie eine korrekte Antwort aussieht, und die technischen Gründe dafür nennen.

Dieses Fachgebiet bewegt sich stärker als die meisten anderen auf dem schmalen Grat des doppelten Verwendungszwecks. Dasselbe Isotop bildet die Grundlage für Krebstherapie und industrielle Radiographie; dieselbe Abschirmungsberechnung schützt einen Arbeiter und tarnt eine Strahlenquelle. Ein Modell, das eine routinemäßige Frage zur Dosierung ablehnt, versagt genauso schwer wie eines, das eine Frage beantwortet, die es nicht beantworten sollte. Genau deshalb benötigen wir Praktiker statt Generalisten, um diese Grenze zuverlässig zu ziehen.

Hintergrund, den wir suchen

Wir suchen Personen, die die Planung für ein radiologisches Ereignis oder die Reaktion darauf, einschließlich Folgen, Kontamination und Schutzmaßnahmen, als echte Verantwortung und nicht nur als theoretisches Interesse erlebt haben. Am wichtigsten ist die Fähigkeit, eine routinemäßige professionelle Frage von einer zu unterscheiden, die auf etwas anderes abzielt: Dasselbe Ausbreitungsmodell, das einer Evakuierungsentscheidung zugrunde liegt, beschreibt auch einen Effekt, den jemand möglicherweise erzielen möchte. Sie werden Prompts schreiben, die exakt auf diesem schmalen Grat liegen, und dann beurteilen, ob das Modell diesen gehalten hat.

Beispiele für relevante Hintergründe (ideal mit Red-Teaming-Erfahrung):

• Strahlenschutznotfallplanung in einer lizenzierten Einrichtung oder auf Landes- bzw. Bundesebene (Pläne, Übungen, Trainings)
• Feldeinsatz und Überwachung, FRMAC, RAP, CBRN oder nationale radiologische Einsatzteams
• Schadens- und Ausbreitungsmodellierung, Wolken- und Ablagerungsschätzungen, Dosisprojektionen, Entscheidungen über Schutzmaßnahmen
• Einsatzleitung oder Koordination der Gefahrenabwehr bei einem radiologischen Ereignis oder einer Großübung
• Medizinische und bevölkerungsschützende radiologische Gefahrenabwehr, Triage, Gegenmaßnahmen, Überwachung der Bevölkerung

Was diese Rolle über die technische Tiefe hinaus erfordert

Dies ist eine schreibintensive Arbeit. Jedes Ihrer Urteile erfordert eine schriftliche Begründung, die auch für Nicht-Spezialisten nachvollziehbar ist. Frühere technische Texte, veröffentlichte Forschungsergebnisse oder Erfahrungen als Sachverständiger sind ein starkes Signal; bitte fügen Sie ein Beispiel oder einen Link bei. Darüber hinaus werden Sie über längere Zeiträume hinweg Szenarien zu Missbrauchsfällen in Ihrem Fachgebiet lesen und verfassen. Wir briefen Experten hierzu im Voraus, und Sie können die Arbeit jederzeit ohne Nachteile unterbrechen oder sich zurückziehen.

Bevor Sie sich bewerben

Ihre Arbeit hier beinhaltet keine als Verschlusssache eingestuften oder exportkontrollierten Informationen oder solche, die einer Geheimhaltungsvereinbarung (NDA) oder einer Veröffentlichungspflicht unterliegen, und darf sich nicht darauf stützen. Wenn Sie solchen Verpflichtungen unterliegen, kommen Sie dennoch möglicherweise infrage; teilen Sie uns dies in Ihrer Bewerbung mit, und wir werden den Arbeitsumfang entsprechend anpassen.