Spezialist für Quellensicherheit

Über die Arbeit

Mercor stellt ein Gremium von Experten für radiologische Sicherheit zusammen, um Grenzmodelle der KI einem Red-Teaming zu unterziehen. Das Ziel ist es zu testen, ob ein Modell das Missbrauchspotenzial einer technischen Anfrage korrekt einschätzen kann, legitime Fragen vollständig beantwortet und gleichzeitig wirklich gefährliche ablehnt.

Sie werden:

• Herausfordernde Ein-Turn-Prompts in Ihrem Fachgebiet schreiben, die in drei Stufen unterteilt sind: gutartig, doppelt verwendbar und adversarisch.
• Die zurückkommenden Antworten anhand eines definierten Richtlinienstandards bewerten und beurteilen, ob jede korrekt gehandhabt wurde.
• Die Referenzantwort verfassen, wie eine korrekte Antwort aussieht und die technische Begründung dafür liefern.

Dieses Fachgebiet bewegt sich stärker als die meisten anderen auf dem schmalen Grat der doppelten Verwendung. Dasselbe Isotop bildet die Grundlage für Krebstherapie und industrielle Radiographie; dieselbe Abschirmungsberechnung schützt einen Arbeiter und verbergen eine Quelle. Ein Modell, das eine Routinefrage zur Dosis ablehnt, versagt genauso schwer wie eines, das eine Frage beantwortet, die es nicht tun sollte. Genau diese Grenze verlässlich zu ziehen ist der Grund, warum wir Praktiker statt Generalisten benötigen.

Hintergrund, den wir suchen

Wir suchen nach Personen, die bewertet haben, wie Quellen der Kategorien 1 und 2 tatsächlich gestohlen, abgeschirmt oder bewegt werden, die Sicherheits- und Schwachstellenkomponente eines lizenzierten Programms, nicht nur den Papierkram. Am wichtigsten ist es, eine professionelle Standardfrage von einer zu unterscheiden, die auf etwas anderes abzielt: dieselbe Abschirmungsberechnung schützt einen Arbeiter und verbirgt eine Quelle. Sie werden Prompts verfassen, die exakt auf dieser Grenze liegen, und dann beurteilen, ob das Modell diese gehalten hat.

Beispiele für relevante Hintergründe (im Idealfall mit Red-Teaming-Erfahrung):

• Sicherheits- oder Schwachstellenbewertung von lizenzierten Einrichtungen, die Quellen der Kategorien 1 und 2 besitzen
• Entwurf und Überprüfung des physischen Schutzes: Erkennen, Verzögern, Bewerten und Reagieren; Berücksichtigung von Insider-Bedrohungen
• Programme zur Quellwiederherstellung, Konsolidierung oder Sicherheitsnachrüstung für ausgemusterte und verwaiste Quellen
• Regulatorische Sicherheitsinspektion und -konformität, 10 CFR 37 oder nationale Entsprechungen
• Transportsicherheit für radioaktives Material, Routenführung, Eskorte, Verfolgung und Rückverfolgbarkeit

Was diese Rolle über die technische Tiefe hinaus verlangt

Dies ist eine schreibintensive Arbeit. Jedes von Ihnen gefällte Urteil erfordert eine schriftliche Begründung, die ein Nicht-Spezialist nachvollziehen kann. Frühere technische Artikel, veröffentlichte Forschungsergebnisse oder Erfahrung als Sachverständiger sind ein starkes Signal; bitte fügen Sie ein Beispiel oder einen Link bei. Sie werden außerdem über längere Zeiträume hinweg Missbrauchsszenarien in Ihrem Fachgebiet lesen und darüber schreiben. Wir weisen Experten im Voraus hierzu ein, und Sie können die Arbeit jederzeit ohne Nachteile unterbrechen oder sich zurückziehen.

Bevor Sie sich bewerben

Ihre Arbeit hier beinhaltet keine klassifizierten oder exportkontrollierten Informationen oder etwas, das unter eine Geheimhaltungsvereinbarung oder eine Vorabveröffentlichungspflicht fällt, und darf sich nicht darauf stützen. Wenn Sie solchen Verpflichtungen unterliegen, sind Sie möglicherweise dennoch geeignet; teilen Sie uns dies in Ihrer Bewerbung mit, und wir werden den Umfang der Arbeit entsprechend anpassen.