Experten für Kerntechnik und Sicherheitsvorkehrungen für das Red Team

Über die Arbeit

Mercor stellt ein Gremium von Nuklearexperten zusammen, um Frontier-KI-Modelle einem Red-Teaming zu unterziehen. Das Ziel ist zu testen, ob ein Modell das Missbrauchspotenzial einer technischen Anfrage korrekt beurteilen kann, indem es legitime Fragen vollständig beantwortet und wirklich gefährliche ablehnt.

Sie werden:

• Herausfordernde Ein-Turn-Prompts in Ihrem Fachgebiet schreiben, die in drei Stufen unterteilt sind: gutartig, Dual-Use und adversarisch.

• Die zurückkommenden Antworten anhand eines definierten Richtlinienstandards bewerten und beurteilen, ob jede einzelne korrekt gehandhabt wurde.

• Die Referenzantwort verfassen; wie eine korrekte Antwort aussieht und die technische Begründung dafür, warum.

Hintergrund, den wir suchenWir suchen nach fundierter Expertise im Brennstoffkreislauf sowie etwas Erfahrung im Umgang mit der Kontrolle, Bilanzierung oder Abzweigung von Material. Erfahrung im Bereich Safeguards und Nichtverbreitung ist das stärkste Signal. Die Red-Teaming-Aufgabe besteht darin, Prompts zu schreiben, die ein Modell über die Grenze hinausziehen; das plausible Forschungsframing, die Frage, die akademisch aussieht, bis man weiß, wonach sie eigentlich fragt, und dann schriftlich zu erklären, warum die Antwort akzeptabel war oder nicht. Beispiele für relevante Hintergründe (idealerweise mit Red-Teaming-Erfahrung):Safeguards-Analyst / IAEO- oder Euratom-Inspektor, Materialbilanzierung, Inspektionsregime, Zusatzprotokoll.Kerntechniker, Brennstoffkreislauf, Anreicherung, Wiederaufarbeitung und Kritikalität, von Anfang bis Ende.Kernsicherheitsingenieur (nationales Labor), MPC&A, Insider-Bedrohung, physisches Schutzdesign.Wissenschaftler für nukleare Forensik, Xenon-Überwachung, Zuordnung, Detektion und Charakterisierung.Nichtverbreitungsanalyst, Ausfuhrkontrolle, NSG-Triggerlisten, Beschaffungs- und Schmuggelwege.

Was die Arbeit erfordertDies ist eine schreibintensive Arbeit. Jede Ihrer Beurteilungen benötigt eine schriftliche Begründung, die ein Nicht-Spezialist nachvollziehen kann. Früheres technisches Schreiben, veröffentlichte Forschung oder Erfahrung als Sachverständiger sind ein starkes Signal, bitte fügen Sie ein Beispiel oder einen Link bei. Sie werden außerdem über längere Zeiträume hinweg Missbrauchsszenarien in Ihrem Fachgebiet lesen und darüber schreiben. Wir briefen Experten im Voraus hierzu, und Sie können jederzeit ohne Strafe pausieren oder aussteigen.

Bevor Sie sich bewerbenIhre Arbeit hier beinhaltet keine und darf sich nicht auf als geheim eingestufte oder exportkontrollierte Informationen stützen oder auf etwas, das unter eine Geheimhaltungsvereinbarung oder eine Verpflichtung zur Vorveröffentlichungsprüfung fällt. Wenn Sie solchen Verpflichtungen unterliegen, sind Sie möglicherweise dennoch geeignet, teilen Sie uns dies in Ihrer Bewerbung mit und wir werden den Umfang der Arbeit entsprechend anpassen.