Experte für energiereiche Materialien für Redteaming

Über die Tätigkeit

Mercor stellt ein Gremium aus Experten für Sprengstoffe und energiereiche Materialien zusammen, um frontier AI-Modelle einem Red-Teaming zu unterziehen. Das Ziel besteht darin zu testen, ob ein Modell das Missbrauchspotenzial einer technischen Anfrage korrekt einschätzen kann: Legitime Fragen vollständig zu beantworten und gleichzeitig wirklich gefährliche abzulehnen.

Sie werden:

• Herausfordernde einstufige Prompts in Ihrem Fachgebiet verfassen, unterteilt in drei Stufen: gutartig, Dual-Use und adversarial.

• Die eintreffenden Antworten anhand eines definierten Richtlinienstandards auswerten und beurteilen, ob jede einzelne korrekt gehandhabt wurde.

• Die Referenzantwort verfassen; wie eine korrekte Antwort aussieht und die technische Begründung dafür.

Modelle neigen dazu, in diesem Bereich in beide Richtungen zu versagen: Sie lehnen Routinenfragen ab, die ein Bergbauingenieur oder Ermittler täglich stellt, und gehen dann auf eine Anfrage ein, die sie hätte abweisen sollen, nur weil sie in ein akademisches Gewand gehüllt war. Zu wissen, was was ist, erfordert jemanden, der die Arbeit praktisch ausgeübt hat.

Hintergrund, den wir suchen

Wir rekrutieren für zwei Profile und benötigen beide: Chemiker mit Fachwissen über Spezialmaterialien sowie Ingenieure oder Praktiker mit Erfahrung in Initiierungs- und Antriebssystemen. Vorkenntnisse in der KI-Evaluierung oder im Red-Teaming werden bevorzugt. Relevante Hintergründe umfassen:

• Spezialist für gefährliche Vorrichtungen / Experte für öffentliche Sicherheit, Entschärfungsverfahren und Beurteilung von Vorrichtungen.

• Chemiker für Spezialmaterialien (Pyrotechnik oder Antriebstechnik), Formulierung, Synthese und Leistungstests.

• Staatlich geprüfter Materialspezialist / Vorfallsanalyst, forensische Identifizierung und Tatortanalyse.

• Antriebs- und Wirkungstechniker, Entwurf von Munitions- und Antriebssystemen.

• Gewerblicher Sprengtechniker, Handhabung, Lagerung und Transport von Spezialmaterialien.

Was diese Rolle über technische Tiefe hinaus verlangt

Dies ist eine schreibintensive Tätigkeit. Jede Ihrer Beurteilungen benötigt eine schriftliche Begründung, die auch Nicht-Spezialisten nachvollziehen können. Vorherige technische Autorenschaft, Vorfalls- oder Explosionsberichte, veröffentlichte Forschungsergebnisse oder Erfahrung als sachverständiger Zeuge sind ein starkes Signal; bitte fügen Sie eine Arbeitsprobe oder einen Link bei.

Sie werden zudem über längere Zeiträume hinweg Szenarien zu Missbräuchen in Ihrem Fachgebiet lesen und darüber schreiben. Wir briefen Experten hierzu im Voraus, und Sie können jederzeit ohne Nachteile pausieren oder sich zurückziehen.

Bevor Sie sich bewerben

Ihre Arbeit hier beinhaltet keine und darf sich nicht stützen auf Verschlusssachen oder exportkontrollierte Informationen sowie nichts, was unter eine Geheimhaltungsvereinbarung oder eine Vorabveröffentlichungspflicht fällt. Wenn Sie solchen Verpflichtungen unterliegen, könnten Sie dennoch gut zu uns passen; teilen Sie uns dies in Ihrer Bewerbung mit, und wir werden den Arbeitsumfang entsprechend anpassen.