Ingegnere della Sicurezza Nucleare

Informazioni sul lavoro

Mercor sta assemblando un gruppo di esperti in materiali nucleari e salvaguardie per sottoporre a red-teaming modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica, rispondendo pienamente alle domande legittime e rifiutando quelle genuinamente pericolose.

Ti occuperai di:

• Scrivere stimoli (prompt) complessi a singolo turno nel tuo settore, classificati su tre livelli: benigno, a duplice uso e avversario.
• Valutare le risposte ricevute rispetto a uno standard di criteri definito e giudicare se ciascuna sia stata gestita correttamente.
• Scrivere la risposta di riferimento, l'aspetto di una risposta corretta e il ragionamento tecnico alla base.

Questo settore si colloca sulla linea del duplice uso più di molti altri. Lo stesso calcolo del bilancio dei materiali che chiude il resoconto di un ispettore può essere utilizzato per occultare ciò che manca; la stessa valutazione di protezione che rafforza un impianto ne mappa le vulnerabilità. Un modello che rifiuta una domanda di contabilità dei materiali di routine sta fallendo tanto quanto uno che risponde a una domanda che non dovrebbe. Tracciare questa linea in modo affidabile è il motivo per cui abbiamo bisogno di professionisti anziché di generalisti.

Background che cerchiamo

Cerchiamo persone che si siano occupate di mantenere il materiale nucleare al suo posto, di controllo e contabilità dei materiali, di protezione fisica e delle valutazioni che verificano entrambi gli aspetti. Ciò che conta di più è saper distinguere una domanda professionale di routine da una che cerca di ottenere qualcos'altro: la stessa valutazione di vulnerabilità che colma una lacuna ne descrive anche una. Scriverai prompt che si trovano esattamente su quella linea, giudicando poi se il modello l'abbia mantenuta.

Esempi di background pertinenti (idealmente con esperienza di red-teaming):

• Progettazione, funzionamento o valutazione di programmi di controllo e contabilità dei materiali (MC&A) presso un laboratorio nazionale o un licenziatario
• Ingegneria dei sistemi di protezione fisica, sensori, barriere, ritardo, forza di risposta, test delle prestazioni
• Valutazione delle vulnerabilità e analisi dei percorsi degli avversari per impianti nucleari
• Lavoro su minacce interne e programmi di affidabilità umana
• Politica di sicurezza nucleare, formazione o programmi di assistenza internazionale

Cosa richiede questo ruolo oltre alla profondità tecnica

Questo è un lavoro ad alta intensità di scrittura. Ogni giudizio formulato richiede una motivazione scritta che un non specialista possa seguire. Precedenti esperienze di scrittura tecnica, ricerche pubblicate o testimonianze di esperti costituiscono un forte segnale; si prega di includere un esempio o un link. Leggerai e scriverai anche di scenari di uso improprio nel tuo campo per periodi prolungati. Informiamo gli esperti in anticipo su questo aspetto e potrai fare una pausa o allontanarti in qualsiasi momento senza penalità.

Prima di candidarti

Il tuo lavoro qui non comporterà e non dovrà attingere a informazioni classificate o soggette a restrizioni all'esportazione, né a nulla coperto da un accordo di non divulgazione (NDA) o da un obbligo di revisione preventiva. Se hai tali obblighi potresti comunque essere il candidato ideale; dillo nella tua candidatura e valuteremo il lavoro di conseguenza.