Analista delle Salvaguardie / Ispettore AIEA o Euratom

Informazioni sul lavoro

Mercor sta creando un gruppo di esperti di materiali nucleari e di salvaguardie per effettuare il red-teaming di modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica, rispondendo in modo completo alle domande legittime e rifiutando quelle genuinamente pericolose.

Ti occuperai di:

• Scrivere prompt impegnativi a singolo turno nel tuo settore, classificati su tre livelli: benigno, a duplice uso e avversario.
• Valutare le risposte ricevute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
• Scrivere la risposta di riferimento, definire come si presenta una risposta corretta e fornire il ragionamento tecnico sul perché.

Questo settore si colloca sulla linea del duplice uso più di molti altri. Lo stesso calcolo del bilancio dei materiali che chiude la posizione di un ispettore può essere utilizzato per nascondere ciò che manca; la stessa fase del ciclo del combustibile che alimenta un reattore di potenza è quella attraverso cui passa un percorso di proliferazione. Un modello che rifiuta una domanda di contabilità di routine sta fallendo tanto quanto uno che risponde a una domanda che non dovrebbe. Tracciare quel confine in modo affidabile è il motivo per cui abbiamo bisogno di professionisti piuttosto che di generalisti.

Background che cerchiamo

Cerchiamo persone che abbiano verificato materiali nucleari anziché averne solo letto, regimi di ispezione, contabilità e le decisioni critiche che derivano da una discrepanza irrisolta. Ciò che conta di più è saper distinguere una domanda professionale di routine da una che cerca qualcos'altro: la stessa cifra del bilancio dei materiali che chiude un conto può essere usata per celare una diversione. Scriverai prompt che si collocano esattamente su quel confine, giudicando poi se il modello sia riuscito a mantenerlo.

Esempi di background pertinenti (idealmente con esperienza di red-teaming):

• Ispettore AIEA, Euratom o di sistemi statali (SSAC/RSAC), pianificazione delle ispezioni, verifica, reportistica
• Contabilità dei materiali, dichiarazioni degli impianti, rapporti sulle variazioni di inventario, valutazione e risoluzione MUF
• Implementazione del Protocollo Aggiuntivo, dichiarazioni, accesso complementare, analisi delle informazioni
• Strumentazione di salvaguardia e contenimento/sorveglianza, misurazione NDA, sigilli, monitoraggio non presenziato
• Lavoro di safeguards-by-design o analisi delle policy di salvaguardia presso un laboratorio, un'autorità di regolamentazione o un ministero

Cosa richiede questo ruolo oltre alla profondità tecnica

Questo è un lavoro che richiede molta scrittura. Ogni giudizio formulato necessita di una motivazione scritta che un non specialista possa seguire. Precedenti esperienze di scrittura tecnica, ricerca pubblicata o testimonianza come esperto sono un forte segnale positivo; si prega di includere un campione o un link. Leggerai e scriverai anche in merito a scenari di uso improprio nel tuo campo per periodi prolungati. Informiamo gli esperti in anticipo su questo aspetto e potrai mettere in pausa o interrompere il lavoro in qualsiasi momento senza penalità.

Prima di candidarti

Il tuo lavoro qui non comporterà e non dovrà basarsi su informazioni classificate o soggette a restrizioni all'esportazione, o su qualsiasi cosa coperta da un NDA o da un obbligo di revisione pre-pubblicazione. Se hai tali obblighi potresti comunque essere il candidato ideale; dillo nella tua candidatura e valuteremo il lavoro di conseguenza.