Analista della Non Proliferazione

Informazioni sul lavoro

Mercor sta assemblando un gruppo di esperti di materiali nucleari e salvaguardie per sottoporre a red-teaming modelli di intelligenza artificiale all'avanguardia. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica, rispondendo pienamente a domande legittime e rifiutando quelle genuinamente pericolose.

Tu:

• Scriverai stimoli (prompt) a turno singolo complessi nel tuo settore, etichettati su tre livelli: benigno, a duplice uso e antagonistico.
• Valuterai le risposte ricevute rispetto a uno standard normativo definito e giudicherai se ciascuna è stata gestita correttamente.
• Scriverai la risposta di riferimento, l'aspetto di una risposta corretta e il ragionamento tecnico sottostante.

Questo settore si trova sulla linea del duplice uso più di molti altri. La stessa lista di controllo che blocca una spedizione indica a un agente degli acquisti cosa evitare di dichiarare; la stessa analisi dei percorsi che informa le linee guida è una tabella di marcia letta dalla direzione opposta. Un modello che rifiuta una domanda di classificazione delle esportazioni di routine sta fallendo tanto quanto uno che risponde a una domanda a cui non dovrebbe rispondere. Tracciare questa linea in modo affidabile è il motivo per cui abbiamo bisogno di professionisti piuttosto che di generalisti.

Background che cerchiamo

Cerchiamo persone che abbiano affrontato professionalmente questioni di proliferazione, controllo delle esportazioni, attuazione di trattati o analisi di programmi, e che sappiano distinguere una domanda di conformità da una di elusione. La cosa più importante è essere in grado di distinguere una domanda professionale di routine da una che cerca qualcos'altro: la stessa lista di controllo che blocca un trasferimento indica anche cosa aggirare. Scriverai prompt che si trovano esattamente su quella linea, giudicando poi se il modello ha retto.

Esempi di background rilevanti (idealmente con esperienza di red-teaming):

• Licenze di controllo delle esportazioni, classificazione o applicazione, elenchi a duplice uso, controlli catch-all, screening degli utenti finali
• Attuazione di trattati e accordi, TNP, CTBT, accordi di salvaguardia, accordi di cooperazione bilaterale
• Analisi dei percorsi di proliferazione e dei programmi presso un laboratorio, un'agenzia, un ministero o un istituto di ricerca
• Sanzioni, reti di approvvigionamento o analisi del commercio illecito
• Analisi open-source e tecnica dei programmi nucleari

Cosa richiede questo ruolo oltre alla profondità tecnica

Questo è un lavoro ad alta intensità di scrittura. Ogni giudizio che esprimi richiede una motivazione scritta che un non specialista possa seguire. Precedenti esperienze di scrittura tecnica, ricerche pubblicate o testimonianze di esperti costituiscono un forte segnale; si prega di includere un esempio o un link. Leggerai e scriverai anche di scenari di uso improprio nel tuo campo per periodi prolungati. Informiamo gli esperti in anticipo e puoi fare una pausa o interrompere in qualsiasi momento senza penalità.

Prima di candidarti

Il tuo lavoro qui non comporterà e non dovrà attingere a informazioni classificate o soggette a controllo delle esportazioni, o a qualsiasi cosa coperta da un NDA o da un obbligo di revisione pre-pubblicazione. Se hai tali obblighi potresti comunque essere adatto; comunicacelo nella tua candidatura e valuteremo il lavoro di conseguenza.