Specialista nella Sicurezza delle Sorgenti

Informazioni sul lavoro

Mercor sta creando un gruppo di esperti in sicurezza radiologica per effettuare il red-teaming di modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica, rispondendo pienamente alle domande legittime e rifiutando quelle genuinamente pericolose.

Ti occuperai di:

• Scrivere prompt impegnativi a turno singolo nel tuo settore, classificati in tre livelli: benigno, a duplice uso e avversario.
• Valutare le risposte ricevute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
• Scrivere la risposta di riferimento, definendo quale sia l'aspetto di una risposta corretta e il ragionamento tecnico alla base.

Questo settore si colloca sulla linea del duplice uso più di altri. Lo stesso isotopo è alla base della terapia oncologica e della radiografia industriale; lo stesso calcolo della schermatura protegge un lavoratore e occulta una sorgente. Un modello che rifiuta una domanda di routine sulla dose sta fallendo tanto quanto uno che risponde a una domanda che non dovrebbe. Tracciare questa linea in modo affidabile è il motivo per cui abbiamo bisogno di professionisti e non di generalisti.

Background che stiamo cercando

Cerchiamo persone che abbiano valutato come le sorgenti di Categoria 1 e 2 vengano effettivamente rubate, schermate o spostate, l'aspetto della sicurezza e delle vulnerabilità di un programma autorizzato, non solo la parte burocratica. Ciò che conta di più è saper distinguere una domanda professionale di routine da una che cerca qualcos'altro: lo stesso calcolo della schermatura protegge un lavoratore e occulta una sorgente. Scriverai prompt che si collocano esattamente su quella linea, giudicando poi se il modello ha tenuto la posizione.

Esempi di background rilevanti (idealmente con esperienza di red-teaming):

• Valutazione della sicurezza o delle vulnerabilità di strutture autorizzate che detengono sorgenti di Categoria 1 e 2
• Progettazione e revisione della protezione fisica, rilevamento, ritardo, valutazione e risposta; considerazioni sulla minaccia interna
• Programmi di recupero, consolidamento o aggiornamento della sicurezza delle sorgenti dismesse e orfane
• Ispezione di sicurezza normativa e conformità, 10 CFR 37 o equivalenti nazionali
• Sicurezza dei trasporti per materiale radioattivo, instradamento, scorta, tracciamento e catena di custodia

Cosa richiede questo ruolo oltre alla profondità tecnica

Questo è un lavoro che richiede molta scrittura. Ogni giudizio che esprimi necessita di una motivazione scritta che un non specialista possa seguire. Precedenti esperienze di scrittura tecnica, ricerca pubblicata o testimonianza come esperto sono un forte segnale; si prega di includere un esempio o un link. Leggerai e scriverai anche su scenari di uso improprio nel tuo campo per periodi prolungati. Informiamo gli esperti in anticipo e potrai mettere in pausa o interrompere in qualsiasi momento senza penalità.

Prima di candidarti

Il tuo lavoro qui non comporterà, e non deve attingere a, informazioni classificate o soggette a restrizioni all'esportazione, o qualsiasi cosa coperta da un NDA o obbligo di revisione preventiva. Se hai tali obblighi potresti comunque essere adatto; comunicacelo nella tua candidatura e valuteremo il lavoro di conseguenza.