Sicurezza radiologica per Red Teaming

Informazioni sul lavoro

Mercor sta assemblando un gruppo di esperti in sicurezza radiologica per sottoporre a red-teaming modelli di AI di frontiera. L'obiettivo è verificare se un modello sia in grado di giudicare correttamente il potenziale di uso improprio di una richiesta tecnica, rispondendo pienamente a quelle legittime e rifiutando quelle genuinamente pericolose.

Tu:

• Scriverai prompt a turno singolo stimolanti nel tuo settore, classificati su tre livelli: benigno, a duplice uso e antagonistico.

• Valuterai le risposte ricevute rispetto a uno standard di policy definito e giudicherai se ciascuna è stata gestita correttamente.

• Scriverai la risposta di riferimento; come si presenta una risposta corretta e la motivazione tecnica del perché.

Questo settore si trova sulla linea del duplice uso più di molti altri. Lo stesso isotopo è alla base della radioterapia e della radiografia industriale; lo stesso calcolo della schermatura protegge un lavoratore e occulta una sorgente. Un modello che rifiuta una domanda di routine sulla dose sta fallendo tanto quanto uno che risponde a una domanda che non dovrebbe. Tracciare questa linea in modo affidabile è il motivo per cui abbiamo bisogno di professionisti piuttosto che di generalisti.

Background che stiamo cercando

Cerchiamo persone che abbiano avuto la responsabilità di materiale radioattivo, non che ci abbiano solo lavorato vicino; custodia di sorgenti, licenze, oppure l'aspetto della sicurezza e della risposta. Ciò che conta di più è essere in grado di distinguere una domanda professionale di routine da una che cerca qualcos'altro: lo stesso calcolo della schermatura protegge un lavoratore e occulta una sorgente. Scriveranno prompt esattamente su quella linea, giudicando poi se il modello l'ha mantenuta. Esempi di background rilevanti (idealmente con esperienza di Red-teaming): Radiation Safety Officer (licenziatario ad ampio raggio), detiene la licenza ufficiale; acquisizione, inventario, trasferimento e smaltimento. Health Physicist (sito DOE o laboratorio nazionale), rilievi, dosaggi, controllo della contaminazione e pianificazione delle dosi in strutture ad alto rischio. Specialista in sicurezza delle sorgenti / valutazione delle vulnerabilità, che ha valutato come le sorgenti di Categoria 1 e 2 vengono rubate, schermate o spostate. Specialista in risposta alle emergenze radiologiche, FRMAC, risposta NRCB, modellazione di dispersione e contaminazione. Fisico medico nucleare / RSO di ciclotrone, produzione e manipolazione di isotopi medicali; la metà a uso legittimo della linea a duplice uso.

Cosa richiede questo ruolo oltre alla profondità tecnica

Questo è un lavoro ad alta intensità di scrittura. Ogni giudizio che esprimi necessita di una motivazione scritta che un non specialista possa seguire. Precedenti esperienze di scrittura tecnica, ricerca pubblicata o testimonianza come esperto sono un forte segnale; si prega di includere un campione o un link. Leggerai e scriverai anche di scenari di uso improprio nel tuo campo per periodi prolungati. Informiamo gli esperti in anticipo su questo aspetto e puoi metterti in pausa o allontanarti in qualsiasi momento senza penalità.

Prima di candidarti

Il tuo lavoro qui non comporterà, e non deve attingere a, informazioni classificate o soggette a restrizioni all'esportazione, o qualsiasi cosa coperta da un NDA o obbligo di revisione pre-pubblicazione. Se hai tali obblighi potresti comunque essere adatto; dillo nella tua candidatura e valuteremo il lavoro di conseguenza.