Esperti di ingegneria nucleare e salvaguarnze per Red Team

Informazioni sul lavoro

Mercor sta assemblando un gruppo di esperti nel settore nucleare per effettuare il red-teaming di modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica, rispondendo pienamente alle domande legittime e rifiutando quelle genuinamente pericolose.

Ti occuperai di:

• Scrivere stimoli (prompt) complessi a turno singolo nel tuo settore, classificati su tre livelli: benigno, a duplice uso e avversariale.

• Valutare le risposte ricevute rispetto a uno standard di policy definito, giudicando se ciascuna sia stata gestita correttamente.

• Scrivere la risposta di riferimento; come si presenta una risposta corretta e il ragionamento tecnico sul perché.

Background che cerchiamo Cerchiamo una profonda conoscenza del ciclo del combustibile unita a una certa familiarità con le modalità di controllo, contabilizzazione o deviazione del materiale. L'esperienza in materia di salvaguardie e non proliferazione è il segnale più forte. L'attività di red-teaming consiste nello scrivere prompt che spingano un modello oltre il limite; la plausibile inquadratura di ricerca, la domanda che sembra accademica finché non si capisce cosa stia realmente chiedendo, per poi spiegare per iscritto perché la risposta fosse o meno accettabile. Esempi di background rilevanti (idealmente con esperienza di Red-teaming): Analista delle salvaguardie / Ispettore IAEA o Euratom, contabilità dei materiali, regimi di ispezione, Protocollo Aggiuntivo. Ingegnere nucleare, ciclo del combustibile, arricchimento, riprocessamento e criticità, end-to-end. Ingegnere della sicurezza nucleare (laboratorio nazionale), MPC&A, minacce interne, progettazione della protezione fisica. Scienziato della forense nucleare, monitoraggio dello xeno radioattivo, attribuzione, rilevamento e caratterizzazione. Analista della non proliferazione, controllo delle esportazioni, liste di attivazione NSG, canali di acquisizione e contrabbando.

Cosa richiede il lavoro Si tratta di un lavoro che richiede molta scrittura. Ogni giudizio espresso deve essere accompagnato da una motivazione scritta che un non specialista possa seguire. Precedenti esperienze di scrittura tecnica, ricerca pubblicata o testimonianza come esperto sono un forte segnale; si prega di includere un campione o un link. Leggerai e scriverai anche di scenari di uso improprio nel tuo campo per periodi prolungati. Informiamo gli esperti in anticipo su questo aspetto, e potrai fare una pausa o allontanarti in qualsiasi momento senza penalità.

Prima di candidarti Il tuo lavoro qui non comporterà, e non dovrà attingere a, informazioni classificate o soggette a controllo delle esportazioni, o qualsiasi cosa coperta da un accordo di non divulgazione (NDA) o da un obbligo di revisione pre-pubblicazione. Se hai tali obblighi potresti comunque essere il candidato ideale, faccelo sapere nella tua candidatura e valuteremo il lavoro di conseguenza.