Ricercatore in Difesa Chimica

Informazioni sul lavoro

Mercor sta creando un gruppo di esperti in chimica e sicurezza chimica per testare l'affidabilità (red-teaming) di modelli AI di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica, rispondendo pienamente alle domande legittime e rifiutando quelle genuinamente pericolose.

Dovrai:

• Scrivere prompt impegnativi a turno singolo nel tuo settore, classificati su tre livelli: benigno, a duplice uso e avversariale.
• Valutare le risposte ricevute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
• Scrivere la risposta di riferimento, come si presenta una risposta corretta e il ragionamento tecnico alla base.

Questo settore si trova sulla linea del duplice uso più di molti altri. La stessa tossicologia che stabilisce la dose di una contromisura descrive un'esposizione che qualcuno potrebbe pianificare; gli stessi dati di decontaminazione che proteggono i soccorritori ti dicono cosa la vanifica. Un modello che rifiuta una domanda di routine su una contromisura o sui DPI sta fallendo tanto quanto uno che risponde a una domanda a cui non dovrebbe. Tracciare questa linea in modo affidabile è il motivo per cui abbiamo bisogno di professionisti piuttosto che di generalisti.

Il background che cerchiamo

Cerchiamo persone che abbiano lavorato sulle minacce chimiche dal lato difensivo in un contesto istituzionale, contromisure, protezione, rilevamento, verifica. Ciò che conta di più è essere in grado di distinguere una domanda professionale di routine da una che cerca qualcos'altro: le stesse proprietà dell'agente che guidano un protocollo di trattamento guidano una valutazione della minaccia. Scriverai prompt che si trovano esattamente su quella linea, per poi giudicare se il modello l'ha mantenuta.

Esempi di background rilevanti (idealmente con esperienza di red-teaming):

• Ricerca sulla difesa chimica presso USAMRICD, DoD, CDC o un istituto nazionale alleato
• Tossicologia degli agenti di guerra chimica e sviluppo di contromisure mediche
• Ricerca su decontaminazione, protezione e rilevamento per minacce chimiche
• Lavoro correlato alla CWC, verifica, distruzione, analisi di laboratori designati
• Valutazione delle conseguenze e gestione medica dell'esposizione chimica

Cosa richiede questo ruolo oltre alla profondità tecnica

Questo è un lavoro che richiede molta scrittura. Ogni giudizio che esprimi necessita di una motivazione scritta che un non specialista possa seguire. Precedenti esperienze di scrittura tecnica, ricerca pubblicata o testimonianza come esperto sono un forte segnale; ti invitiamo a includere un campione o un link. Leggerai e scriverai anche di scenari di uso improprio nel tuo campo per periodi prolungati. Informiamo gli esperti in anticipo su questo aspetto e potrai mettere in pausa o allontanarti in qualsiasi momento senza penalità.

Prima di candidarti

Il tuo lavoro qui non comporterà e non deve attingere a informazioni classificate o soggette a restrizioni all'esportazione, o a qualsiasi cosa coperta da un NDA o da un obbligo di revisione preventiva alla pubblicazione. Se hai tali obblighi potresti comunque essere il candidato ideale; dillo nella tua candidatura e valuteremo il lavoro di conseguenza.