Chimico Analitico

Informazioni sul lavoro

Mercor sta assemblando un panel di esperti di chimica e sicurezza chimica per effettuare il red-teaming di modelli di AI di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica, rispondendo pienamente alle domande legittime e rifiutando quelle genuinamente pericolose.

Ti occuperai di:

• Scrivere prompt impegnativi a turno singolo nel tuo settore, etichettati su tre livelli: benigno, a duplice uso e avversariale.
• Valutare le risposte ricevute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
• Scrivere la risposta di riferimento, come si presenta una risposta corretta e il relativo ragionamento tecnico.

Questo settore si trova sulla linea del duplice uso più di molti altri. Lo stesso metodo che rileva un composto pericoloso a livello di tracce definisce la soglia al di sotto della quale qualcuno cercherebbe di rimanere; la stessa voce di libreria che identifica un elemento sconosciuto ti dice cosa uno screening vedrà e cosa non vedrà. Un modello che rifiuta una domanda di routine sulla validazione di un metodo sta fallendo tanto quanto uno che risponde a una domanda a cui non dovrebbe rispondere. Tracciare questa linea in modo affidabile è il motivo per cui abbiamo bisogno di professionisti piuttosto che di generalisti.

Background che cerchiamo

Cerchiamo analisti che abbiano sviluppato e validato metodi per composti pericolosi, persone che sappiano cosa significhi realmente un limite di ciò che è rilevabile e cosa implichi. Ciò che conta di più è saper distinguere una domanda professionale di routine da una che cerca qualcos'altro: lo stesso metodo di rilevamento che trova un composto descrive come eludere lo screening. Scriverai prompt che si collocano esattamente su quella linea, giudicando poi se il modello l'ha mantenuta.

Esempi di background pertinenti (idealmente con esperienza di red-teaming):

• Rilevamento e identificazione di composti pericolosi, GC-MS, LC-MS/MS, IR, NMR
• Sviluppo e validazione di metodi per analisi a livello di tracce
• Campionamento e analisi ambientali, occupazionali o di risposta alle emergenze
• Standard di riferimento, librerie spettrali e identificazione di ignoti
• Accreditamento di laboratori, QA/QC e prove valutative

Cosa richiede questo ruolo oltre alla profondità tecnica

Questo è un lavoro ad alta intensità di scrittura. Ogni giudizio che esprimi necessita di una motivazione scritta che un non specialista possa seguire. Precedenti esperienze di scrittura tecnica, ricerca pubblicata o testimonianza come esperto sono un forte segnale; ti chiediamo di includere un campione o un link. Leggerai e scriverai anche su scenari di uso improprio nel tuo campo per periodi prolungati. Informiamo gli esperti in anticipo su questo aspetto e puoi metterti in pausa o fare un passo indietro in qualsiasi momento senza penalità.

Prima di candidarti

Il tuo lavoro qui non comporterà e non dovrà attingere a informazioni classificate o soggette a restrizioni all'esportazione, o a qualsiasi cosa coperta da un NDA o da un obbligo di revisione preventiva alla pubblicazione. Se hai tali obblighi potresti comunque essere adatto; dillo nella tua candidatura e valuteremo il lavoro di conseguenza.