Esperto di materiali energetici per Red Teaming

Informazioni sul lavoro

Mercor sta assemblando un gruppo di esperti di esplosivi e materiali energetici per effettuare il red-teaming sui modelli di AI di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica: rispondere pienamente alle domande legittime rifiutando al contempo quelle realmente pericolose.

Ti occuperai di:

• Scrivere stimolanti prompt a turno singolo nel tuo settore, classificati su tre livelli: benigno, a duplice uso e avversario.

• Valutare le risposte ricevute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.

• Scrivere la risposta di riferimento; come si presenta una risposta corretta e il relativo ragionamento tecnico.

I modelli tendono a fallire in questo settore in entrambe le direzioni: rifiutando domande di routine che un ingegnere minerario o un investigatore pongono quotidianamente, e poi rispondendo a una richiesta che avrebbero dovuto bloccare perché presentata in veste accademica. Capire la differenza richiede qualcuno che abbia svolto questo lavoro.

Il profilo che cerchiamo

Stiamo reclutando su due profili e abbiamo bisogno di entrambi: chimici con esperienza in materiali speciali, e ingegneri o operatori con esperienza in sistemi di innesco e propulsione. È preferibile una precedente esperienza nella valutazione dell'AI o nel red-teaming. I background pertinenti includono:

• Specialista in dispositivi pericolosi / Professionista della sicurezza pubblica, procedure di messa in sicurezza e valutazione dei dispositivi.

• Chimico specializzato in materiali (pirotecnica o propulsione), formulazione, sintesi e test delle prestazioni.

• Specialista federale certificato in materiali / Analista di incidenti, identificazione forense e analisi della scena.

• Ingegnere di propulsione ed effetti, progettazione di munizioni e sistemi di propulsione.

• Ingegnere minerario di brillamento, manipolazione, stoccaggio e trasporto di materiali speciali.

Cosa richiede questo ruolo oltre alla competenza tecnica

Questo è un lavoro che richiede molta scrittura. Ogni giudizio formulato necessita di una motivazione scritta che un non specialista possa seguire. Precedenti esperienze di scrittura tecnica, reportistica su incidenti o esplosioni, ricerche pubblicate o testimonianze come esperto costituiscono un forte segnale; si prega di includere un esempio o un link.

Inoltre, leggerai e scriverai di scenari di uso improprio nel tuo campo per periodi prolungati. Informiamo gli esperti in anticipo su questo aspetto e puoi metterti in pausa o allontanarti in qualsiasi momento senza penalità.

Prima di candidarti

Il tuo lavoro qui non comporterà, e non dovrà attingere a, informazioni classificate o soggette a restrizioni all'esportazione, o qualsiasi cosa coperta da un NDA o da un obbligo di revisione preventiva. Se hai tali obblighi potresti comunque essere il candidato ideale; dillo nella tua candidatura e valuteremo il lavoro di conseguenza.