Chercheur en défense chimique

À propos du travail

Mercor assemble un panel d'experts en chimie et en sécurité chimique pour tester la robustesse ("red-teaming") de modèles d'IA de pointe. L'objectif est de vérifier si un modèle peut juger correctement du potentiel d'utilisation malveillante d'une requête technique, en répondant pleinement aux questions légitimes tout en refusant celles qui sont réellement dangereuses.

Vous allez :

• Rédiger des prompts complexes à tour unique dans votre domaine, classés selon trois niveaux : bénin, à double usage et contradictoire.
• Évaluer les réponses obtenues par rapport à un standard politique défini, et juger si chacune a été traitée correctement.
• Rédiger la réponse de référence, ce à quoi ressemble une réponse correcte, et le raisonnement technique sous-jacent.

Ce domaine se situe plus que la plupart sur la ligne du double usage. La même toxicologie qui définit la dose d'une contre-mesure décrit une exposition qu'une personne pourrait rechercher ; les mêmes données de décontamination qui protègent les intervenants vous indiquent ce qui la met en échec. Un modèle qui refuse une question de routine sur une contre-mesure ou un EPI échoue aussi lourdement qu'un modèle qui répond à une question qu'il ne devrait pas. Tracer cette ligne de manière fiable est la raison pour laquelle nous avons besoin de praticiens plutôt que de généralistes.

Profil recherché

Nous recherchons des personnes ayant travaillé sur les menaces chimiques du côté de la défense dans un cadre institutionnel : contre-mesures, protection, détection, vérification. Le plus important est d'être capable de distinguer une question professionnelle de routine d'une question cherchant à obtenir autre chose : les mêmes propriétés d'agent qui guident un protocole de traitement guident une évaluation des menaces. Vous rédigerez des prompts qui se situent exactement sur cette ligne, puis évaluerez si le modèle l'a tenue.

Exemples de profils pertinents (idéalement avec une expérience en red-teaming) :

• Recherche en défense chimique auprès de l'USAMRICD, du DoD, du CDC ou d'un institut national allié
• Toxicologie des agents de guerre chimique et développement de contre-mesures médicales
• Recherche sur la décontamination, la protection et la détection face aux menaces chimiques
• Travaux liés à la Convention sur l'interdiction des armes chimiques (CIAC), vérification, destruction, analyse en laboratoire désigné
• Évaluation des conséquences et gestion médicale de l'exposition chimique

Ce que ce rôle exige au-delà de la profondeur technique

Il s'agit d'un travail intensif de rédaction. Chaque jugement que vous formulez doit s'accompagner d'une justification écrite compréhensible par un non-spécialiste. Une expérience préalable en rédaction technique, en recherche publiée ou en tant qu'expert témoin constitue un atout majeur ; veuillez inclure un exemple ou un lien. Vous lirez et rédigerez également des scénarios d'utilisation malveillante dans votre domaine pendant des périodes prolongées. Nous en informons les experts à l'avance, et vous pouvez faire une pause ou vous retirer à tout moment sans pénalité.

Avant de postuler

Votre travail ici n'impliquera pas et ne devra pas s'appuyer sur des informations classifiées ou soumises à des contrôles à l'exportation, ni sur quoi que ce soit couvert par un accord de non-divulgation (NDA) ou une obligation d'examen préalable à la publication. Si vous êtes soumis à de telles obligations, vous pouvez tout de même correspondre au profil ; dites-le-nous dans votre candidature et nous adapterons le périmètre du travail en conséquence.