Spécialiste des engins dangereux / Professionnel de la sécurité publique

À propos du travail

Mercor rassemble un panel d'experts en matériaux énergiques et en propulsion pour tester et auditer (red-team) des modèles d'IA de pointe. L'objectif est de vérifier si un modèle peut juger correctement du potentiel de détournement d'une demande technique, en répondant pleinement aux questions légitimes tout en refusant les requêtes réellement dangereuses.

Vous allez :

• Rédiger des prompts stimulants à tour unique dans votre domaine, classés selon trois niveaux : bénin, à double usage et contradictoire.
• Évaluer les réponses obtenues par rapport à une norme politique définie, et juger si chacune a été traitée correctement.
• Rédiger la réponse de référence, ce à quoi ressemble une réponse correcte, et le raisonnement technique sous-jacent.

Ce domaine se situe plus que la plupart sur la ligne du double usage. La même évaluation qui indique à un technicien comment approcher un dispositif en indique à quelqu'un d'autre la manière dont il a été conçu pour fonctionner ; les mêmes données de compatibilité qui maintiennent un magasin sûr décrivent ce qui reste stable ailleurs. Un modèle qui refuse une question de routine sur le stockage ou la neutralisation échoue aussi gravement que celui qui répond à une question qu'il ne devrait pas. Tracer cette limite de manière fiable est la raison pour laquelle nous avons besoin de praticiens plutôt que de généralistes.

Profil recherché

Nous recherchons des professionnels de la sécurité publique qui ont évalué de vrais dispositifs, du côté de la neutralisation et de l'après-incident, sous certification et responsabilité de commandement. Ce qui compte le plus est d'être capable de distinguer une question professionnelle de routine d'une autre qui cherche à obtenir des informations détournées : la même évaluation qui sécurise un dispositif explique comment il a été construit. Vous rédigerez des prompts qui se situent exactement sur cette ligne, puis jugerez si le modèle l'a tenue.

Exemples de profils pertinents (idéalement avec une expérience en red-teaming) :

• Technicien certifié en explosifs ou opérateur de dispositifs dangereux, évaluation des dispositifs et procédures de neutralisation
• EOD militaire avec expérience en sécurité publique civile, formation ou instruction
• Commandant d'unité de déminage ou officier de formation, qualification d'équipe, équipements et protocoles
• Enquête post-explosion et reconstruction de dispositifs
• Réponse technique CBRNE, évaluation à distance, robotique et outils de neutralisation

Ce que ce rôle exige au-delà de la profondeur technique

Il s'agit d'un travail intensif de rédaction. Chaque jugement que vous portez nécessite une justification écrite qu'un non-spécialiste peut suivre. Une expérience préalable en rédaction technique, en recherche publiée ou en tant qu'expert témoin constitue un atout majeur ; veuillez inclure un échantillon ou un lien. Vous lirez et rédigerez également des scénarios de détournement dans votre domaine pendant des périodes prolongées. Nous informons les experts à ce sujet à l'avance, et vous pouvez faire une pause ou vous retirer à tout moment sans pénalité.

Avant de postuler

Votre travail ici n'impliquera pas, et ne doit pas s'appuyer sur, des informations classifiées ou soumises à des contrôles à l'exportation, ni sur quoi que ce soit couvert par un accord de non-divulgation (NDA) ou une obligation de révision préalable à la publication. Si vous êtes soumis à de telles obligations, vous pourriez tout de même correspondre au profil ; indiquez-le-nous dans votre candidature et nous adapterons le travail en conséquence.