Investigador de Defensa Química

Sobre el trabajo

Mercor está reuniendo un panel de expertos en química y seguridad química para evaluar la robustez y posibles fallas de modelos de IA de frontera (red-teaming). El objetivo es comprobar si un modelo puede juzgar correctamente el potencial de uso indebido de una solicitud técnica, respondiendo preguntas legítimas por completo y rechazando las que sean genuinamente peligrosas.

Tú vas a:

• Escribir mensajes (prompts) de un solo turno que representen un reto en tu área, clasificados en tres niveles: benignos, de doble uso y adversarial.
• Evaluar las respuestas recibidas frente a un estándar de directrices definido y juzgar si cada una se manejó correctamente.
• Escribir la respuesta de referencia, cómo es una respuesta correcta y el razonamiento técnico del porqué.

Esta área se encuentra en la línea del doble uso más que la mayoría. La misma toxicología que establece una dosis de contramedida describe una exposición que alguien podría tener la intención de causar; los mismos datos de descontaminación que protegen a los equipos de respuesta te indican qué los neutraliza. Un modelo que rechaza una pregunta rutinaria sobre contramedidas o EPP (equipo de protección personal) está fallando tanto como uno que responde lo que no debería. Trazar esa línea de forma fiable es la razón por la cual necesitamos profesionales en lugar de generalistas.

Antecedentes que buscamos

Buscamos personas que hayan trabajado con amenazas químicas desde el lado defensivo en un entorno institucional, contramedidas, protección, detección, verificación. Lo más importante es ser capaz de distinguir una pregunta profesional rutinaria de una que busca obtener otra cosa: las mismas propiedades de los agentes que impulsan un protocolo de tratamiento impulsan una evaluación de amenazas. Escribirás mensajes que se sitúen exactamente en esa línea y luego evaluarás si el modelo la mantuvo.

Ejemplos de antecedentes relevantes (idealmente con experiencia en red-teaming):

• Investigación de defensa química en USAMRICD, DoD, CDC o un instituto nacional aliado
• Toxicología de agentes de guerra química y desarrollo de contramedidas médicas
• Investigación sobre descontaminación, protección y detección de amenazas químicas
• Trabajo relacionado con la Convención sobre Armas Químicas (CWC), verificación, destrucción y análisis en laboratorios designados
• Evaluación de consecuencias y gestión médica de la exposición química

Lo que este rol exige más allá de la profundidad técnica

Este es un trabajo con un uso intensivo de la escritura. Cada juicio que emitas necesita una justificación por escrito que un no especialista pueda seguir. Tener experiencia previa en redacción técnica, investigación publicada o participación como perito experto es un indicador muy favorable; por favor, incluye una muestra o un enlace. También leerás y escribirás sobre escenarios de uso indebido en tu campo durante periodos prolongados. Informamos a los expertos sobre esto con antelación, y puedes pausar o retirarte en cualquier momento sin penalización.

Antes de postularte

Tu trabajo aquí no implicará, y no debe basarse en, información clasificada o sujeta a control de exportaciones, ni en nada cubierto por un acuerdo de confidencialidad (NDA) o una obligación de revisión previa a la publicación. Si tienes este tipo de obligaciones, es posible que aun así encajes bien; cuéntanoslo en tu solicitud y evaluaremos el alcance del trabajo en consecuencia.