Analista de No Proliferación

Sobre el trabajo

Mercor está reuniendo un panel de expertos en materiales y salvaguardias nucleares para evaluar mediante técnicas de red-teaming a modelos de IA de vanguardia. El objetivo es comprobar si un modelo puede juzgar correctamente el potencial de uso indebido de una solicitud técnica, respondiendo plenamente a las preguntas legítimas mientras rechaza las que son genuinamente peligrosas.

Tú vas a:

• Escribir "prompts" individuales desafiantes en tu área de especialización, etiquetados en tres niveles: benigno, de doble uso y adversarial.
• Evaluar las respuestas recibidas frente a un estándar de política definido y juzgar si cada una se manejó correctamente.
• Escribir la respuesta de referencia, cómo es una respuesta correcta y el razonamiento técnico del porqué.

Este campo se encuentra en la línea de doble uso más que la mayoría. La misma lista de control que detiene un envío le indica a un agente de compras qué debe evitar declarar; el mismo análisis de rutas que informa las políticas es una hoja de ruta leída desde la dirección contraria. Un modelo que rechaza una pregunta rutinaria de clasificación de exportación está fallando tanto como uno que responde a una pregunta que no debería. Trazar esa línea de forma fiable es la razón por la que necesitamos profesionales en lugar de generalistas.

Experiencia que buscamos

Buscamos personas que hayan trabajado profesionalmente en cuestiones de no proliferación, control de exportaciones, aplicación de tratados o análisis de programas, y que sepan distinguir una pregunta de cumplimiento de una pregunta de elusión. Lo más importante es ser capaz de distinguir una pregunta profesional rutinaria de otra que busca otra cosa: la misma lista de control que bloquea una transferencia también señala qué se debe evitar. Escribirás "prompts" que se sitúan exactamente en esa línea y luego juzgarás si el modelo la mantuvo.

Ejemplos de antecedentes relevantes (idealmente con experiencia en red-teaming):

• Licencias de control de exportaciones, clasificación o cumplimiento, listas de doble uso, controles de alcance general ("catch-all"), selección de usuarios finales
• Aplicación de tratados y acuerdos, TNP, TPCBT, acuerdos de salvaguardias, acuerdos de cooperación bilateral
• Análisis de rutas y programas de proliferación en un laboratorio, agencia, ministerio o instituto de investigación
• Sanciones, análisis de redes de adquisiciones o comercio ilícito
• Análisis técnico y de fuentes abiertas de programas nucleares

Qué exige este puesto más allá de la profundidad técnica

Este es un trabajo intensivo en escritura. Cada juicio que hagas necesita una justificación escrita que un no especialista pueda seguir. La experiencia previa en redacción técnica, investigación publicada o testimonio experto es una señal sólida; por favor, incluye una muestra o enlace. También leerás y escribirás sobre escenarios de uso indebido en tu campo durante períodos prolongados. Informamos a los expertos sobre esto con antelación, y puedes pausar o retirarte en cualquier momento sin penalización.

Antes de postularte

Tu trabajo aquí no implicará, y no debe basarse en, información clasificada o sujeta a control de exportaciones, ni en nada cubierto por un acuerdo de confidencialidad ("NDA") o una obligación de revisión previa a la publicación. Si tienes tales obligaciones, es posible que sigas siendo un buen candidato; cuéntanoslo en tu solicitud y adaptaremos el trabajo en consecuencia.