Químico Analítico

Sobre el trabajo

Mercor está reuniendo un panel de expertos en química y seguridad química para evaluar la seguridad ofensiva de modelos de IA de vanguardia (red-teaming). El objetivo es comprobar si un modelo puede juzgar correctamente el potencial de uso indebido de una solicitud técnica, respondiendo plenamente a preguntas legítimas y rechazando las que sean genuinamente peligrosas.

Tú vas a:

• Escribir "prompts" individuales desafiantes en tu área de especialización, etiquetados en tres niveles: benignos, de doble uso y adversarios.
• Evaluar las respuestas obtenidas frente a un estándar de políticas definido y juzgar si cada una se manejó correctamente.
• Escribir la respuesta de referencia, cómo es una respuesta correcta y el razonamiento técnico del porqué.

Esta área se encuentra en la línea de doble uso más que la mayoría. El mismo método que detecta un compuesto peligroso a nivel de trazas define el umbral que alguien intentaría mantener por debajo; la misma entrada de biblioteca que identifica un desconocido te dice lo que un filtro verá y lo que no verá. Un modelo que rechaza una pregunta rutinaria de validación de métodos está fallando tanto como uno que responde a una pregunta que no debería. Trazar esa línea de forma fiable es la razón por la que necesitamos profesionales en lugar de generalistas.

Antecedentes que buscamos

Buscamos analistas que hayan desarrollado y validado métodos para compuestos peligrosos, personas que sepan lo que realmente significa un límite de detección y lo que implica. Lo más importante es ser capaz de distinguir una pregunta profesional rutinaria de una que busca otra cosa: el mismo método de detección que encuentra un compuesto describe cómo evadir el filtro. Escribirás "prompts" que se sitúen exactamente en esa línea y luego juzgarás si el modelo la mantuvo.

Ejemplos de antecedentes relevantes (idealmente con experiencia en "red-teaming"):

• Detección e identificación de compuestos peligrosos, GC-MS, LC-MS/MS, IR, RMN
• Desarrollo y validación de métodos para análisis a nivel de trazas
• Muestreo y análisis ambiental, ocupacional o de respuesta a emergencias
• Estándares de referencia, bibliotecas espectrales e identificación de sustancias desconocidas
• Acreditación de laboratorios, QA/QC y ensayos de aptitud

Qué exige este puesto más allá de la profundidad técnica

Este es un trabajo intensivo en redacción. Cada juicio que emitas necesita una justificación escrita que un no especialista pueda seguir. La experiencia previa en redacción técnica, investigación publicada o testimonio experto es una señal sólida; por favor, incluye una muestra o enlace. También leerás y escribirás sobre escenarios de uso indebido en tu campo durante períodos prolongados. Informamos a los expertos sobre esto con antelación, y puedes pausar o retirarte en cualquier momento sin penalización.

Antes de postularte

Tu trabajo aquí no implicará, y no debe basarse en, información clasificada o sujeta a control de exportaciones, ni en nada cubierto por un acuerdo de confidencialidad (NDA) o una obligación de revisión previa a la publicación. Si tienes tales obligaciones, aún podrías encajar bien; cuéntanoslo en tu solicitud y dimensionaremos el trabajo en consecuencia.