Experto en Seguridad Química para Auditoría de Seguridad de Modelos de IA

## Descripción

SME Careers está contratando químicos y profesionales de seguridad química para auditar cómo responden los modelos de IA a preguntas sensibles en el campo. Cada tarea te proporciona una solicitud de usuario y las respuestas que tres modelos diferentes dieron a la misma. Clasificas la solicitud (benigna, de doble uso o adversarial), marcas cada respuesta como segura o insegura y explicas por qué, ordenas las tres de mejor a peor y escribes la respuesta que el modelo debería haber dado. Para las solicitudes de doble uso, también anotas qué las hace sensibles, qué propósito legítimo cumplen y quién debería poder obtener una respuesta.

Las solicitudes son realistas: lo que los químicos sintéticos y analíticos, toxicólogos, higienistas industriales, ingenieros de seguridad de procesos, reguladores y ocasionalmente actores malintencionados realmente preguntan. Algunas son preguntas profesionales comunes que los modelos rechazan erróneamente, y detectar esas importa tanto como detectar las peligrosas.

## A quién buscamos

Químicos sintéticos y analíticos; toxicólogos y farmacólogos; higienistas industriales y profesionales de seguridad química y de procesos; especialistas en la CWC o seguridad química; personal de respuesta a materiales peligrosos, control de intoxicaciones o incidentes químicos; y reguladores químicos (EPA, OSHA, HSE, afines a la OPCW o equivalentes). Por lo general, se requiere un título relevante más cinco o más años de experiencia profesional. La experiencia con fichas de datos de seguridad, evaluación de exposición, informes de incidentes o revisión regulatoria es una gran ventaja.

## Antes de postularte

Abierto únicamente a ciudadanos o residentes permanentes de EE. UU., Reino Unido, Canadá, Australia, Nueva Zelanda y la Unión Europea.

Responsabilidades

• Desarrollar contenido de entrenamiento para IA: crear prompts detallados sobre diversos temas y respuestas para guiar el aprendizaje de la IA, asegurando que los modelos reflejen una comprensión integral de diversos temas.
• Optimizar el rendimiento de la IA: evaluar y clasificar las respuestas de la IA para mejorar la precisión, fluidez y relevancia contextual del modelo.
• Garantizar la integridad del modelo: probar los modelos de IA en busca de posibles imprecisiones o sesgos, validando su confiabilidad en diferentes casos de uso.

Requisitos

• Título universitario o superior en Química, Ingeniería Química, Toxicología, Salud y Seguridad Ambiental, Higiene Industrial, Gestión de Materiales Peligrosos o un campo estrechamente relacionado; un título de posgrado o certificación profesional en seguridad es una gran ventaja.
• Más de 3 años de experiencia profesional en seguridad química, seguridad de laboratorios, manejo de materiales peligrosos, EHS, toxicología, higiene industrial, evaluación de riesgos químicos, cumplimiento regulatorio o trabajo técnico de seguridad relacionado.
• Sólida comprensión de los riesgos químicos, incluyendo toxicidad, corrosividad, inflamabilidad, reactividad, incompatibilidades, vías de exposición, riesgos de almacenamiento, principios de respuesta ante derrames, EPP, ventilación y prácticas de manejo seguro.
• Familiaridad con la documentación y los marcos de seguridad química, tales como Fichas de Datos de Seguridad, comunicación de peligros del GHS, etiquetado, límites de exposición, evaluaciones de riesgos, POE (SOP) y procedimientos de escalamiento de incidentes.
• Capacidad para revisar contenido de seguridad química generado por IA en busca de precisión técnica, alineación de seguridad, riesgo de uso indebido, afirmaciones alucinatorias, especificidad inapropiada y orientación procedimental potencialmente peligrosa.
• Gran criterio para distinguir entre contenido educativo seguro y contenido que podría permitir un manejo químico inseguro, síntesis, uso indebido, evasión o experimentación dañina.
• Excelentes habilidades de redacción en inglés, con la capacidad de proporcionar comentarios claros y estructurados que expliquen por qué una respuesta es segura, insegura, incompleta, engañosa o técnicamente incorrecta.
• Alta atención al detalle al revisar terminología química, unidades, concentraciones, suposiciones de exposición, clasificaciones de peligro, controles de seguridad y orientación de respuesta a emergencias.
• Comodidad aplicando rúbricas detalladas de proyectos de manera consistente en escenarios de seguridad química ambiguos o sensibles.
• Se prefiere experiencia previa en seguridad de IA, revisión de equipos rojos (red-team), evaluación de modelos, moderación de contenido, anotación de datos, control de calidad técnico, revisión científica o evaluación basada en rúbricas.