Experto en explosivos y materiales energéticos para auditoría de seguridad de IA

## Descripción

SME Careers busca profesionales en explosivos y materiales energéticos para auditar cómo los modelos de IA responden a preguntas sensibles en este campo. Cada tarea te proporciona una solicitud de usuario y las respuestas que tres modelos diferentes dieron a esta. Debes clasificar la solicitud (benigna, de doble uso o adversarial), marcar cada respuesta como segura o insegura y explicar por qué, ordenar las tres según su calidad y redactar la respuesta que el modelo debería haber dado. Para las solicitudes de doble uso, también debes señalar qué la hace sensible, qué propósito legítimo cumple y quién debería poder obtener una respuesta.

Las solicitudes son realistas: lo que ingenieros de minas y voladuras, artificieros, químicos de propulsores, técnicos en desactivación de bombas, investigadores y, ocasionalmente, actores maliciosos realmente preguntan. Algunas son preguntas profesionales ordinarias que los modelos rechazan erróneamente, y detectar esas es tan importante como detectar las peligrosas.

## A quién buscamos

Ingenieros de voladuras comerciales y especialistas en explosivos para minas y canteras; técnicos EOD y artificieros militares o policiales; químicos especializados en materiales energéticos, propulsores o pirotecnia; investigadores post-explosión y peritos forenses; oficiales de seguridad en explosivos y reguladores (ATF, HSE, seguridad en explosivos del DoD o equivalentes). Por lo general, se requiere un título o certificación relevante más cinco o más años de experiencia profesional práctica. La experiencia en la redacción de informes de incidentes, análisis de seguridad u opiniones expertas es un gran valor añadido.

## Antes de postularte

Abierto únicamente a ciudadanos o residentes permanentes de EE. UU., Reino Unido, Canadá, Australia, Nueva Zelanda y la Unión Europea.

Responsabilidades

• Desarrollar contenido de entrenamiento para IA: crear prompts detallados sobre diversos temas y respuestas para guiar el aprendizaje de la IA, asegurando que los modelos reflejen una comprensión integral de diversos temas.
• Optimizar el rendimiento de la IA: evaluar y clasificar las respuestas de la IA para mejorar la precisión, fluidez y relevancia contextual del modelo.
• Garantizar la integridad del modelo: probar los modelos de IA en busca de posibles imprecisiones o sesgos, validando su confiabilidad en diferentes casos de uso.

Requisitos

• Grado universitario o superior en Química, Ingeniería Química, Ciencia de Materiales, Materiales Energéticos, Ingeniería de Explosivos, Ingeniería de Seguridad, Gestión de Materiales Peligrosos, Salud y Seguridad Ambiental o un campo estrechamente relacionado; un título de posgrado o una certificación profesional en seguridad es un gran valor añadido.
• Más de 3 años de experiencia profesional en seguridad de explosivos, materiales energéticos, seguridad de materiales peligrosos, seguridad química, seguridad de defensa, seguridad industrial, EHS, cumplimiento normativo, evaluación de riesgos, revisión de seguridad técnica o trabajo relacionado.
• Sólida comprensión de los conceptos de seguridad de explosivos y materiales energéticos, incluida la clasificación de riesgos, sensibilidad, compatibilidad, principios de almacenamiento, consideraciones de transporte, condiciones ambientales, riesgo de explosión/incendio y marcos de manipulación segura.
• Familiaridad con la documentación y los marcos de seguridad, tales como Hojas de Datos de Seguridad (SDS), comunicación de peligros del GHS, clasificación de materiales peligrosos, procedimientos operativos estándar (SOP), evaluaciones de riesgos, procedimientos de escalamiento de incidentes y la guía regulatoria o de seguridad aplicable.
• Capacidad para revisar contenido generado por IA sobre explosivos o materiales energéticos en cuanto a precisión técnica, alineación con la seguridad, riesgo de uso indebido, especificidad inapropiada, afirmaciones alucinatorias y orientación de procedimientos potencialmente peligrosa.
• Gran criterio para distinguir entre contenido educativo o de seguridad de alto nivel que sea seguro y contenido que pueda facilitar la manipulación insegura, síntesis, adquisición, armamentización, evasión o experimentación dañina.
• Excelentes habilidades de redacción en inglés, con la capacidad de proporcionar comentarios claros y estructurados que expliquen por qué una respuesta es segura, insegura, incompleta, engañosa o técnicamente incorrecta.
• Alta atención al detalle al revisar terminología, categorías de riesgo, propiedades de los materiales, unidades, suposiciones de riesgo, controles de seguridad, consideraciones de almacenamiento/transporte y directrices de respuesta a emergencias.
• Comodidad aplicando rúbricas detalladas de proyectos de manera consistente en escenarios ambiguos o sensibles que involucren explosivos, materiales energéticos, pirotecnia, propulsores, químicos reactivos o mezclas peligrosas.
• Se prefiere experiencia previa en seguridad de IA, revisiones de equipos rojos (red-team), evaluación de modelos, moderación de contenido, anotación de datos, control de calidad técnico, revisión científica, revisión EHS, revisión de materiales peligrosos o evaluación basada en rúbricas.