Profesional en Seguridad de IA

Buscamos especialistas en seguridad de IA con experiencia para evaluar la seguridad, calidad y alineación de modelos de IA de frontera en temas complejos, sensibles a políticas y ambiguos ("zona gris"). Evaluarás respuestas generadas por IA, aplicarás políticas de seguridad y ayudarás a mejorar el comportamiento del modelo mediante evaluaciones estructuradas y retroalimentación.

Responsabilidades

• Evaluar las respuestas generadas por IA en cuanto a seguridad, precisión fáctica, cumplimiento de políticas y calidad general.

• Revisar contenido relacionado con desinformación, persuasión política, autolesiones, violencia, ciberseguridad, bioseguridad y otros ámbitos sensibles.

• Aplicar y perfeccionar rúbricas de evaluación para RLHF, SFT y evaluación comparativa de seguridad de IA.

• Identificar resultados inseguros, alucinaciones, fallas de razonamiento y violaciones de políticas.

• Proporcionar retroalimentación estructurada para mejorar la alineación del modelo y el rendimiento de seguridad.

• Colaborar con investigadores de IA y equipos de seguridad en iniciativas de evaluación en curso.

Requisitos obligatorios

• Licenciatura o título superior en Periodismo, Comunicación, Psicología, Sociología, Políticas Públicas, Derecho, Biología, Química, Ciencias de la Computación o una disciplina relacionada.

• Más de 5 años de experiencia profesional en seguridad de IA, confianza y seguridad, periodismo, políticas públicas, investigación científica, seguridad o un campo relacionado.

• Excelente dominio del inglés escrito, pensamiento crítico y capacidad de razonamiento analítico.

• Capacidad para evaluar consistentemente escenarios llenos de matices y sensibles a las políticas.

Requisitos preferidos

• Experiencia en seguridad de IA, RLHF, SFT, confianza y seguridad, o evaluación de IA.

• Familiaridad con políticas de seguridad, moderación de contenido o desarrollo de rúbricas de evaluación.

• Experiencia en la revisión de contenido complejo, de alto riesgo o ambiguo.

¿Por qué unirte?

• Da forma a la seguridad y el comportamiento de los modelos de IA de frontera utilizados por millones de personas en todo el mundo.

• Trabaja en evaluaciones de seguridad complejas y del mundo real en dominios con matices y de alto impacto.

• Colabora con destacados investigadores de IA, ingenieros y equipos de seguridad.