Esperto di Sicurezza dell'AI

Stiamo cercando AI Safety Practitioner esperti per valutare la sicurezza, la qualità e l'allineamento dei modelli AI di frontiera su argomenti complessi, sensibili dal punto di vista delle policy e ambigui ("aree grigie"). Valuterai le risposte generate dall'AI, applicherai le policy di sicurezza e contribuirai a migliorare il comportamento del modello attraverso valutazioni strutturate e feedback.

Responsabilità

• Valutare le risposte generate dall'AI in termini di sicurezza, accuratezza fattuale, conformità alle policy e qualità generale.

• Revisionare contenuti che coinvolgono disinformazione, persuasione politica, autolesionismo, violenza, cybersecurity, biosicurezza e altri ambiti sensibili.

• Applicare e perfezionare le rubriche di valutazione per RLHF, SFT e benchmarking della sicurezza dell'AI.

• Identificare output non sicuri, allucinazioni, errori di ragionamento e violazioni delle policy.

• Fornire feedback strutturati per migliorare l'allineamento del modello e le prestazioni di sicurezza.

• Collaborare con ricercatori di AI e team di sicurezza su iniziative di valutazione in corso.

Requisiti Richiesti

• Laurea triennale o superiore in Giornalismo, Comunicazione, Psicologia, Sociologia, Politiche Pubbliche, Giurisprudenza, Biologia, Chimica, Informatica o disciplina correlata.

• Oltre 5 anni di esperienza professionale in AI Safety, Trust & Safety, giornalismo, politiche pubbliche, ricerca scientifica, sicurezza o in un campo correlato.

• Eccellente padronanza dell'inglese scritto, pensiero critico e capacità di ragionamento analitico.

• Capacità di valutare costantemente scenari ricchi di sfumature e sensibili alle policy.

Requisiti Preferenziali

• Esperienza con AI Safety, RLHF, SFT, Trust & Safety o valutazione dell'AI.

• Familiarità con le policy di sicurezza, la moderazione dei contenuti o lo sviluppo di rubriche di valutazione.

• Esperienza nella revisione di contenuti complessi, ad alto rischio o ambigui.

Perché Unirsi a Noi?

• Modella la sicurezza e il comportamento dei modelli AI di frontiera utilizzati da milioni di persone in tutto il mondo.

• Lavora su valutazioni di sicurezza complesse e reali in ambiti ricchi di sfumature e ad alto impatto.

• Collabora con ricercatori di AI, ingegneri e team di sicurezza di primo piano.