AI Safety Red Teamer

Stiamo cercando AI Safety Red Teamer esperti per identificare vulnerabilità nei sistemi AI di frontiera attraverso test di adversarial testing. Progetterai prompt stimolanti, scoprirai i punti deboli del modello e valuterai il comportamento dell'AI su argomenti complessi, ad alto rischio e ambigui ("zona grigia").

Responsabilità

• Progettare prompt di adversarial testing per testare sotto stress i modelli AI di frontiera.

• Identificare jailbreak, comportamenti non sicuri, allucinazioni e violazioni delle policy.

• Valutare la robustezza del modello in ambiti quali disinformazione, sicurezza informatica, biosicurezza, frodi, contenuti politici e altri settori sensibili.

• Documentare le vulnerabilità e contribuire ai benchmark di sicurezza e ai report di red-teaming.

• Collaborare con i ricercatori di AI per migliorare l'allineamento, la robustezza e la sicurezza del modello.

Qualifiche richieste

• Laurea triennale o superiore in Informatica, Sicurezza Informatica, Giornalismo, Comunicazione, Psicologia, Biologia, Chimica, Politiche Pubbliche o discipline correlate.

• 5+ anni di esperienza professionale in AI Safety, AI Red Teaming, Trust & Safety, sicurezza informatica, giornalismo investigativo, scienze della vita o un settore correlato.

• Forti capacità di ragionamento analitico, progettazione di prompt e comunicazione scritta.

• Esperienza nella progettazione di prompt di adversarial testing o nella valutazione di sistemi AI di frontiera.

Qualifiche preferite

• Esperienza con AI Red Teaming, RLHF, SFT, AI Alignment o Trust & Safety.

• Familiarità con test di jailbreak, prompt engineering o metodologie di valutazione avversaria.

• Competenza in uno o più domini di zona grigia, tra cui sicurezza informatica, biosicurezza, contenuti politici, disinformazione o sicurezza scientifica.

Perché unirti a noi?

• Contribuisci a proteggere e rafforzare la prossima generazione di modelli AI di frontiera.

• Lavora su test di adversarial testing all'avanguardia insieme a ricercatori di AI leader nel settore e team di sicurezza.

• Influenza il modo in cui i sistemi AI rispondono a sfide di sicurezza complesse del mondo reale.