Research Engineer, Cybersecurity

Informazioni su Anthropic

La missione di Anthropic è creare sistemi di IA affidabili, interpretabili e controllabili. Vogliamo che l'IA sia sicura e vantaggiosa per i nostri utenti e per la società nel suo complesso. Il nostro team è un gruppo in rapida crescita di ricercatori, ingegneri, esperti di policy e leader aziendali impegnati a lavorare insieme per costruire sistemi di IA benefici.

Informazioni sul ruolo

Il team Security protegge i sistemi di IA di Anthropic e mantiene la fiducia dei nostri utenti e della società. In qualità di Research Engineer nel team, aiuterai ad avanzare in modo sicuro le capacità dei nostri modelli nella programmazione sicura, nella risoluzione delle vulnerabilità e in altre aree della cybersecurity difensiva.

Questo ruolo unisce ricerca e ingegneria. Svilupperai nuovi approcci e li implementerai nel codice. Il tuo lavoro includerà la progettazione e l'implementazione di ambienti RL, l'esecuzione di esperimenti e valutazioni, la consegna del tuo lavoro in cicli di addestramento in produzione e il lavoro con ricercatori, ingegneri e specialisti di cybersecurity sia all'interno che all'esterno di Anthropic.

Il ruolo richiede competenza nel dominio della cybersecurity unita a interesse o esperienza nell'addestramento di modelli di IA sicuri. Potresti essere un ricercatore di sicurezza curioso di come i LLM potrebbero cambiare il tuo lavoro, un ingegnere della sicurezza interessato a come l'IA potrebbe aiutare a rinforzare i sistemi su larga scala, o un professionista del rilevamento e della risposta che si chiede come i modelli potrebbero migliorare i flussi di lavoro difensivi.

Responsabilità principali

• Progettare, costruire e mantenere ambienti RL e valutazioni che misurano e migliorano le capacità dei modelli nella programmazione sicura, nel rilevamento e nella risoluzione delle vulnerabilità e in altri compiti di sicurezza difensiva
• Eseguire esperimenti per sviluppare e testare nuovi approcci di addestramento e consegnare risultati di successo nei cicli di addestramento in produzione
• Collaborare con ricercatori, ingegneri e specialisti della sicurezza in tutta Anthropic per capire dove l'IA può rafforzare i flussi di lavoro difensivi e costruire in linea con tali esigenze
• Lavorare con esperti e organizzazioni esterne di cybersecurity per basare ambienti e valutazioni su un lavoro difensivo realistico
• Contribuire alla direzione strategica del team, incluse le decisioni su cosa costruire, con chi collaborare e dove investire
• Partecipare a una rotazione di reperibilità (on-call) secondo necessità

Qualifiche minime

• Esperienza nella ricerca sulla cybersecurity o nel lavoro di sicurezza applicata
• Esperienza con il machine learning
• Capacità di bilanciare l'esplorazione della ricerca con l'implementazione ingegneristica
• Attenzione al potenziale dell'IA e impegno nello sviluppo di sistemi sicuri e benefici

Qualifiche preferenziali

• Esperienza professionale nell'ingegneria della sicurezza, fuzzing, rilevamento e risposta, o altro lavoro difensivo applicato
• Esperienza nella partecipazione o nella costruzione di competizioni CTF e cyber range
• Esperienza di ricerca accademica nella cybersecurity
• Familiarità con le tecniche e gli ambienti RL
• Familiarità con le metodologie di addestramento dei LLM

Logistica

Istruzione minima: Laurea triennale o una combinazione equivalente di istruzione, formazione e/o esperienza

Campo di studio richiesto: Un campo pertinente al ruolo come dimostrato da corsi di studi, formazione o esperienza professionale

Anni minimi di esperienza: Gli anni di esperienza richiesti saranno correlati ai requisiti del livello lavorativo interno per la posizione

Politica ibrida basata sulla sede: Attualmente, ci aspettiamo che tutto il personale sia in uno dei nostri uffici almeno il 25% del tempo. Tuttavia, alcuni ruoli potrebbero richiedere più tempo nei nostri uffici.

Sponsorizzazione del visto: Sponsorizziamo i visti! Tuttavia, non siamo in grado di sponsorizzare con successo i visti per ogni ruolo e per ogni candidato. Ma se ti faremo un'offerta, faremo ogni ragionevole sforzo per procurarti un visto e disponiamo di un avvocato immigrazionista per aiutarci in questo.

Ti incoraggiamo a candidarti anche se non ritieni di soddisfare ogni singola qualifica. Non tutti i candidati validi soddisferanno ogni singola qualifica elencata. La ricerca mostra che le persone che si identificano come appartenenti a gruppi sottorappresentati sono più inclini a sperimentare la sindrome dell'impostore e a dubitare della forza della propria candidatura, quindi ti esortiamo a non escluderti prematuramente e a inviare una candidatura se sei interessato a questo lavoro. Pensiamo che i sistemi di IA come quelli che stiamo costruendo abbiano enormi implicazioni sociali ed etiche. Pensiamo che questo renda la rappresentanza ancora più importante e ci sforziamo di includere una gamma di prospettive diverse nel nostro team.

La tua sicurezza è importante per noi. Per proteggerti da potenziali truffe, ricorda che i recruiter di Anthropic ti contattano solo da indirizzi email @anthropic.com. In alcuni casi, potremmo collaborare con agenzie di reclutamento verificate che si identificheranno come lavoratrici per conto di Anthropic. Presta attenzione alle email provenienti da altri domini. I legittimi recruiter di Anthropic non chiederanno mai denaro, commissioni o informazioni bancarie prima del tuo primo giorno. Se non sei mai sicuro di una comunicazione, non cliccare su alcun link: visita direttamente anthropic.com/careers (http://anthropic.com/careers) per le posizioni aperte confermate.

In cosa siamo diversi

Crediamo che la ricerca sull'IA con il massimo impatto sarà "big science". In Anthropic lavoriamo come un unico team coeso su pochi grandi sforzi di ricerca su larga scala. E diamo valore all'impatto — far avanzare i nostri obiettivi a lungo termine di un'IA controllabile e affidabile — piuttosto che lavorare su puzzle p