Ingénieur de recherche, Cybersécurité

À propos d'Anthropic

La mission d'Anthropic est de créer des systèmes d'IA fiables, interprétables et pilotables. Nous voulons que l'IA soit sûre et bénéfique pour nos utilisateurs et pour la société dans son ensemble. Notre équipe est un groupe en pleine croissance de chercheurs, d'ingénieurs, d'experts en politiques et de leaders commerciaux engagés travaillant ensemble pour construire des systèmes d'IA bénéfiques.

À propos du rôle

L'équipe Security protège les systèmes d'IA d'Anthropic et maintient la confiance de nos utilisateurs et de la société. En tant qu'ingénieur de recherche au sein de l'équipe, vous aiderez à faire progresser en toute sécurité les capacités de nos modèles dans le codage sécurisé, la remédiation des vulnérabilités et d'autres domaines de la cybersécurité défensive.

Ce rôle mélange recherche et ingénierie. Vous développerez de nouvelles approches et les construirez en code. Votre travail comprendra la conception et la mise en œuvre d'environnements de RL, l'exécution d'expériences et d'évaluations, la livraison de votre travail dans des cycles d'entraînement de production, et le travail avec des chercheurs, des ingénieurs et des spécialistes de la cybersécurité à l'intérieur et à l'extérieur d'Anthropic.

Le rôle requiert une expertise métier en cybersécurité couplée à un intérêt ou une expérience dans l'entraînement de modèles d'IA sûrs. Vous pourriez être un chercheur en sécurité curieux de la manière dont les LLM pourraient changer votre travail, un ingénieur de sécurité intéressé par la manière dont l'IA pourrait aider à renforcer les systèmes à grande échelle, ou un professionnel de la détection et de la réponse se demandant comment les modèles pourraient améliorer les flux de travail défensifs.

Responsabilités clés

• Concevoir, construire et maintenir des environnements de RL et des évaluations qui mesurent et améliorent les capacités des modèles en matière de codage sécurisé, de découverte et de remédiation de vulnérabilités, et d'autres tâches de sécurité défensive
• Mener des expériences pour développer et tester de nouvelles approches d'entraînement, et livrer des résultats probants dans des cycles d'entraînement de production
• Collaborer avec des chercheurs, des ingénieurs et des spécialistes de la sécurité à travers Anthropic pour comprendre où l'IA peut renforcer les flux de travail défensifs, et construire en réponse à ces besoins
• Travailler avec des experts et des organisations de cybersécurité externes pour ancrer les environnements et les évaluations dans un travail défensif réaliste
• Contribuer à la direction stratégique de l'équipe, y compris les décisions sur ce qu'il faut construire, sur quoi collaborer et où investir
• Participer à une rotation d'astreinte si nécessaire

Qualifications minimales

• Expérience en recherche en cybersécurité ou en travail de sécurité appliquée
• Expérience avec le machine learning
• Capacité à équilibrer l'exploration de la recherche avec la mise en œuvre de l'ingénierie
• Se soucier du potentiel de l'IA et s'engager à développer des systèmes sûrs et bénéfiques

Qualifications préférentielles

• Expérience professionnelle en ingénierie de sécurité, fuzzing, détection et réponse, ou d'autres travaux défensifs appliqués
• Expérience de participation à des compétitions CTF et des cyber ranges ou de leur construction
• Expérience de recherche académique en cybersécurité
• Familiarité avec les techniques et environnements de RL
• Familiarité avec les méthodologies d'entraînement de LLM

Logistique

Éducation minimale : Baccalauréat (Bachelor's degree) ou une combinaison équivalente d'études, de formation et/ou d'expérience

Domaine d'études requis : Un domaine pertinent pour le rôle comme démontré par les cours, la formation ou l'expérience professionnelle

Années d'expérience minimales : Les années d'expérience requises seront corrélées aux exigences internes de niveau de poste pour la position

Politique hybride basée sur la localisation : Actuellement, nous attendons que tout le personnel soit dans l'un de nos bureaux au moins 25% du temps. Cependant, certains rôles peuvent nécessiter plus de temps dans nos bureaux.

Parrainage de visa : Nous parrainons des visas ! Cependant, nous ne sommes pas en mesure de parrainer avec succès des visas pour chaque rôle et chaque candidat. Mais si nous vous faisons une offre, nous ferons tous les efforts raisonnables pour vous obtenir un visa, et nous conservons un avocat spécialisé en immigration pour nous aider.

Nous vous encourageons à postuler même si vous ne pensez pas répondre à toutes les qualifications. Tous les candidats solides ne répondront pas à toutes les qualifications énumérées. La recherche montre que les personnes s'identifiant comme appartenant à des groupes sous-représentés sont plus enclines à éprouver le syndrome de l'imposteur et à douter de la force de leur candidature, nous vous demandons donc de ne pas vous exclure prématurément et de soumettre une candidature si ce travail vous intéresse. Nous pensons que les systèmes d'IA comme ceux que nous construisons ont d'énormes implications sociales et éthiques. Nous pensons que cela rend la représentation encore plus importante, et nous nous efforçons d'inclure un éventail de perspectives diverses dans notre équipe.

Votre sécurité nous importe. Pour vous protéger contre d'éventuelles escroqueries, n'oubliez pas que les recruteurs d'Anthropic ne vous contactent que via des adresses e-mail @anthropic.com. Dans certains cas, nous pouvons nous associer à des agences de recrutement agréées qui s'identifieront comme travaillant pour le compte d'Anthropic. Soyez prudent avec les e-mails provenant d'autres domaines. Les recruteurs légitimes d'Anthropic ne demanderont jamais d'argent, de frais ou d'informations bancaires avant votre premier jour. Si vous avez un doute sur une communication, ne cliquez sur aucun lien — visitez directement anthropic.com/careers (http://anthropic.com/careers) pour confi