Research Engineer, Cybersecurity

Über Anthropic

Die Mission von Anthropic ist es, zuverlässige, interpretierbare und steuerbare KI-Systeme zu entwickeln. Wir wollen, dass KI sicher und vorteilhaft für unsere Nutzer und die gesamte Gesellschaft ist. Unser Team ist eine schnell wachsende Gruppe aus engagierten Forschern, Ingenieuren, Politikexperten und Führungskräften aus dem Geschäftsbereich, die zusammenarbeiten, um vorteilhafte KI-Systeme zu bauen.

Über die Rolle

Das Security-Team schützt die KI-Systeme von Anthropic und bewahrt das Vertrauen unserer Nutzer und der Gesellschaft. Als Research Engineer im Team werden Sie dazu beitragen, die Fähigkeiten unserer Modelle in den Bereichen sicheres Coding, Behebung von Schwachstellen und anderen Bereichen der defensiven Cybersicherheit sicher voranzutreiben.

Diese Rolle verbindet Forschung und Engineering. Sie werden neue Ansätze entwickeln und diese in Code umsetzen. Ihre Arbeit wird das Design und die Implementierung von RL-Umgebungen, das Durchführen von Experimenten und Evaluierungen, die Überführung Ihrer Arbeit in produktive Trainingsläufe sowie die Zusammenarbeit mit Forschern, Ingenieuren und Cybersicherheitsspezialisten sowohl innerhalb als auch außerhalb von Anthropic umfassen.

Die Rolle erfordert Fachwissen im Bereich Cybersicherheit gepaart mit Interesse oder Erfahrung im Training sicherer KI-Modelle. Sie könnten ein Sicherheitsforscher sein, der neugierig darauf ist, wie LLMs Ihre Arbeit verändern könnten, ein Sicherheitsingenieur, der daran interessiert ist, wie KI helfen kann, Systeme in großem Maßstab abzusichern, oder ein Experte für Detection und Response, der sich fragt, wie Modelle defensive Workflows verbessern könnten.

Hauptverantwortlichkeiten

• Design, Aufbau und Wartung von RL-Umgebungen und Evaluierungen, welche die Modellfähigkeiten in den Bereichen sicheres Coding, Entdeckung und Behebung von Schwachstellen sowie anderen defensiven Sicherheitsaufgaben messen und verbessern
• Durchführung von Experimenten zur Entwicklung und zum Testen neuer Trainingsansätze und das Überführen erfolgreicher Ergebnisse in produktive Trainingsläufe
• Partnerschaft mit Forschern, Ingenieuren und Sicherheitsspezialisten bei Anthropic, um zu verstehen, wo KI defensive Workflows stärken kann, und die Entwicklung auf diese Bedürfnisse auszurichten
• Zusammenarbeit mit externen Cybersicherheitsexperten und -organisationen, um Umgebungen und Evaluierungen in realistische defensive Arbeit einzubetten
• Beitrag zur strategischen Ausrichtung des Teams, einschließlich Entscheidungen darüber, was gebaut wird, womit Partnerschaften eingegangen werden und wohin investiert wird
• Teilnahme an einer On-Call-Rotation nach Bedarf

Mindestqualifikationen

• Erfahrung in der Cybersicherheitsforschung oder in angewandter Sicherheitsarbeit
• Erfahrung mit Machine Learning
• Fähigkeit, Forschungsarbeit mit technischer Implementierung in Einklang zu bringen
• Engagement für das Potenzial von KI und Entschlossenheit, sichere und vorteilhafte Systeme zu entwickeln

Bevorzugte Qualifikationen

• Berufserfahrung in den Bereichen Security Engineering, Fuzzing, Detection and Response oder anderer angewandter defensiver Arbeit
• Erfahrung in der Teilnahme an oder dem Aufbau von CTF-Wettbewerben und Cyber Ranges
• Akademische Forschungserfahrung in der Cybersicherheit
• Vertrautheit mit RL-Techniken und -Umgebungen
• Vertrautheit mit LLM-Trainingsmethodologien

Logistik

Mindestbildung: Bachelor-Abschluss oder eine gleichwertige Kombination aus Ausbildung, Training und/oder Erfahrung

Erforderliches Studienfeld: Ein für die Rolle relevantes Feld, nachgewiesen durch Kurse, Training oder Berufserfahrung

Mindestjahre an Erfahrung: Die erforderlichen Erfahrungsjahre korrelieren mit den internen Job-Level-Anforderungen für die Position

Standortbasierte Hybrid-Richtlinie: Derzeit erwarten wir, dass alle Mitarbeiter mindestens 25 % der Zeit in einem unserer Büros sind. Einige Rollen können jedoch mehr Zeit in unseren Büros erfordern.

Visum-Sponsoring: Wir sponsern Visa! Wir können jedoch nicht für jede Rolle und jeden Kandidaten erfolgreich Visa sponsern. Wenn wir Ihnen jedoch ein Angebot machen, werden wir alle zumutbaren Anstrengungen unternehmen, um Ihnen ein Visum zu besorgen, und wir beschäftigen einen Einwanderungsanwalt, um dabei zu helfen.

Wir ermutigen Sie zur Bewerbung, auch wenn Sie nicht glauben, dass Sie jede einzelne Qualifikation erfüllen. Nicht alle starken Kandidaten werden jede aufgeführte Qualifikation erfüllen. Die Forschung zeigt, dass Menschen, die sich als Angehörige unterrepräsentierter Gruppen identifizieren, eher dazu neigen, das Imposter-Syndrom zu erleben und an der Stärke ihrer Kandidatur zu zweifeln. Daher drängen wir Sie, sich nicht vorzeitig auszuschließen und eine Bewerbung einzureichen, wenn Sie an dieser Arbeit interessiert sind. Wir denken, dass KI-Systeme wie die von uns entwickelten enorme soziale und ethische Auswirkungen haben. Wir denken, dass dies die Repräsentation noch wichtiger macht, und wir streben danach, eine Reihe vielfältiger Perspektiven in unser Team aufzunehmen.

Ihre Sicherheit liegt uns am Herzen. Um sich vor potenziellen Betrügereien zu schützen, denken Sie daran, dass Anthropic-Recruiter Sie nur von @anthropic.com E-Mail-Adressen kontaktieren. In einigen Fällen arbeiten wir möglicherweise mit geprüften Personalagenturen zusammen, die sich als im Auftrag von Anthropic tätig ausweisen. Seien Sie vorsichtig bei E-Mails von anderen Domains. Seriöse Anthropic-Recruiter werden vor Ihrem ersten Tag niemals nach Geld, Gebühren oder Bankinformationen fragen. Wenn Sie sich jemals unsicher über eine Kommunikation sind, klicken Sie auf keine Links – besuchen Sie anthropic.com/careers (http://anthropic.com/careers) direkt, um bestätigte offene Stellen zu finden.

Was uns unterscheidet

Wir glauben, dass die KI-Forschung mit der höchsten Wirkung „Big Science“ sein wird. Bei Anthropic arbeiten wir als ein einziges kohärentes Team an nur wenigen g