Senior AI Application Engineer - LLM & VLM Enablement

Über uns

Axelera AI (https://www.axelera.ai) ist kein gewöhnliches Deep-Tech-Unternehmen. Wir entwickeln die KI-Plattform der nächsten Generation, um alle zu unterstützen, die dazu beitragen wollen, die Menschheit voranzubringen und die Welt um uns herum zu verbessern.

In nur fünf Jahren haben wir insgesamt 450 Millionen $ eingeworben und ein erstklassiges Team von über 250 Mitarbeitern aufgebaut (einschließlich über 60 PhDs mit mehr als 40.000 Zitaten), sowohl remote aus 21 verschiedenen Ländern als auch mit Büros in Belgien, Frankreich, der Schweiz, Italien, dem Vereinigten Königreich, mit Hauptsitz am High Tech Campus in Eindhoven, Niederlande.

Wir haben auch unsere Metis™ AI Plattform eingeführt, die eine 3-5-fache Steigerung der Effizienz und Leistung erreicht, und verfügen über eine starke Geschäftspipeline von über 100 Millionen$.

Unser unerschütterliches Engagement für Innovation hat uns fest als globalen Branchenpionier etabliert.

Sind Sie bereit für die Herausforderung?

Positionsübersicht

Als Senior AI Application Engineer im Model Enablement Team (Application Software) verantworten Sie den LLM- und VLM-Support auf Metis und Europa AIPUs, vom Studium neuer Modelle bis hin zu deren Auslieferung im Voyager SDK.

Die Rolle kombiniert LLM/VLM-Wissen mit solidem Software Engineering. Unser Team nutzt KI-Coding-Agents in der täglichen Arbeit, und Sie werden diese nutzen, um Ihre eigene Arbeit aufzubauen, zu testen und zu verifizieren.

Wir begrüßen auch erfahrene Field Application Engineers, Technical Leads und Engineering Manager, die zur Hands-on-Entwicklung zurückkehren möchten. Erfahrung in der Planung, Delegation und Überprüfung von Aufgaben lässt sich gut auf die Arbeit mit KI-Agents übertragen.

Hauptverantwortlichkeiten:

• LLM/VLM-Studium: Untersuchung neuer LLM- und VLM-Familien und -Architekturen (zum Beispiel Mixture-of-Experts, kleine VLMs, neue Attention- und Decoding-Schemata). Prototyping und Profiling auf Metis und Europa sowie Entscheidung darüber, wie diese auf unserer Hardware laufen sollen.
• Produktisierung: Umwandlung Ihrer Ergebnisse und der Ergebnisse unserer ML-Forschungsgruppe in unterstützte Voyager SDK-Features, mit stabilen APIs, Tests, Dokumentation und Release Gates.
• Model-seitige Verträge: Für jeden LLM/VLM-Baustein verantworten Sie den PyTorch-Referenzcode mit integrierter Quantisierung, das Weight Mapping und einen Vertrag, der jeden Input, Output, jedes Weight und jeden persistenten Zustand (wie einen paged KV Cache) auflistet, und übergeben diesen Vertrag an das Compiler-Team. Die Runtime und die Tests verwenden dieselbe Definition.
• Pipeline-Integration: Integration von LLM- und VLM-Serving in den Voyager SDK Pipeline Builder: Prefill und Decode, KV-Cache-Management, Streaming-Textausgabe und multimodale Inputs.
• Qualität: Messung der Genauigkeit gegenüber der Floating-Point-Referenz zusammen mit den Regression- und Quantisierungs-Verantwortlichen sowie Schließen oder Erklären jeder Abweichung.
• LLM/VLM Bring-up Plattform: Erweiterung der Model Enablement Plattform für das LLM- und VLM Bring-up: Umgebungen mit Zugriff auf den Compiler, die Runtime und echte Hardware (zum Beispiel durch MCP-Tools), Closed-Loop-Läufe, die eine Änderung anwenden, die Genauigkeit und Geschwindigkeit gegenüber der Referenz messen und wiederholen, sowie Evaluierungen, die jeden Lauf bewerten.
• GenAI-Richtung: Empfehlung, was das Voyager SDK für GenAI, Agents und Sprache auf Edge-Geräten benötigt und welche Model Zoo Demos dies am besten zeigen.

Qualifikationen:

Essenziell

• Mehr als 5 Jahre Erfahrung im Software Engineering, davon mindestens 2 Jahre in ML Inference, ML Systems oder ML Tooling.
• Fundiertes Verständnis von Transformer Inference: Attention-Varianten, KV Caching, Prefill vs. Decode, Sampling, Tokenisierung und wie ein VLM einen Vision Encoder mit einem Sprachmodell verbindet.
• Praktische Kenntnisse der LLM-Quantisierung (Weight-only und Weight-Activation-Schemata, Kalibrierung, Umgang mit Outliern) und die Fähigkeit, einen Quantisierungsverlust von einem Implementierungsfehler zu unterscheiden.
• Starkes Python und PyTorch sowie Erfahrung in der Auslieferung von Software in Produktionsqualität.
• Tägliche Nutzung von KI-Coding-Agents auf realen Codebasen mit gutem Urteilsvermögen darüber, wann deren Ergebnisse zu verifizieren oder abzulehnen sind.
• Fähigkeit, Forschungscode und Hardware-Beschränkungen in ein praktisches Design zu überführen.

Bevorzugt

• Erfahrung mit Inference Engines oder Serving Stacks (zum Beispiel llama.cpp, vLLM, ONNX Runtime GenAI, ExecuTorch).
• Erfahrung mit Kernel-Entwicklung oder einem Tensor-Compiler (zum Beispiel Triton, TVM oder MLIR) oder mit dem Profiling von Modellen auf Beschleuniger-Hardware.
• Erfahrung mit Sprache (ASR, TTS) oder agentischen Anwendungen auf eingebetteten Geräten.
• Erfahrung im Aufbau von Evaluierungs- oder Test-Harnesses für ML-Systeme oder KI-Agents oder Tool-Calling-Agents (zum Beispiel MCP-Server).

Standort

Wir bieten flexible Arbeitsmodelle mit Optionen für:

• Arbeit in einem unserer Axelera AI Büros (Leuven in Belgien, Amsterdam und Eindhoven in den Niederlanden, Zürich in der Schweiz, Florenz und Mailand in Italien oder Bristol im Vereinigten Königreich), falls Sie bereits in der Nähe ansässig sind.
• Vollständig remote aus jedem europäischen Land (einschließlich des Vereinigten Königreichs), in dem Sie sich bereits befinden.
• Umzug mit uns und Arbeit in Italien (Florenz oder Mailand) oder den Niederlanden (Amsterdam oder Eindhoven).

Bitte beachten Sie, dass Bewerber, die [interessiert daran sind, in] Belgien oder Italien ansässig zu sein, Vorrang erhalten.

Was wir bieten

Dies ist Ihre Chance, eine dynamische, schnell wachsende, internationale Organisation mitzugestalten und Teil davon zu werden. Wir bieten ein attraktives Vergütungspaket, einschließlich eines Pensionsplans, umfangreicher Mitarbeiterversicherungen und der Option auf Unternehmensanteile.

Eine offene