Senior AI Application Engineer - LLM & VLM Enablement

À propos de nous

Axelera AI (https://www.axelera.ai) n'est pas une entreprise de deep-tech ordinaire. Nous créons la plateforme d'IA de nouvelle génération pour soutenir tous ceux qui veulent aider à faire progresser l'humanité et améliorer le monde qui nous entoure.

En seulement cinq ans, nous avons levé un total de $450 million et avons constitué une équipe de classe mondiale de plus de 250 employés (dont plus de 60 PhD avec plus de 40,000 citations), travaillant à la fois à distance depuis 21 pays différents et avec des bureaux en Belgique, France, Suisse, Italie, Royaume-Uni, avec un siège social au High Tech Campus à Eindhoven, Pays-Bas.

Nous avons également lancé notre Metis™ AI Platform, qui permet d'augmenter l'efficacité et la performance de 3-5x, et nous avons une visibilité sur un pipeline commercial solide dépassant les $100 million.

Notre engagement indéfectible envers l'innovation nous a fermement établis comme un pionnier mondial de l'industrie.

Êtes-vous prêt pour le défi ?

Aperçu du poste

En tant que Senior AI Application Engineer dans l'équipe Model Enablement (Application Software), vous serez responsable du support LLM et VLM sur Metis et Europa AIPUs, de l'étude des nouveaux modèles jusqu'à leur déploiement dans le Voyager SDK.

Le rôle combine des connaissances en LLM/VLM avec une solide ingénierie logicielle. Notre équipe utilise des agents de codage IA dans son travail quotidien, et vous les utiliserez pour construire, tester et vérifier votre propre travail.

Nous accueillons également les field application engineers expérimentés, les technical leads et les engineering managers qui souhaitent revenir à l'ingénierie pratique. L'expérience en planification, en délégation et en révision de travail se transpose bien au travail avec les agents IA.

Responsabilités clés :

• Étude LLM/VLM : Étudier les nouvelles familles et architectures de LLM et VLM (par exemple mixture-of-experts, petits VLMs, nouveaux schémas d'attention et de décodage). Prototyper et profiler sur Metis et Europa, et décider de la manière dont ils doivent s'exécuter sur notre matériel.
• Productisation : Transformer vos résultats et les résultats de notre groupe de recherche ML en fonctionnalités supportées du Voyager SDK, avec des API stables, des tests, de la documentation et des étapes de validation (release gates).
• Contrats côté modèle : Pour chaque bloc de construction LLM/VLM, être responsable de la référence PyTorch avec quantification intégrée, du mapping des poids, et d'un contrat listant chaque entrée, sortie, poids et état persistant (tel qu'un paged KV cache), et remettre ce contrat à l'équipe compilateur. Le runtime et les tests utilisent la même définition.
• Intégration pipeline : Intégrer le service LLM et VLM dans le constructeur de pipeline du Voyager SDK : prefill et decode, gestion du KV-cache, sortie de texte en streaming et entrées multimodales.
• Qualité : Avec les responsables de la régression et de la quantification, mesurer la précision par rapport à la référence en virgule flottante, et combler ou expliquer chaque écart.
• Plateforme de bring-up LLM/VLM : Étendre la plateforme d'activation de modèles pour le bring-up LLM et VLM : environnements avec accès au compilateur, au runtime et au matériel réel (par exemple via des outils MCP), des exécutions en boucle fermée qui appliquent un changement, mesurent la précision et la vitesse par rapport à la référence et répètent, et des évaluations qui scorent chaque exécution.
• Direction GenAI : Recommander ce dont le Voyager SDK a besoin pour la GenAI, les agents et la parole sur les appareils edge, et quels modèles du model zoo illustrent le mieux cela.

Qualifications :

Essentiel

• Plus de 5 ans d'expérience en ingénierie logicielle, avec au moins 2 ans en inférence ML, systèmes ML ou outillage ML.
• Compréhension solide de l'inférence transformer : variantes d'attention, KV caching, prefill versus decode, échantillonnage, tokenisation, et la manière dont un VLM joint un encodeur de vision à un modèle de langage.
• Connaissance pratique de la quantification LLM (schémas weight-only et weight-activation, calibration, gestion des valeurs aberrantes), et capacité à distinguer une perte de quantification d'un bug d'implémentation.
• Maîtrise de Python et PyTorch, et expérience du déploiement de logiciels de qualité production.
• Utilisation quotidienne d'agents de codage IA sur de véritables bases de code, avec un bon jugement sur quand vérifier ou rejeter leur production.
• Capacité à transformer du code de recherche et des contraintes matérielles en une conception pratique.

Préféré

• Expérience avec les moteurs d'inférence ou les piles de service (par exemple llama.cpp, vLLM, ONNX Runtime GenAI, ExecuTorch).
• Expérience avec le développement de kernels ou un compilateur de tenseurs (par exemple Triton, TVM ou MLIR), ou avec le profilage de modèles sur du matériel accélérateur.
• Expérience avec la parole (ASR, TTS) ou des applications agentiques sur des appareils embarqués.
• Expérience dans la construction de harnais d'évaluation ou de test pour les systèmes ML ou les agents IA, ou des agents d'appel d'outils (par exemple les serveurs MCP).

Lieu de travail

Nous proposons un aménagement de travail flexible, avec des options pour :

• Travailler depuis l'un de nos bureaux Axelera AI (Leuven en Belgique, Amsterdam et Eindhoven aux Pays-Bas, Zurich en Suisse, Florence et Milan en Italie ou Bristol au Royaume-Uni) si vous êtes déjà à proximité.
• Travailler entièrement à distance depuis n'importe quel pays européen (y compris le Royaume-Uni) où vous vous trouvez déjà.
• Vous relocaliser avec nous et travailler en Italie (Florence ou Milan) ou aux Pays-Bas (Amsterdam ou Eindhoven).

Veuillez noter que la priorité sera donnée aux candidats qui sont [intéressés par le fait d'être] basés en Belgique ou en Italie.

Ce que nous offrons

C'est votre chance de façonner et de faire partie d'une organisation internationale