Machine Learning Platform Engineer

Über A1 Es gibt heute über 5 Milliarden Nutzer, die Basisanwendungen wie E-Mail, Notizen und Aufgaben verwenden, die nicht AI-nativ sind. Unsere Mission ist es, einen proaktiven smarten Assistenten für alltägliche Nutzer zu bauen, um Intelligenz in Gespräche, Erledigungen, Organisation und Workflows zu bringen, mit minimalem Prompting. Unser Produkt konzentriert sich darauf, eine hohe Zuverlässigkeit für langlaufende Workflows, persistenten Kontext und die Erledigung von Aufgaben in der realen Welt zu erreichen. Das System muss mehrstufiges Denken beherrschen, mit externen Tools interagieren und trotz nicht-deterministischem Modellverhalten zuverlässig bleiben. Unser Ziel ist es, den Nutzern zu helfen, Aufgaben täglich angenehm mit über ~90%* reduzierter Zeit zu erledigen. Über die Rolle Als ML Platform Engineer werden Sie die Infrastruktur und die Systeme aufbauen, die die KI-Fähigkeiten von A1 antreiben. Sie werden die Systeme hinter dem AI-Stack entwerfen und betreiben, vom Modelltraining und der Evaluierung bis hin zu Deployment, Inferenz, Observability und kontinuierlicher Verbesserung. Sie werden eng mit AI Engineers, Forschern und Product Engineers zusammenarbeiten, um Modelle in zuverlässige, skalierbare und kosteneffiziente Produktionssysteme zu verwandeln. Sie werden die Plattformen, Tools und die Infrastruktur aufbauen, die es dem Team ermöglichen, schnell zu experimentieren und KI-Fähigkeiten mit Zuversicht in die Produktion zu bringen. Fokus - Aufbau und Betrieb der ML-Infrastruktur und Plattformen, die die KI-Produkte von A1 antreiben - Entwurf von Systemen für Modelltraining, Evaluierung, Deployment, Inferenz und Experimente - Aufbau und Optimierung der Model-Serving- und Inferenz-Infrastruktur für High-Throughput- und Low-Latency-Workloads - Verbesserung der Zuverlässigkeit, Skalierbarkeit, Latenz und Kosteneffizienz von KI-Systemen - Entwicklung zuverlässiger Pipelines für Datenaufbereitung, Training, Evaluierung, Modellveröffentlichung und kontinuierliche Verbesserung - Aufbau von Plattformen und Tools, die es AI Engineers und Forschern ermöglichen, Modelle schneller zu experimentieren, zu evaluieren und auszuliefern - Entwicklung von Evaluierungs- und Benchmarking-Infrastrukturen, um Modellqualität, Performance und Regressionen zu messen - Aufbau von Production Observability, Monitoring, Tracing und Alerting für AI/ML-Workloads - Verbesserung von KI-Systemen in Bezug auf Zuverlässigkeit, Skalierbarkeit, Latenz, Durchsatz und Kosten - Identifizierung von Engpässen im ML-Stack und kontinuierliche Verbesserung der Systemleistung - Enge Zusammenarbeit mit AI Engineers, Forschern und Produktteams, um sich entwickelnde Modellanforderungen in produktionsreife Infrastruktur zu verwandeln Tech Stack - Python - PyTorch / JAX - LLM und ML Serving Infrastruktur wie vLLM, SGLang oder TensorRT-LLM - Cloud Infrastruktur - Verteilte Systeme - ML/Data Pipelines und Workflow-Orchestrierung - GPU Infrastruktur und Performance-Tools - Vektordatenbanken und Retrieval-Infrastruktur Ideale Erfahrung - Starke Fundamentalkenntnisse im Software Engineering und Erfahrung im Aufbau von Produktionssystemen - Erfahrung im Aufbau von ML-Infrastruktur, Plattformen oder produktionsreifen Machine-Learning-Systemen - Erfahrung mit Modell-Deployment, Inferenz, Evaluierung oder Daten-Pipelines - Starkes Verständnis von verteilten Systemen und Systemzuverlässigkeit - Fähigkeit, sauberen, wartbaren Code in Produktionsqualität zu schreiben - Komfortabler Umgang mit ambivalenten, schnelllebigen Umgebungen - Tendenz zu Eigenverantwortung, Experimentierfreudigkeit und kontinuierlicher Verbesserung Ergebnisse - Die KI-Infrastruktur unterstützt Produktions-Workloads zuverlässig in großem Maßstab - Modelle können effizient trainiert, evaluiert, bereitgestellt und verbessert werden - Inferenzsysteme liefern starke Latenz, Durchsatz, Zuverlässigkeit und Kosteneffizienz - ML-Pipelines sind reproduzierbar, beobachtbar, wartbar und robust - Modell- und Infrastruktur-Regressionen werden schnell erkannt und effizient diagnostiziert - Gemeinsame ML-Infrastruktur-Fähigkeiten werden zu wiederverwendbaren Plattform-Primitiven, anstatt für jedes KI-Produkt neu gebaut zu werden - Der AI-Stack kann sich schnell entwickeln, wenn neue Modelle, Architekturen und Inferenztechniken entstehen